AI sekinlashuvi chalg'itadi. Uyingiz yonmoqda.
Ochig'ini aytaylik: texnologiya sanoati nihoyat sun'iy intellekt yordamida "Isoga kelish" lahzasini boshdan kechirmoqda, lekin u chinakam tavba qilish kabi emas, balki strategik yo'nalishga o'xshaydi. To'satdan, ushbu dahshatli AI poygasining me'morlari - taniqli tadqiqotchilar va ularning kofeinli sprintlarini moliyalashtirgan moliyachilar - sekinlashishni talab qilmoqdalar [1]. Ular "ichki boshqaruv", "axloqiy asoslar" va "ko'proq qasddan" sur'at haqida gapirishmoqda. Va bozor, har doimgidek sezgir barometr, allaqachon AI investitsiyalarining barqarorligi haqidagi xavotirlar bilan reaksiyaga kirishdi, bu esa chiplar zaxiralarining o'zgaruvchanligini keltirib chiqaradi [2].
Bu tashqi tartibga solish emas; bu AI ekotizimining o'zidan paydo bo'ladigan ichki "nosozlik chizig'i". Va C to'plami kelajakdagi ijodlarining falsafiy oqibatlari haqida bahslashar ekan, hozirgi faol yonmoqda.
Qulay pauza
Vaqtni ko'rib chiqing. Ko'p yillar davomida mantra "tez harakat qiling va narsalarni buzing" yoki yaqinda "tez harakat qiling va AGI quring". Endi, kuchli modellar allaqachon o'rnatilgan, raqobatbardosh landshaft katta darajada aniqlangan va haqiqiy, mazmunli tartibga solish xayolotlari yaqinlashganda, ehtiyot bo'lishga chaqiriqlar biroz bo'sh qolmoqda. Bu chuqur xavf-xatarlarga nisbatan chinakam uyg'onishmi yoki qudratni birlashtirish, raqobatchilarni sekinlashtirish va vilkalar paydo bo'lishidan oldin jamoatchilik idrokini boshqarish uchun hisoblangan manevrmi?
Hisoblash, iste'dod va asosiy modellar bozorini allaqachon burchakka qo'ygan bo'lsangiz, ehtiyotkorlikni va'z qilish oson. Sanoatning to'satdan "mahsulotning yo'l xaritalarini qayta baholash, xavflarni baholash va strategik rejalashtirish" ga e'tibor qaratishi olijanob tuyuladi, ammo bu resurslarni qayta moslashtirishning qulay usuli kabi ko'rinadi. Bu muhim manbalarga kirishni nazorat qilish yoki me'yoriy-huquqiy bazaga ta'sir qilish orqali o'rnatilgan gigantlarga qarshi chiqishlari mumkin bo'lgan ochiq manbali alternativalarni yoki kichikroq o'yinchilarni sekinlashtirishi mumkin. "Axloqiy asos" to'satdan birinchi o'ringa chiqadi, bu modellar qirqib olingan ma'lumotlarga o'rgatilganda emas, balki hozir ular jamiyatni chinakam o'zgartirish uchun etarlicha kuchli.
Akademik va ilmiy hamjamiyatlarda ochiq muammolarni hal qilish uchun sun'iy intellektning "yechimlari" ularning sohalari yaxlitligiga tahdid solishi mumkinligidan ogohlantiruvchi xavotirlar [3] bu ichki tashvish chuqurligining yorqin ko'rsatkichidir. Ammo buni altruizm bilan adashmaylik. Bu AIning ish joylari yoki infratuzilmaga ta'siri haqida emas; Bu nazorat haqida – uni kim va qanday tezlikda qo'llaydi. Munozara kamroq "biz uni qurishimiz kerakmi?" va yana "biz uni qanchalik tez quramiz va kim foyda ko'radi?"
Ular kelajak haqida bahslashayotganda, hozirgi kuningiz xavf ostida
Endi keling, AIning ichki yorilishi haqidagi mavhum, kelajakka mo'ljallangan tashvishlardan * hozirda * tarmoqlarimizda ro'y berayotgan bevosita, aniq inqirozga o'taylik. AI titanlari o'z mashinalarining ruhi haqida o'ylashayotganda, sizning operatsion guruhlaringiz kiberxavfsizlik falokatini to'liq qamrab olish uchun kurashmoqda.
Biz nazariy tahdidlar yoki umumiy tendentsiyalar haqida gapirmayapmiz. Biz asosiy korporativ dasturiy ta'minotdagi nol kunlik zaifliklardan faol foydalanilgan holda, balyoz kuchi bilan muhim infratuzilmaga zarba berish haqida gapiramiz.
- Ivanti Connect Secure va Policy Secure (CVE-2023-46805 va CVE-2024-21887): Bu shunchaki xato emas; bu ochilgan yara. Ivanti-ning VPN va tarmoqqa kirish yechimlaridagi ushbu zaifliklardan faol foydalanildi, bu esa tajovuzkorlarga autentifikatsiyani chetlab o‘tish va masofaviy buyruqlarni bajarish imkonini berdi. CISA xavfsiz masofadan kirish uchun ushbu tizimlarga tayanadigan tashkilotlar uchun muhim xavfni ta'kidlab, bir nechta ogohlantirishlarni chiqardi [4]. Sizning asosiy tarmoq mudofaangiz, siz darvoza oldidagi yovuz odamlarni to'xtatish uchun tayanadigan narsangiz, tajovuzkorlarga son-sanoqsiz korporativ tarmoqlarga chuqur kirish huquqini berish uchun faol foydalanilmoqda.
- Cisco IOS XE Web UI (CVE-2023-20198): Maksimal jiddiylik. Faol ekspluatatsiya qilingan. Ushbu zaiflik autentifikatsiya qilinmagan tajovuzkorlarga imtiyozli hisoblar yaratish va ta'sirlangan Cisco IOS XE qurilmalarini to'liq nazorat qilish imkonini beradi. Agar tajovuzkor tarmoq infratuzilmangizni boshqarish tekisligiga egalik qilsa, ular butun tarmog'ingizga egalik qiladilar. Oʻyin tugadi [5].
CISA o'yin-kulgi uchun "ogohlantirishlar" bermayapti; ular gavjum teatrda “olov” deb baqirishmoqda. Bular shunchaki nazariy tahdidlar emas; ular global korxonalarda asosiy himoya va boshqaruv tizimlarini buzish uchun faol foydalanilmoqda.
Haqiqiy nosozlik chizig'i
Ironiya shu qadar qalinki, uni zerikarli pichoq bilan kesishingiz mumkin. Bir tomondan, bizda AI elitasi hali ham qurayotgan kelajakning axloqiy oqibatlari haqida bahslashmoqda va yillar davomida nazoratsiz tezlashuvdan keyin sekinlashishga chaqirmoqda. Boshqa tomondan, bizda * joriy * asosiy texnologiyamizning bevosita, ekzistensial tahdidi mavjud bo'lib, hal qilinmagan, tuzatilmagan zaifliklar og'irligi ostida faol ravishda qulab tushadi.
Haqiqiy "nosozlik chizig'i" nafaqat AI hamjamiyatida; Bu innovatsiyalarning fil suyagi minorasi va operatsion haqiqat xandaqlari o'rtasida. Bu sun'iy intellekt uchun "o'z-o'zini tartibga solish" bo'yicha mavhum, kelajakka qaratilgan munozaralar va biz tayanadigan tizimlarda * haqiqiy * xavfsizlik va barqarorlikka bevosita, aniq ehtiyoj o'rtasida.
Texnik direktorlar va muhandislik etakchilari sifatida biz sun'iy intellektning sekinlashishi haqidagi falsafiy munozaralar bilan chalg'itishga qodir emasmiz. Garchi bu munozaralar uzoq muddat uchun muhim bo'lsa-da, sizning uyingiz faol yonayotgan paytda ular hashamatdir. "Mahsulot yo'l xaritalarini qayta baholash" bizning mavjud infratuzilmamizning qulab tushayotgan poydevorini mustahkamlashdan boshlanishi kerak. "Xavflarni baholash" operatsion uzluksizligi va ma'lumotlar yaxlitligini xavf ostiga qo'yadigan tezkor, faol foydalaniladigan tahdidlarga bugungi kunda ustuvor ahamiyat berishi kerak.
Sanoatning ustuvor yo'nalishlari noto'g'ri. Biz faol ravishda chiriyotgan poydevor ustiga tezroq, yorqinroq narsalarni qurmoqdamiz. Sun'iy intellektni sekinlashtirishga chaqirish zaruriy suhbat bo'lishi mumkin, ammo biz Ivanti va Cisco bilan nol kunlar davomida ishlayotganlar uchun bu tom g'orlari ichkariga kirayotganda pardalar rangini muhokama qilishdek tuyuladi. Hozirgi kunga e'tibor qarating. Kelajak biz faol ravishda qon to'kilmaguncha kutishi mumkin.
Manbalar
[1] Gigant AI tajribalarini to'xtatish uchun ochiq xat — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI aktsiyalari o'sib bormoqda, ammo ba'zi investorlar asabiylashmoqda — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Fandagi AI inqilobi: va'dalar va xavflar — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure va Ivanti Policy Secure zaifliklaridan foydalanadigan tahdid qiluvchi aktyorlar — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE dasturiy taʼminotining Web UI zaifligidan foydalanadigan tahdid qiluvchilar — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a