Imperatorning yangi AI va uning ostidagi chirigan poydevor
Esingizda bo'lsin, AI qachon barchamizni qutqaradi? Ma'lum bo'lishicha, qutqaruvchilar endi taym-aut so'rashmoqda. Yaqinda sun'iy intellektga asoslangan kelajagimiz me'morlari - "chegarachi" tadqiqotchilar va moliyaviy og'ir vazn toifalari birgalikda "xavfsizlik xavotirlarining kuchayishi" tufayli rivojlanishni sekinlashtirishni talab qilib, tormozni bosdilar. Bozor, har doim to'mtoq vosita bo'lib, o'pka yo'tali bilan javob berdi: chiplar zaxiralari va asosiy AI o'yinchilari qulab tushdi [2]. Taxminlarga ko'ra, Pekin ogohlantirishlarni masxara qildi, Seulning chip gigantlari esa kelajakdagi sun'iy intellekt yutuqlari uchun oldindan to'lovlarni rad etishdi [2].
Bu fil suyagi minorasi uchun shunchaki falsafiy bahs emas. Bu seysmik siljish, sanoat elitasining beparvoligining jamoatchilik tomonidan tan olinishi. Ochig'ini aytganda, bu juda qulay.
AI pauzasi: altruizm yoki Power Play?
Ochig'ini aytaylik: raketani qurgan odamlar birdan parashyutlarni * uchirgandan keyin unutganliklarini anglab etishsa, bu chuqur axloqiy uyg'onish lahzasi emas. Bu kechikkan, o‘z-o‘ziga xizmat qiladigan kurash. Bular katta ko'zli idealistlar emas; Bular eksponentsial o'sish va bozor hukmronligini ta'qib qilib, pedalni metallga surib kelayotgan titanlar. Endi esa, “kutilmagan oqibatlar” ko‘z o‘ngida paydo bo‘lgan va ehtimol, behayoroq qilib aytganda, hozirgi sur’at barqaror emasligini yoki ular o‘z yetakchiliklarini mustahkamlashlari zarurligini anglashlari bilan ular birgalikda nafas olishga chaqirmoqda.
Bozorning reaktsiyasi shuni ko'rsatadi. Chip aktsiyalaridagi pasayish faqat qo'rquv bilan bog'liq emas; Bu potentsial sekinlashuvning bevosita moliyaviy oqibatlari haqida. Pekinning zarbasi? Milliy strategik ustunlik mavhum xavfsizlik tashvishlaridan ustun turishining aniq belgisi. Va Seul chips ishlab chiqaruvchilari oldindan to'lovlarni rad etishadimi? Bu to'satdan noaniq kelajakning uzoq muddatli barqarorligi va rentabelligini shubha ostiga qo'ygan kapitalning ovozidir.
Biz uchun, CTO va muhandislik rahbarlari, bu to'g'ridan-to'g'ri xaotik manzaraga aylanadi. Tartibga soluvchi choralar tezlashishini kuting, bu esa AI loyihalariga qayta ustuvorlik berishga majbur qiladi. AI uchun "tez harakat qilish va narsalarni buzish" odob-axloqi rasman o'lik bo'lib, o'rniga birinchi kundan boshlab tayyorlanishi kerak bo'lgan "axloqiy sun'iy intellektni rivojlantirish" ramkalarini hayajonli izlash egalladi. Investitsiyalar yanada ehtiyotkor bo'ladi, strategiyalar o'zgaradi va ha, mehnat bozorlari sovuqni his qiladi, chunki oltin shovqini yanada o'lchovli va umid qilamanki, yanada mas'uliyatli yondashuvga o'tadi. Ammo buni sof altruizm deb adashtirmaylik. Ushbu "pauza" haqiqiy xavfsizlik bilan bir qatorda nazorat va bozorni qayta kalibrlash bilan bog'liq.
Titanlar bahs-munozara qilayotganda, Fond qulab tushadi
Endi, sun'iy intellekt elitasi o'zlarining ekzistensial inqirozini boshdan kechirayotgan bir paytda, kelajakdagi super intellektning etikasi haqida bahslashar ekan, keling, hozir * sodir bo'layotgan juda haqiqiy, hozirgi va mutlaqo halokatli xavfsizlik inqirozi haqida gapiraylik.
Bu hafta CISA o'zining Ma'lum bo'lgan ekspluatatsiya qilingan zaifliklar katalogiga bir nechta yangi CVE qo'shdi [3]. Gap Cisco Secure Email Gateway (CVE-2023-20269) [4] da tasdiqlangan ildiz RCE, GitLab da CVSS 10.0 traversal (CVE-2023-2825) [3] va yaqinda yamalgan Chrome nol kunlik (CVE-2026) [3-media talabi] [3-482] eʼtiborini talab qiladi.
Ammo har bir xavfsizlik bo'yicha mutaxassisni bo'sh joyga hayqirishi kerak bo'lgan haqiqiy zarba - bu poydevor kamchiliklarining doimiy tahdididir. CVE-2021-1647 ni ko'rib chiqing, Microsoft Defender zararli dasturlardan himoya qilish mexanizmidagi mahalliy imtiyozlarni kuchaytirish zaifligi [5]. Bu qandaydir noaniq kamchilik emas edi; u ochiq kontseptsiya isbotiga ega edi va yovvoyi tabiatda faol foydalanildi, bu bizning raqamli himoyamizning muhim tarkibiy qismlari qanday xavf ostida bo'lishi va ma'lum bir vaqt davomida zaif bo'lib qolishi mumkinligini ta'kidlaydi.
Biz sun'iy intellektning sezgirligi etikasi haqida bahs yuritayotganimizda, raqamli himoyamizning asosiy qatlami bo'lgan so'nggi nuqtalarimizni himoya qilish uchun mo'ljallangan dasturiy ta'minot tajovuzkorga imtiyozlarni oshirishga imkon beruvchi ommaga ma'lum, faol foydalaniladigan kamchiliklarni o'z ichiga olishi ko'rsatilgan. Bu xuddi mashinangizning tormozlari ishlamay qolganda va dvigatel yonayotgan paytda burilish mexanizmining falsafiy oqibatlari haqida bahslashishga o‘xshaydi.
Hisob: Bir tanganing ikki tomoni
Bu alohida hikoyalar emas. Ular bir xil chuqur nuqsonli tanganing ikki tomonidir: asosiy xavfsizlik, barqarorlik va mas'uliyatdan ko'ra tezlik, yangilik va innovatsiyalarni doimiy ravishda birinchi o'ringa qo'ygan texnologiya sanoati.
Sun'iy intellekt rahbarlarining to'satdan sekinlashuvga chaqiruvi - ular allaqachon kuchli, yaxshi tushunilmagan tizimlarni yovvoyi tabiatga qo'yib yuborganlaridan keyin * yo'nalishni to'g'rilashga bo'lgan reaktiv, o'z-o'ziga xizmat qiladigan urinishdir. Bu “tez harakat va narsalarni sindirish” mantrasi dunyoni o'zgartirishi mumkin bo'lgan texnologiyaga nisbatan qo'llanilganda nafaqat mas'uliyatsizlik, balki xavfli ekanligini tan olishdir.
Nolinchi kunlik hujum, xususan, Defenderning tanqidiy zaifligi, IT-ga asoslanadigan xuddi shunday fikrlashning bevosita va og'riqli natijasidir. Bu har bir mahsulot va tizimning ajralmas, kelishib bo‘lmaydigan komponenti emas, balki xavfsizlikni ko‘pincha keyin o‘ylangan narsa, muvofiqlikni belgilash katakchasi yoki xarajat markazi sifatida ko‘radigan madaniyat natijasidir. Biz keyingi yorqin ob'ektni - keyingi LLMni, keyingi AI agentini - ta'qib qilish bilan shunchalik bandmizki, oyoqlarimiz ostidagi yerning chirishiga yo'l qo'ydik.
Texnik direktorlar va muhandislik rahbarlari uchun xabar aniq va darhol. Tasmangizni kesib o'tadigan har bir AI trendini ta'qib qilishni to'xtating. Asoslarni ikki baravar kamaytiring. Ayniqsa, Cisco, GitLab kabi muhim, faol foydalaniladigan zaifliklar va Defenderning o‘tmishdagi LPElari misolida keltirilgan doimiy tahdidlar uchun tuzatishga ustuvor ahamiyat bering. Kuchli yumshatish choralarini qo'llang. Sotuvchilaringizdan nafaqat xususiyatlarning yo'l xaritasi, balki ularning xavfsizlik holati uchun javobgarlikni talab qiling.
Bozorning qulashi va hal qilinmagan asosiy xavfsizlik muammolari shunchaki yangiliklar emas. Ular hisob-kitobdir. Juda tez, juda ehtiyotsiz va nihoyat, haddan tashqari oshkor bo'lgan texnologik dunyo. O'sib-ulg'ayish, poydevorimizni mustahkamlash va keyin faqatgina, keyingi chegarani ehtiyotkorlik bilan ko'rib chiqish vaqti keldi.
Manbalar
[1] Hayotning kelajagi instituti - Gigant AI tajribalarini to'xtatib turish: ochiq xat — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI mutaxassislari ilg‘or AI tizimlarini ishlab chiqishda pauza qilishga chaqirmoqda — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Maʼlum boʻlgan ekspluatatsiya qilingan zaifliklar katalogi — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email va Web Manager, Cisco Email Security Appliance va Cisco Web Security Appliance zaifliklari — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce- [5] Microsoft Xavfsizlik choralari markazi — Microsoft Defender mahalliy imtiyozlar kuchayishi zaifligi — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647