Императордың жаңа AI және оның астындағы шірік негізі
AI бәрімізді құтқаратын кезі есіңізде ме? Құтқарушылар енді тайм-аут сұрап жатыр екен. Жақында ғана біздің AI-ге негізделген болашағымыздың сәулетшілері - «шекара» зерттеушілері мен қаржылық ауыр салмақты адамдар - «қауіпсіздік мәселелерінің күшеюіне» байланысты дамудың бәсеңдеуін талап етіп, бірлесіп тежегіштерді басқарды [1]. Нарық, әрқашан өткір құрал, өкпені жөтелмен жауап берді: чип қорлары мен негізгі AI ойыншылары құлдырады [2]. Бейжің, болжам бойынша, ескертулерді мазақ етті, ал Сеулдің чиптері болашақ AI жетістіктері үшін алдын ала төлемдерден бас тартты [2].
Бұл піл сүйегінен жасалған мұнараға қатысты тек философиялық пікірталас емес. Бұл сейсмикалық ауысым, саланың элитасының ұқыпсыздығын көпшілік мойындауы. Шынын айтқанда, бұл сәл тым ыңғайлы.
AI кідірісі: альтруизм немесе Power Play?
Түсінікті болайық: зымыран жасаған адамдар кенеттен парашюттерді ұшырғаннан кейін ұмытып кеткенін түсінгенде, бұл терең этикалық ояту сәті емес. Бұл кешіктірілген, өз-өзіне қызмет ететін шиеленіс. Бұлар көзді ашқан идеалистер емес; Бұл педальды металға итеріп, экспоненциалды өсу мен нарықтағы үстемдікке ұмтылған титандар. Енді, «күтпеген салдарлар» кеңейіп бара жатқанда, және, мүмкін, циникальды түрде, қазіргі қарқынның тұрақсыз екенін немесе олардың көшбасшылығын нығайту қажет екенін түсіну - олар ұжымдық тыныс алуға шақыруда.
Нарықтың реакциясы айтып тұр. Чип қорларының құлдырауы қорқыныш туралы ғана емес; бұл әлеуетті бәсеңдеудің тікелей қаржылық салдары туралы. Пекиннің кері шегініс? Ұлттық стратегиялық артықшылық абстрактілі қауіпсіздік мәселелерінен де басым болатынының айқын белгісі. Ал Сеулдің чип жасаушылары алдын ала төлемдерден бас тартады ма? Бұл кенеттен белгісіз болашақтың ұзақ мерзімді тұрақтылығы мен табыстылығына күмән келтіретін капиталдың дыбысы.
Біз үшін, CTO және инженерлік жетекшілер, бұл тікелей хаотикалық ландшафтқа айналады. AI жобаларына қайта басымдық беруге мәжбүрлейтін реттеуші араласулардың жылдамдатылуын күтіңіз. Жасанды интеллектке арналған «тез қозғалу және заттарды сындыру» этикасы ресми түрде өлді, оның орнына бірінші күннен бастап әзірленуі керек болатын «Этикалық AI дамыту» құрылымдарын іздеумен ауыстырылды. Инвестициялар сақтыққа айналады, стратегиялар өзгереді және иә, еңбек нарықтары салқындықты сезінеді, өйткені алтын асқыну өлшенген және жауаптырақ көзқарасқа ауысады. Бірақ мұны таза альтруизм деп қателеспейік. Бұл «үзіліс» шынайы қауіпсіздікке қатысты сияқты бақылау мен нарықты қайта калибрлеуге де қатысты.
Титандар пікірталас кезінде, Қор ыдырады
Енді, AI элитасы өзінің экзистенциалды дағдарысын бастан кешіріп, болашақ суперинтеллекттің этикасын талқылап жатқанда, дәл қазір * болып жатқан өте нақты, қазіргі және мүлде апатты қауіпсіздік дағдарысы туралы сөйлесейік.
Осы аптада CISA өзінің белгілі пайдаланылған осалдықтар каталогына бірнеше жаңа CVE қосты [3]. Біз Cisco Secure Email Gateway (CVE-2023-20269) [4] жүйесінде расталған түбірлік RCE туралы, GitLab жүйесіндегі CVSS 10.0 трассасы (CVE-2023-2825) [3] және жақында түзетілген Chrome нөлдік күн (CVE-482) [3-862] назар аударған [3-862] туралы айтып отырмыз.
Бірақ қауіпсіздіктің әрбір кәсіпқойын босқа айқайлауға мәжбүр ететін нағыз ішек соққысы - бұл іргетастағы кемшіліктердің тұрақты қаупі. CVE-2021-1647, Microsoft Defender зиянды бағдарламаны қорғау жүйесіндегі жергілікті артықшылықты арттыру осалдығын қарастырайық [5]. Бұл түсініксіз кемшілік емес еді; оның жалпыға ортақ дәлелі болды және жабайы табиғатта белсенді түрде пайдаланылды, бұл цифрлық қорғанысымыздың маңызды құрамдас бөліктерінің бұзылып, белгілі бір уақыт ішінде осал болып қалуы мүмкін екенін көрсетеді.
Біз AI сезімталдығының этикасын талқылап жатқан кезде, соңғы нүктелерімізді қорғауға арналған бағдарламалық қамтамасыз етудің өзі, цифрлық қорғанысымыздың негізгі қабаты, шабуылдаушыға артықшылықтарды көтеруге мүмкіндік беретін жалпыға белгілі, белсенді түрде пайдаланылған кемшіліктерді сақтайтыны көрсетілді. Бұл сіздің көлігіңіздің тежегіштері істен шығып, қозғалтқышы өртеніп жатқанда, бұралу дискінің философиялық салдары туралы дауласуға ұқсайды.
Есеп: Бір тиынның екі беті
Бұл бөлек әңгімелер емес. Олар бір терең ақаулы тиынның екі жағы: іргелі қауіпсіздік, тұрақтылық және жауапкершіліктен гөрі жылдамдықты, жаңалықты және инновацияны қабылдайтын технология саласы.
Жасанды интеллект көшбасшыларының кенеттен бәсеңдетуге шақыруы - олар жабайы табиғатқа қуатты, нашар түсінілген жүйелерді жібергеннен кейін * бағытты түзетуге бағытталған реактивті, өзіне қызмет ету әрекеті. Бұл әлемді өзгертуі мүмкін технологияға қолданылғанда «жылдам қозғал және заттарды сындыр» мантрасы жай ғана жауапсыздық емес, сонымен бірге қауіпті екенін мойындау.
Нөлдік күндік шабуыл, әсіресе Defender-тің маңызды осалдығы, іргелі АТ-ға қолданылатын дәл осындай ойлаудың тікелей, ауыр салдары болып табылады. Бұл көбінесе қауіпсіздікті әрбір өнім мен жүйенің ажырамас, келісілмейтін құрамдас бөлігі емес, кейіннен ойластырылған, сәйкестікке құсбелгі немесе шығындар орталығы ретінде қарайтын мәдениеттің нәтижесі. Біз келесі жылтыр нысанды - келесі LLM, келесі AI агентін - қуып жатқанымыз сонша, аяғымыздың астындағы жердің шіріп кетуіне жол бердік.
КТО және инженерлік жетекшілер үшін бұл хабар анық және дереу. Арнаңызды кесіп өтетін әрбір AI трендін қудалауды тоқтатыңыз. Негіздерді екі есе төмендетіңіз. Әсіресе Cisco, GitLab жүйелеріндегі сыни, белсенді түрде пайдаланылған осалдықтар және Defender-тің бұрынғы LPE мысалында көрсетілген тұрақты қауіп үшін түзетуге басымдық беріңіз. Күшті жұмсарту шараларын енгізіңіз. Жеткізушілеріңізден олардың мүмкіндіктерінің жол картасы ғана емес, олардың қауіпсіздік жағдайы үшін жауапкершілікті талап етіңіз.
Нарықтың құлдырауы және шешілмеген негізгі қауіпсіздік мәселелері жай ғана жаңалықтар емес. Олар есеп. Тым жылдам, тым абайсыз және ақырында тым ашық технологиялық әлем. Есейіп, іргетасымызды бекітіп, сонда ғана, келесі шекараны абайлап қарастыратын кез келді.
Дереккөздер
[1] Өмірдің болашағы институты — Үлкен AI эксперименттерін кідірту: Ашық хат — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI сарапшылары озық AI жүйелерін әзірлеуді кідіртуге шақырады — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Белгілі пайдаланылған осалдықтар каталогы — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email және Web Manager, Cisco Email Security Appliance және Cisco Web Security Appliance осалдықтары — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-Q8Xu- [5] Microsoft қауіпсіздік әрекеті орталығы — Microsoft Defender жергілікті артықшылықты арттыру осалдығы — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647