Жасанды интеллекттің баяулауы — алаңдаушылық. Сіздің үйіңіз өртеніп жатыр.
Ашық болайық: технология индустриясы AI-мен «Исаға келу» сәтін бастан кешіруде, бірақ ол шынайы өкіну сияқты емес, стратегиялық тірек сияқты сезінеді. Кенеттен, осы керемет AI жарысының сәулетшілері - көрнекті зерттеушілер мен олардың кофеинмен спринттерін қаржыландырған қаржыгерлер - баяулауды талап етеді [1]. Олар «ішкі басқару», «этикалық шеңберлер» және «әдейі» қарқын туралы айтып жатыр. Нарық, әрқашан сезімтал барометр, чип қорларындағы құбылмалылықты тудыратын AI инвестицияларының тұрақтылығына қатысты алаңдаушылықпен жауап берді [2].
Бұл сыртқы реттеу емес; бұл AI экожүйесінің өзінен пайда болатын ішкі «қате сызығы». C-люкс олардың болашақ туындыларының философиялық салдары туралы пікірталас жүргізіп жатқанда, қазіргі уақыт белсенді түрде жанып жатыр.
Ыңғайлы үзіліс
Уақытты қарастырыңыз. Көптеген жылдар бойы мантра «тез қозғалып, заттарды сындырыңыз» немесе жақында «тез қозғалып, AGI құрастырыңыз» болды. Қазірдің өзінде қуатты модельдер орналастырылған, бәсекеге қабілетті ландшафт айтарлықтай анықталған және нақты, мағыналы реттеулер келе жатқан кезде, сақтыққа шақырулар аздап босайды. Бұл терең тәуекелдерге шынайы ояту ма, әлде билікті біріктіру, бәсекелестерді баяулату және айырлар шыққанға дейін қоғамдық қабылдауды басқару үшін есептелген маневр ме?
Есептеу, дарындылық және негізгі үлгілер бойынша нарықты бұрмалап қойған болсаңыз, сақтықты уағыздау оңай. Өнеркәсіптің кенеттен «өнімнің жол карталарын қайта бағалауға, тәуекелдерді бағалауға және стратегиялық жоспарлауға» назар аударуы жақсы естіледі, бірақ бұл ресурстарды қайта теңестірудің ыңғайлы әдісі сияқты естіледі. Бұл маңызды ресурстарға қол жеткізуді бақылау немесе реттеуші негіздерге әсер ету арқылы белгіленген алыптарға қарсы шығуы мүмкін ашық бастапқы баламаларды немесе кішірек ойыншыларды баяулатуы мүмкін. «Этикалық шеңбер» кенеттен маңызды болып табылады, бұл модельдер жойылған деректер бойынша дайындалған кезде емес, бірақ қазір олар қоғамды шынымен қайта құруға жеткілікті күшті.
Академиялық және ғылыми қауымдастықтарда ашық проблемаларды шешуге арналған AI «шешімдері» олардың салаларының тұтастығына қауіп төндіруі мүмкін екенін ескерткен алаңдаушылық [3] осы ішкі алаңдаушылықтың тереңдігінің айқын көрсеткіші болып табылады. Бірақ мұны альтруизм деп қателеспейік. Бұл AI жұмыс орындарына немесе инфрақұрылымға әсері туралы емес; бұл бақылау туралы – оны кім және қандай қарқынмен басқарады. Пікірталас «оны салуымыз керек пе?» туралы азырақ. және «біз оны қаншалықты жылдам тұрғызамыз және кім пайда табады?» деген сұрақтар туралы көбірек біліңіз.
Олар болашақты талқылап жатқанда, сіздің бүгінгі күніңіз бұзылады
Енді жасанды интеллекттің ішкі алауыздығына қатысты дерексіз, болашаққа бағытталған алаңдаушылықтардан біздің желілерде дәл қазір болып жатқан шұғыл, нақты дағдарысқа тоқталайық. AI титандары өз машиналарының жан-дүниесін ойластырып жатқанда, сіздің операциялық топтарыңыз киберқауіпсіздіктің толық апатын болдырмауға тырысуда.
Біз теориялық қауіптер немесе жалпы үрдістер туралы айтып отырған жоқпыз. Біз іргелі кәсіпорын бағдарламалық жасақтамасының белсенді түрде пайдаланылған нөлдік күндік осалдықтары туралы айтып отырмыз, бұл сыни инфрақұрылымға балғаның күшімен соққы береді.
- Ivanti Connect Secure және Policy Secure (CVE-2023-46805 және CVE-2024-21887): Бұл жай ғана қате емес; бұл саңылаусыз жара. Ивантидің VPN және желіге кіру шешімдеріндегі бұл осалдықтар шабуылдаушыларға аутентификацияны айналып өтуге және қашықтағы пәрмендерді орындауға мүмкіндік беретін белсенді түрде пайдаланылды. CISA қауіпсіз қашықтан қол жеткізу үшін осы жүйелерге сүйенетін ұйымдар үшін маңызды тәуекелді көрсететін бірнеше ескертулер шығарды [4]. Сіздің негізгі желілік қорғанысыңыз, сіз қақпадағы зұлым адамдарды тоқтатуға сенетін жалғыз нәрсе, шабуылдаушыларға сансыз кәсіпорын желілеріне терең рұқсат беру үшін белсенді түрде пайдаланылуда.
- Cisco IOS XE Web UI (CVE-2023-20198): Ең үлкен ауырлық. Белсенді түрде пайдаланылды. Бұл осалдық аутентификацияланбаған шабуылдаушыларға артықшылықты тіркелгілерді жасауға және зардап шеккен Cisco IOS XE құрылғыларын толық бақылауға мүмкіндік береді. Егер шабуылдаушы сіздің желілік инфрақұрылымыңызды басқару жоспарына ие болса, олар сіздің бүкіл желіңізді иеленеді. Ойын аяқталды [5].
CISA көңіл көтеру үшін «ескертулер» бермейді; олар толып жатқан театрда «өрт» деп айқайлап жатыр. Бұл тек теориялық қауіптер емес; олар жаһандық кәсіпорындарда негізгі қорғаныс пен басқару жүйелерін бұзу үшін белсенді түрде пайдаланылады.
Нағыз ақау сызығы
Ирония соншалықты қалың, оны түтіккен пышақпен кесуге болады. Бір жағынан, бізде AI элитасы әлі де құрып жатқан болашақтың этикалық салдарын талқылап, жылдар бойы бақылаусыз жеделдетуден кейін баяулауды талап етеді. Екінші жағынан, бізде ағымдағы іргелі технологияның тікелей, экзистенциалды қаупі бар.
Нағыз «қате сызығы» тек AI қауымдастығында ғана емес; бұл инновацияның піл сүйегі мұнарасы мен операциялық шындық траншеяларының арасында. Бұл AI үшін «өзін-өзі реттеу» туралы дерексіз, болашаққа бағытталған талқылаулар мен бүгін біз сенетін жүйелердегі нақты қауіпсіздік пен тұрақтылықтың шұғыл, нақты қажеттілігі арасында.
КТО және инженерия жетекшілері болғандықтан, біз AI баяулауының философиялық пікірталастарына алаңдай алмаймыз. Бұл талқылаулар ұзақ мерзімді перспективада маңызды болғанымен, сіздің үйіңіз белсенді түрде өртеніп жатқанда, олар сән-салтанат болып табылады. «Өнімнің жол карталарын қайта бағалау» біздің қолданыстағы инфрақұрылымымыздың құлдырап бара жатқан негіздерін нығайтудан басталуы керек. «Тәуекелді бағалау» операцияның үздіксіздігі мен деректер тұтастығын бүгінгі күні бұзатын шұғыл, белсенді пайдаланылған қауіптерге басымдық беруі керек.
Саланың басымдықтары бұрмаланған. Біз белсенді түрде шіріп жатқан іргетасқа жылдамырақ, жылтыр заттарды салып жатырмыз. Жасанды интеллектті бәсеңдетуге шақыру қажетті әңгіме болуы мүмкін, бірақ біз Иванти мен Cisco нөлдік күндерімен айналысатындар үшін бұл шатырдың үңгірлері кірген кезде перделердің түсін талқылағандай сезінеді. Қазіргі уақытқа назар аударыңыз. Болашақ біз белсенді түрде қан кетпейінше күте алады.
Дереккөздер
[1] Үлкен AI эксперименттерін кідіртуге арналған ашық хат — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI акциялары өсуде, бірақ кейбір инвесторлар қобалжуда — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Ғылымдағы AI революциясы: уәделер мен қауіптер — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure және Ivanti Policy Secure осалдықтарын пайдаланатын қауіп актерлері — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE бағдарламалық құралының Web UI осалдығын пайдаланатын қауіп-қатер субъектілері — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a