Императордың жаңа AI қауіпсіздік киімдері: біз Музеге қарап тұрғанда, іргетасы құлап жатыр
Тікелей айтайық: технологиялық индустрияда жаңа әуесқойлық бар және ол «AI қауіпсіздігі» деп аталады. Біз барлығымыз жылдам инъекцияға, модельді улануға және үлкен тіл үлгілерінен деректерді эксфильтрациялауға назар аударамыз деп күтілуде. Сонымен қатар, біздің кәсіпорындарды біріктіретін нақты, физикалық, цифрлық инфрақұрылым нөлдік күндердің тынымсыз тосқауылымен белсенді түрде өртеніп жатыр. Ірі AI платформасына қатысты жақында болған оқиға AI инфрақұрылымын қамтамасыз етудегі кеңірек қиындықтарды бейнелейді, осы қауіпті дихотомияны көрсетеді [1].
Meta, өзінің «жылдам қозғалу және заттарды бұзу» этикасымен танымал компания AI платформаларындағы қауіпсіздік кемшіліктеріне байланысты тексеріске тап болды. Мысалы, қателерді марапаттау бағдарламасы пайдаланушының виртуалды машиналарын ашатын маңызды кемшілікті ашты. Бұл жасырын деректердің ағып кетуі немесе ақылды жылдам айналып өту емес, пайдаланушы VM-дерін ашқан іргелі, инфрақұрылым деңгейіндегі қате болды. Бұл AI-ға тән эзотерикалық осалдық емес; бұл негізгі VM оқшаулау, біз он жыл бұрын шешілген мәселе деп ойладық. Ол пайдаланушыларға және осындай AI инфрақұрылымын пайдаланатын ықтимал кәсіпорын клиенттеріне тікелей әсер ететін құпиялылық пен деректер тұтастығын сыни бұзуды білдіреді.
Кемшіліктің бұл түрі шын мәнінде әсерлі болғанымен, жаңа «AI қауіпсіздігі» мәселесіне ұқсамайды және AI қалпағын киген классикалық инфрақұрылым ақауы сияқты. Бұл тіпті ең озық AI платформалары кәдімгі есептеу, желі және виртуалдандыру деңгейлеріне құрылғанын еске саламыз. Егер бұл іргетас қабаттары саңылауларға толы болса, AI үлгісінің қаншалықты күрделі екендігі маңызды емес; бүкіл жүйе осал болып қалады. Бұл оқиғаның «AI» аспектісі - бұл біздің көзқарасымызды жылтыратылған еден тақталарының астындағы шіріген ағаштардан алшақтататын алаңдаушылық, қате бағыт.
CISA-ның KEV тосқауылдары: маңызды көрсеткіш
Біз сезімтал чат-боттардың этикалық салдары мен AI қауіпсіздігінің нюанстарын талқылаумен айналысып жатқанда, CISA өзінің Белгілі пайдаланылған осалдықтар (KEV) каталогына бұрын-соңды болмаған белсенді түрде пайдаланылған осалдықтарды тастап жатыр. Бұл теориялық жаттығу емес. Бұл «бір күні патч» тізімі емес. Бұл шұғыл «үйіңіз өртеніп жатыр дәл қазір» тізімі.
Соңғы апталарда CISA белсенді түрде пайдаланылған осалдықтардың жалпы санын қысқа мерзімде таңқаларлық санға жеткізіп, көптеген жазбаларды қосты [2]. Бұл жай ғана «қауіпсіздік нашар» емес; бұл біздің әлемді басқаратын өте маңызды кәсіпорын бағдарламалық құралына әсер ететін жүйелі, өршіп бара жатқан дағдарыс.
KEV каталогына соңғы толықтыруларды қарастырыңыз:
- CVE-2023-46214: CISA патч мерзімі бар Splunk Enterprise қашықтан кодты орындау осалдығы (CVSS 9.8), бұл түзетілмеген жүйелерді өте осал етеді.
- CVE-2023-29357: Сансыз корпоративтік интранеттердің негізіне әсер ететін Microsoft SharePoint серверінің артықшылығын арттыру осалдығы.
- CVE-2023-42824: мақсатты шабуылдарда пайдаланылған Apple iOS/iPadOS ядросының осалдығы, тіпті басқарылатын экожүйелердің де өтуге болмайтынын көрсетеді.
- CVE-2023-30799: MikroTik RouterOS қашықтан кодты орындау ақауы, барлығын қосатын маршрутизаторларға әсер етеді, көбінесе желінің ең терең бұрыштарында патчсыз қалады.
Негізгі жеткізушілер – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – белсенді пайдаланылған нөлдік күндердің бұл жылдам қосылуы дереу, құтырарлық назар аударуды талап етеді. Бұл жалпы ескерту емес; бұл әрбір АТ және қауіпсіздік тобында тікелей шырылдайтын сирена. CISA-ның KEV тізімі тек федералды агенттіктерге арналған ұсыныс емес; бұл барлық ұйымдар үшін маңызды ескерту. Өзіңіздің қауіп-қатеріңізге мән бермеңіз.
«AI қауіпсіздігі» иллюзиясы және алаңдаушылықтың құны
Міне, ыңғайсыз шындық: AI платформаларындағы негізгі кемшіліктер мен CISA KEV тосқауылдары - бір мәселенің өзара байланысты аспектілері. Екеуі де бағдарламалық қамтамасыз ету қауіпсіздігінің түбегейлі бұзылуы туралы айқайлайды, бірақ біздің саланың ұжымдық көзқарасы қауіпті түрде дұрыс емес. Бізді «AI» уәдесі мен қауіп-қатері қызықтырғаны сонша, біз сандық инфрақұрылымның іргетасын шіріп кетуге мүмкіндік береміз.
«AI қауіпсіздігі» кеңесшілер мен өнім менеджерлері үшін танымал сөзге, жаңа шекараға айналды. Бірақ бұл не, шынымен? Көбінесе бұл AI жүйелеріне қолданылатын *қауіпсіздік. Иә, AI жаңа шабуыл векторлары мен бірегей қиындықтарды ұсынады, бірақ «AI қауіпсіздігінің» маңызды бөлігі жай ғана сенімді инженерия, қауіпсіз кодтау тәжірибесі және мұқият патчинг – біз ондаған жылдар бойы сәтсіздікке ұшыраған нәрсе. Жоғарыда айтылған VM оқшаулау мәселесі тамаша мысал: AI платформасының күрделілігімен күшейтілген классикалық осалдық.
Біз барған сайын нәзік және белсенді түрде пайдаланылатын іргетастардың үстіне керемет күрделі AI жүйелерін салып жатырмыз. Бұл доңғалақтар құлап, қозғалтқышы шашырап жатқанда, жетілдірілген AI навигациясы бар өздігінен жүретін көлікті мұқият жобалау сияқты. «AI қауіпсіздігіне» назар аудару көбінесе қорлар мен назарды қарапайым, беймәлім, бірақ бар инфрақұрылымды қамтамасыз етудің өте маңызды жұмысынан алшақтату сияқты сезінеді.
Біз келесі үлкен нәрсені қуып, қазіргі үлкен нәрселердің күйіп кетуіне жол береміз бе? KEV қауіптерінің үлкен көлемі мен кеңдігі алдыңғы AI-орталықталған нөл күндік талқылаулардан ерекшеленетін іргелі цифрлық инфрақұрылымға жүйелі және шұғыл шақыруды көрсетеді. Бұл AI болашағы туралы емес; бұл біздің цифрлық болмысымыздың қазіргі жағдайы туралы.
Енді ше?
Инженерлік жетекшілер мен CTO-лар үшін бұл хабар айқын және дереу:
- KEV тізіміне басымдық беріңіз: Барлығын тастаңыз. Осы осалдықтарды түзетіңіз. Мандат беріңіз. Оны орындаңыз. Бұл міндетті емес.
- Негізгі негіздерге сүйеніп, «AI қауіпсіздігі» айыбына бой алдырмаңыз: Иә, AI-ның бірегей тәуекелдерін түсініңіз, бірақ сенімді инженерия, қауіпсіз даму циклдері және мұқият түзету әлі де сіздің ең жақсы қорғанысыңыз екенін есте сақтаңыз. Егер шабуылдаушы негізгі виртуалды компьютерге немесе SharePoint серверіне ие болса, сәнді AI үлгісі сізді құтқармайды.
- Негізгі қауіпсіздікті инвестициялаңыз: Бұл басқа қауіпсіздік құралын сатып алу ғана емес. Бұл адамдарға, процестерге және қауіпсіздікті кейіннен ойластырылған нәрсе емес, негізгі инженерлік пән ретінде бағалайтын мәдениетке инвестициялауды білдіреді. Қателерді марапаттау бағдарламалары өте жақсы, бірақ олар сіздің негізгі қауіпсіздік стратегияңыз емес, қауіпсіздік желісі болуы керек.
AI платформасының инфрақұрылымына қатысты оқиға ояту қоңырауы болып табылады, бірақ CISA KEV тізімі шұғыл дабыл болып табылады. Біз AI қауіпсіздігінің соңғы бастамаларына таңдануды тоқтатып, нақты қорғаныстарымыздағы тесіктерді жөндеуді бастауымыз керек. AI болашағы қызықты, бірақ біздің қауіпсіздігіміздің қазіргі жағдайы қорқынышты.
Дереккөздер
[1] Жасанды интеллект қауіпсіздігі – бұл тәртіпсіздік және ол нашарлай түсуде — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Белгілі пайдаланылған осалдықтар каталогы — https://www.cisa.gov/known-exploited-vulnerabilities-catalog