Новата облека за безбедност на императорот со вештачка интелигенција: додека гледаме во Муза, фондацијата се распаѓа
Да бидеме директни: технолошката индустрија има нова опсесија и се нарекува „безбедност на вештачката интелигенција“. Од сите нас се очекува да се фокусираме на брзо вбризгување, труење со модели и ексфилтрација на податоци од големи јазични модели. Во меѓувреме, вистинската, физичка, дигитална инфраструктура што ги држи нашите претпријатија заедно активно се запали од немилосрдниот налет од нула денови. Неодамнешниот инцидент со голема платформа за вештачка интелигенција, илустративен за пошироките предизвици во обезбедувањето на инфраструктурата за вештачка интелигенција, ја истакнува оваа опасна дихотомија [1].
Мета, компанија позната по својот етос „движете се брзо и кршете ги работите“, се соочи со лупа околу безбедносните пропусти во платформите за вештачка интелигенција. На пример, програма за баунтирање на грешки откри значителен пропуст што ги разоткри виртуелните машини на корисниците. Ова не беше суптилно истекување на податоци или паметен брз бајпас, туку фундаментална грешка на ниво на инфраструктура што ги изложи корисничките VMs. Ова не е некоја езотерична ранливост специфична за вештачката интелигенција; ова е основна VM изолација, проблем за кој во голема мера мислевме дека го скротивме пред една деценија. Претставува критично кршење на приватноста и интегритетот на податоците, што директно влијае на корисниците и потенцијалните клиенти на претпријатијата кои ја користат таквата инфраструктура на вештачката интелигенција.
Овој тип на пропуст, иако е навистина влијателен, се чувствува помалку како нов предизвик за „безбедност на вештачката интелигенција“ и повеќе како класичен дефект на инфраструктурата со капа со вештачка интелигенција. Тоа е потсетник дека дури и најнапредните платформи за вештачка интелигенција се изградени на слоеви на конвенционално пресметување, вмрежување и виртуелизација. Ако тие основни слоеви се преполни со дупки, не е важно колку е софистициран вашиот модел со вештачка интелигенција; целиот систем останува ранлив. Аспектот „ВИ“ на оваа приказна е речиси одвраќање, погрешна насока што го одвлекува нашиот поглед од гнили дрва под полираните подни даски.
Бараж KEV на CISA: критичен индикатор
Додека ние сме зафатени со дебата за етичките импликации на чувствителните чет-ботови и нијансите на безбедноста на вештачката интелигенција, CISA фрла невиден број на активно искористени ранливости во својот каталог за познати експлоатирани ранливости (KEV). Ова не е теоретска вежба. Ова не е список со „закрпи некогаш“. Ова е итен список „вашата куќа гори во моментов“.
Во последниве недели, CISA додаде бројни записи, со што вкупниот број на активно искористени пропусти на неверојатен број за краток период [2]. Ова не е само „безбедноста е лоша“; ова е системска, ескалирачка криза што влијае на многу критичниот софтвер на претпријатијата што управува со нашиот свет.
Размислете за неодамнешните дополнувања на каталогот на KEV:
- CVE-2023-46214: Ранливост на далечинско извршување на кодот на Splunk Enterprise (CVSS 9.8) со краен рок за закрпи CISA, што ги прави незакрпените системи многу ранливи.
- CVE-2023-29357: Ранливост при ескалација на привилегијата на Microsoft SharePoint Server, што влијае на 'рбетот на безброј корпоративни интранет.
- CVE-2023-42824: Ранливост на кернелот на Apple iOS/iPadOS, веќе искористена во насочени напади, што покажува дека дури и контролираните екосистеми не се непробојни.
- CVE-2023-30799: Недостаток при далечинско извршување на кодот на MikroTik RouterOS, што влијае на рутерите што поврзуваат сè, честопати остануваат незакрпени во најдлабоките агли на мрежата.
Овој брз додаток на активно експлоатирани нула денови кај големите продавачи - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog - бара итно, избезумено внимание. Ова не е општо предупредување; тоа е сирена што трепка директно во секој тим за ИТ и безбедност. Списокот KEV на CISA не е само предлог за федералните агенции; тоа е критично предупредување за сите организации. Игнорирајте го на ваша опасност.
Илузијата на „безбедноста на вештачката интелигенција“ и цената на одвраќање
Еве ја непријатната вистина: основните недостатоци во платформите за вештачка интелигенција и баражот CISA KEV се меѓусебно поврзани аспекти на истиот проблем. И двајцата врескаат за фундаментален дефект во безбедноста на софтверот, но колективниот поглед на нашата индустрија е опасно погрешно усогласен. Толку сме воодушевени од ветувањето и опасноста од „ВИ“ што дозволуваме да изгние основната дигитална инфраструктура.
„Безбедноста на вештачката интелигенција“ стана збор, нова граница за консултанти и менаџери на производи. Но, што е тоа, навистина? Честопати, тоа е само безбедност применета на системите за вештачка интелигенција. Да, вештачката интелигенција воведува нови вектори за напад и уникатни предизвици, но значителен дел од „безбедноста на вештачката интелигенција“ е едноставно робустен инженеринг, безбедни практики за кодирање и вредно поправање - истите работи во кои не успеваме со децении. Проблемот со изолацијата на VM споменат претходно е совршен пример: класична ранливост засилена со сложеноста на платформата за вештачка интелигенција.
Градиме неверојатно сложени системи за вештачка интелигенција на врвот на сè покревките и активно експлоатирани темели. Тоа е како прецизно да дизајнирате самоуправувачки автомобил со напредна навигација со вештачка интелигенција, додека тркалата паѓаат, а моторот прска. Фокусот на „безбедноста на вештачката интелигенција“ често се чувствува како одвлекување на вниманието, пренасочувајќи ги ресурсите и вниманието од вообичаената, негламурозна, но апсолутно критична работа за обезбедување на постоечката инфраструктура.
Дали сме толку зафатени со бркање на следната голема работа што ги оставаме сегашните големи работи да изгорат? Огромниот обем и широчина на заканите на KEV укажуваат на системски и итен предизвик за основната дигитална инфраструктура, различен од претходните нулти дневни дискусии со AI-центрични. Ова не е за иднината на вештачката интелигенција; се работи за сегашната состојба на нашето дигитално постоење.
Што сега, CTO?
За инженерските води и CTO, пораката е остра и непосредна:
- Дајте приоритет на списокот KEV: Отфрлете сè. Закрпи ги овие пропусти. Дајте мандат. Спроведи го. Ова не е опционално.
- Немојте да се зафаќате во возбудата за „безбедност на вештачката интелигенција“ на сметка на основите: Да, разберете ги уникатните ризици од вештачката интелигенција, но запомнете дека робусното инженерство, безбедните животни циклуси на развој и вредното поправање сè уште се вашата најдобра одбрана. Фенси модел на вештачка интелигенција нема да ве спаси ако напаѓачот го поседува вашиот VM или вашиот SharePoint сервер.
- Инвестирајте во основна безбедност: Ова значи повеќе од само купување на друга безбедносна алатка. Тоа значи инвестирање во луѓе, процеси и култура која ја вреднува безбедноста како основна инженерска дисциплина, а не како последователна мисла. Програмите за баунти за грешки се одлични, но тие треба да бидат безбедносна мрежа, а не ваша примарна безбедносна стратегија.
Инцидентот со инфраструктурата на платформата за вештачка интелигенција е повик за будење, но списокот CISA KEV е итен аларм. Треба да престанеме да се восхитуваме на најновите безбедносни иницијативи за вештачка интелигенција и да почнеме да ги закрпиме дупките во нашата вистинска одбрана. Иднината на вештачката интелигенција е возбудлива, но сегашната состојба на нашата безбедност е застрашувачка.
Извори
[1] Безбедноста со вештачката интелигенција е хаос и ќе се влоши - https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Познат каталог на искористени ранливости — https://www.cisa.gov/known-exploited-vulnerabilities-catalog