Царева нова безбедносна одећа од вештачке интелигенције: Док гледамо у музу, фондација се руши
Будимо директни: технолошка индустрија има нову опсесију, а зове се „АИ безбедност“. Од свих се очекује да се фокусирамо на брзо убризгавање, тровање модела и ексфилтрацију података из великих језичких модела. У међувремену, стварна, физичка, дигитална инфраструктура која држи наша предузећа на окупу активно се пали немилосрдном баражом од нула дана. Недавни инцидент који укључује велику АИ платформу, који илуструје шире изазове у обезбеђивању АИ инфраструктуре, наглашава ову опасну дихотомију [1].
Мета, компанија позната по свом етосу „брзо се креће и разбија ствари“, суочила се са испитивањем безбедносних недостатака у својим АИ платформама. На пример, програм за откривање грешака открио је значајну грешку која открива виртуелне машине корисника. Ово није било суптилно цурење података или паметно заобилажење, већ фундаментална грешка на нивоу инфраструктуре која је разоткрила корисничке ВМ. Ово није нека езотерична рањивост специфична за АИ; ово је основна изолација ВМ-а, проблем за који смо углавном мислили да је укроћен пре десет година. То представља критичну повреду приватности и интегритета података, директно утиче на кориснике и потенцијално пословне клијенте који користе такву АИ инфраструктуру.
Ова врста мане, иако је заиста утицајна, мање личи на нови изазов „безбедности АИ“, а више као на класичан инфраструктурни квар који носи АИ шешир. То је подсетник да су чак и најнапредније АИ платформе изграђене на слојевима конвенционалног рачунара, умрежавања и виртуелизације. Ако су ти темељни слојеви прожети рупама, није важно колико је софистициран ваш АИ модел; цео систем остаје рањив. „АИ“ аспект ове приче је скоро одвраћање пажње, погрешно усмерење које одвлачи наш поглед од трулог дрвета испод углачаних подних дасака.
ЦИСА-ин КЕВ бараж: критични показатељ
Док смо заузети дебатом о етичким импликацијама разумних четботова и нијансама безбедности вештачке интелигенције, ЦИСА убацује невиђени број активно експлоатисаних рањивости у свој каталог познатих експлоатисаних рањивости (КЕВ). Ово није теоријска вежба. Ово није листа "закрпа једног дана". Ово је хитна листа „ваша кућа гори тренутно“.
Последњих недеља, ЦИСА је додала бројне уносе, доводећи укупан број активно искоришћених рањивости на запањујући број у кратком периоду [2]. Ово није само "безбедност је лоша"; ово је системска, ескалирајућа криза која утиче на веома критичан корпоративни софтвер који управља нашим светом.
Размотрите недавне додатке КЕВ каталогу:
- ЦВЕ-2023-46214: Рањивост у даљинском извршавању кода Сплунк Ентерприсе (ЦВСС 9.8) са роком за ЦИСА закрпу, што чини системе без закрпе веома рањивим.
- ЦВЕ-2023-29357: Рањивост ескалације привилегија Мицрософт СхареПоинт Сервера, која утиче на кичму безбројних корпоративних интранета.
- ЦВЕ-2023-42824: Рањивост Аппле иОС/иПадОС кернела, која је већ искоришћена у циљаним нападима, што показује да чак ни контролисани екосистеми нису непробојни.
- ЦВЕ-2023-30799: Грешка у даљинском извршавању кода МикроТик РоутерОС-а, која утиче на рутере који повезују све, често остаје незакрпљена у најдубљим угловима мреже.
Овај брзи додатак активно експлоатисаних нултих дана код великих произвођача – Мицрософт, Аппле, Сплунк, МикроТик, Линук, ЈФрог – захтева тренутну, махниту пажњу. Ово није опште упозорење; то је сирена која се огласи директно на сваки ИТ и безбедносни тим. ЦИСА-ина КЕВ листа није само предлог за савезне агенције; то је критично упозорење за све организације. Игноришите то на своју опасност.
Илузија „безбедности вештачке интелигенције“ и цена одвраћања пажње
Ево непријатне истине: основни недостаци у АИ платформама и ЦИСА КЕВ баража су међусобно повезани аспекти истог проблема. Обојица вриште о фундаменталном слому у софтверској безбедности, али колективни поглед наше индустрије је опасно неусклађен. Толико смо очарани обећањем и опасношћу „АИ“ да допуштамо да основна дигитална инфраструктура иструне.
„АИ безбедност“ је постала популарна реч, нова граница за консултанте и менаџере производа. Али шта је то, заиста? Често је то само безбедност примењена на АИ системе. Да, вештачка интелигенција уводи нове векторе напада и јединствене изазове, али значајан део „безбедности вештачке интелигенције“ је једноставно робустан инжењеринг, безбедне праксе кодирања и марљиво закрпе – исте ствари у којима не успевамо деценијама. Раније поменути проблем изолације ВМ-а је савршен пример: класична рањивост појачана сложеношћу АИ платформе.
Градимо невероватно сложене системе вештачке интелигенције на све крхким и активно експлоатисаним основама. То је као да пажљиво дизајнирате самовозећи аутомобил са напредном АИ навигацијом, док точкови падају и мотор пршти. Фокус на „безбедности вештачке интелигенције“ често се осећа као сметња, скретање ресурса и пажње са свакодневног, негламурозног, али апсолутно критичног посла на обезбеђењу постојеће инфраструктуре.
Да ли смо толико заузети јурњавом за следећом великом ствари да допуштамо да садашње велике ствари изгоре? Сам обим и ширина КЕВ претњи указују на системски и хитан изазов основној дигиталној инфраструктури, за разлику од претходних дискусија о нултом дану усредсређених на вештачку интелигенцију. Овде се не ради о будућности АИ; ради се о садашњем стању нашег дигиталног постојања.
Шта сада, технички директори?
За вође инжењера и техничке директоре, порука је оштра и тренутна:
- Одредите приоритет на листи КЕВ: Испустите све. Закрпи ове рањивости. Мандат то. Спроведите то. Ово није опционо.
- Немојте да будете увучени у „безбедност вештачке интелигенције“ на рачун основа: Да, разумете јединствене ризике вештачке интелигенције, али запамтите да су робусни инжењеринг, безбедни развојни животни циклуси и марљиво закрпе и даље ваша најбоља одбрана. Фантастичан АИ модел вас неће спасити ако нападач поседује ваш основни ВМ или ваш СхареПоинт сервер.
- Инвестирајте у основну безбедност: Ово значи више од куповине другог безбедносног алата. То значи улагање у људе, процесе и културу која цени сигурност као основну инжењерску дисциплину, а не накнадну мисао. Програми за откривање грешака су одлични, али би требало да буду сигурносна мрежа, а не ваша примарна безбедносна стратегија.
Инцидент који укључује инфраструктуру АИ платформе је позив за буђење, али ЦИСА КЕВ листа је хитан аларм. Морамо да престанемо да се дивимо најновијим безбедносним иницијативама вештачке интелигенције и почнемо да крпимо рупе у нашој стварној одбрани. Будућност вештачке интелигенције је узбудљива, али садашње стање наше безбедности је застрашујуће.
Извори
[1] Безбедност вештачке интелигенције је у нереду и ускоро ће се погоршати — хттпс://тецхцрунцх.цом/2023/10/11/аи-сецурити-ис-а-месс-анд-итс-абоут-то-гет-ворсе/ [2] Каталог познатих искоришћених рањивости — хттпс://ввв.циса.гов/кновн-екплоитед-вулнерабилитиес-цаталог