Новае адзенне бяспекі імператара AI: пакуль мы глядзім на Muse, падмурак разбураецца
Давайце будзем прама: у тэхналагічнай індустрыі з'явілася новая апантанасць, і яна называецца "бяспека штучнага інтэлекту". Чакаецца, што мы ўсе засяродзімся на хуткім увядзенні, атручванні мадэляў і выкраданні даных з вялікіх моўных мадэляў. Між тым, фактычная, фізічная, лічбавая інфраструктура, якая трымае нашы прадпрыемствы разам, актыўна падпальваецца бязлітасным шквалам нулявых дзён. Нядаўні інцыдэнт з удзелам буйной платформы штучнага інтэлекту, які паказвае больш шырокія праблемы ў забеспячэнні інфраструктуры штучнага інтэлекту, падкрэслівае гэтую небяспечную дыхатамію [1].
Кампанія Meta, вядомая сваім духам "рухацца хутка і ламаць рэчы", сутыкнулася з пільнай увагай з-за недахопаў бяспекі ў сваіх платформах штучнага інтэлекту. Напрыклад, праграма ўзнагароджання за памылку выявіла істотную хібу, якая выкрывае карыстальніцкія віртуальныя машыны. Гэта была не тонкая ўцечка даных або разумны абыход падказкі, а фундаментальная памылка на ўзроўні інфраструктуры, якая выкрыла карыстальніцкія віртуальныя машыны. Гэта не нейкая эзатэрычная ўразлівасць AI; гэта асноўная ізаляцыя віртуальнай машыны, праблема, якую мы лічылі ўтаймаванай дзесяць гадоў таму. Гэта сур'ёзнае парушэнне прыватнасці і цэласнасці даных, якое непасрэдна ўплывае на карыстальнікаў і, патэнцыйна, на карпаратыўных кліентаў, якія выкарыстоўваюць такую інфраструктуру штучнага інтэлекту.
Гэты тып недахопу, хоць і сапраўды ўражвае, здаецца менш падобным на новую праблему "бяспекі штучнага інтэлекту", а больш падобны на класічны збой інфраструктуры ў капелюшы штучнага інтэлекту. Гэта напамін пра тое, што нават самыя перадавыя платформы штучнага інтэлекту пабудаваны на ўзроўні звычайных вылічэнняў, сетак і віртуалізацыі. Калі гэтыя фундаментальныя пласты прасякнуты дзіркамі, не мае значэння, наколькі складаная ваша мадэль штучнага інтэлекту; уся сістэма застаецца ўразлівай. Аспект "AI" гэтай гісторыі - гэта амаль адцягненне ўвагі, няправільнае напрамак, які адцягвае наш погляд ад гнілых брусоў пад паліраванымі дошкамі падлогі.
Загарода KEV CISA: крытычны паказчык
Пакуль мы занятыя абмеркаваннем этычных наступстваў разумных чат-ботаў і нюансаў бяспекі штучнага інтэлекту, CISA скідае беспрэцэдэнтную колькасць уразлівасцей, якія актыўна выкарыстоўваюцца, у свой каталог вядомых уразлівасцей (KEV). Гэта не тэарэтычнае практыкаванне. Гэта не спіс "калі-небудзь выправіць". Гэта тэрміновы спіс "ваш дом гарыць прама зараз".
За апошнія тыдні CISA дадала мноства запісаў, у выніку чаго агульная колькасць уразлівасцяў, якія актыўна выкарыстоўваюцца, за кароткі перыяд стала ашаламляльнай [2]. Гэта не проста «бяспека дрэнная»; гэта сістэмны, нарастаючы крызіс, які ўплывае на вельмі важнае карпаратыўнае праграмнае забеспячэнне, якое кіруе нашым светам.
Разгледзім апошнія дапаўненні ў каталог KEV:
- CVE-2023-46214: Уразлівасць аддаленага выканання кода Splunk Enterprise (CVSS 9.8) з тэрмінам выпраўлення CISA, што робіць сістэмы без выпраўленняў вельмі ўразлівымі.
- CVE-2023-29357: Уразлівасць эскалацыі прывілеяў Microsoft SharePoint Server, якая закранае магістраль незлічоных карпаратыўных унутраных сетак.
- CVE-2023-42824: Уразлівасць ядра Apple iOS/iPadOS, якая ўжо выкарыстоўваецца ў мэтавых атаках, дэманструючы, што нават кантраляваныя экасістэмы не з'яўляюцца непранікальнымі.
- CVE-2023-30799: Памылка аддаленага выканання кода MikroTik RouterOS, якая ўплывае на маршрутызатары, якія злучаюць усё, часта застаючыся без выпраўлення ў самых глыбокіх кутках сеткі.
Гэта хуткае дапаўненне актыўна эксплуатаваных нулявых дзён сярод асноўных пастаўшчыкоў - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog - патрабуе неадкладнай, шалёнай увагі. Гэта не агульнае папярэджанне; гэта сірэна, якая рыкае непасрэдна ў кожную групу ІТ і бяспекі. Спіс KEV CISA - гэта не проста прапанова для федэральных агенцтваў; гэта важнае папярэджанне для ўсіх арганізацый. Ігнаруйце гэта на свой страх і рызыку.
Ілюзія "бяспекі штучнага інтэлекту" і кошт адцягнення ўвагі
Вось нязручная праўда: асноўныя недахопы ў платформах штучнага інтэлекту і загарода CISA KEV - гэта ўзаемазвязаныя аспекты адной праблемы. Яны абодва крычаць аб фундаментальным збоі ў бяспецы праграмнага забеспячэння, але калектыўны погляд нашай галіны небяспечна збіўся. Мы настолькі захопленыя перспектывамі і небяспекай "AI", што дазваляем згніваць асноўнай лічбавай інфраструктуры.
«Бяспека штучнага інтэлекту» стала модным словам, новай мяжой для кансультантаў і менеджэраў па прадуктах. Але што гэта насамрэч? Часта гэта проста бяспека, якая прымяняецца да сістэм штучнага інтэлекту. Так, штучны інтэлект прадстаўляе новыя вектары атак і ўнікальныя задачы, але значная частка "бяспекі штучнага інтэлекту" - гэта проста надзейная тэхніка, метады бяспечнага кадавання і стараннае ўнясенне выпраўленняў - тое самае, у чым мы не атрымліваліся дзесяцігоддзямі. Праблема ізаляцыі віртуальнай машыны, згаданая раней, з'яўляецца выдатным прыкладам: класічная ўразлівасць, узмоцненая складанасцю платформы штучнага інтэлекту.
Мы ствараем неверагодна складаныя сістэмы штучнага інтэлекту на ўсё больш далікатнай і актыўна эксплуатаванай аснове. Гэта як скрупулёзна распрацоўваць самакіравальны аўтамабіль з удасканаленай навігацыяй са штучным інтэлектам, у той час як колы адвальваюцца, а рухавік пыхкае. Засяроджанасць на «бяспецы штучнага інтэлекту» часта здаецца адцягваючым увагу, адцягваючы рэсурсы і ўвагу ад паўсядзённай, непрыгожай, але абсалютна важнай працы па забеспячэнні бяспекі існуючай інфраструктуры.
Няўжо мы настолькі занятыя пагоняй за наступнай вялікай справай, што дазваляем цяперашнім вялікім справам згарэць? Велізарны аб'ём і шырыня пагроз KEV паказваюць на сістэмны і неадкладны выклік базавай лічбавай інфраструктуры, у адрозненне ад папярэдніх дыскусій нулявога дня, арыентаваных на AI. Гэта не пра будучыню ІІ; гэта пра сучасны стан нашага лічбавага існавання.
Што цяпер, тэхнічныя дырэктары?
Для вядучых інжынераў і тэхнічных дырэктараў паведамленне рэзкае і неадкладнае:
- Расстаўце прыярытэты ў спісе KEV: Адкіньце ўсё. Выпраўце гэтыя ўразлівасці. Мандат гэта. Выконвайце гэта. Гэта неабавязкова.
- Не захапляйцеся ажыятажам аб «бяспецы штучнага інтэлекту» за кошт асноў: Так, разумееце ўнікальныя рызыкі штучнага інтэлекту, але памятайце, што надзейная тэхніка, бяспечныя жыццёвыя цыклы распрацоўкі і стараннае ўнясенне выпраўленняў па-ранейшаму застаюцца вашай лепшай абаронай. Шыкоўная мадэль штучнага інтэлекту не выратуе вас, калі зламыснік валодае вашай базавай віртуальнай машынай або вашым серверам SharePoint.
- Інвестуйце ў асноўную бяспеку: Гэта азначае больш, чым проста купля іншага інструмента бяспекі. Гэта азначае інвестыцыі ў людзей, працэсы і культуру, якая шануе бяспеку як асноўную інжынерную дысцыпліну, а не прыдумку. Праграмы ўзнагароджання за памылку выдатныя, але яны павінны быць сеткай бяспекі, а не вашай асноўнай стратэгіяй бяспекі.
Інцыдэнт, звязаны з інфраструктурай платформы штучнага інтэлекту, з'яўляецца трывожным званочкам, але спіс CISA KEV - тэрміновая трывога. Нам трэба перастаць захапляцца апошнімі ініцыятывамі па бяспецы штучнага інтэлекту і пачаць латаць дзіркі ў нашай фактычнай абароне. Будучыня штучнага інтэлекту выклікае захапленне, але цяперашні стан нашай бяспекі жахлівы.
Крыніцы
[1] Бяспека штучнага інтэлекту - гэта беспарадак, і сітуацыя будзе яшчэ горш - https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Каталог вядомых выкарыстаных уразлівасцей — https://www.cisa.gov/known-exploited-vulnerabilities-catalog