Císařovy nové bezpečnostní oděvy pro umělou inteligenci: Zatímco se díváme na Muse, nadace se rozpadá
Buďme přímí: technologický průmysl má novou posedlost a nazývá se „bezpečnost AI“. Od všech se očekává, že se zaměříme na rychlou injekci, otravu modelů a exfiltraci dat z velkých jazykových modelů. Mezitím skutečná, fyzická, digitální infrastruktura, která drží naše podniky pohromadě, je aktivně zapalována neúnavným přívalem nultých dnů. Nedávný incident zahrnující hlavní platformu AI, který ilustruje širší výzvy v zabezpečení infrastruktury AI, zdůrazňuje tuto nebezpečnou dichotomii [1].
Meta, společnost známá svým étosem „rychle se pohybujte a rozbíjejte věci“, čelila zkoumání bezpečnostních chyb na svých platformách umělé inteligence. Například bug bounty program odhalil významnou chybu odhalující uživatelské virtuální stroje. Nešlo o nenápadný únik dat nebo chytré rychlé obejití, ale o zásadní chybu na úrovni infrastruktury, která odhalila uživatelské virtuální počítače. Toto není nějaká esoterická zranitelnost specifická pro AI; toto je základní izolace VM, problém, o kterém jsme si před deseti lety mysleli, že byl zkrocený. Představuje kritické narušení soukromí a integrity dat, které má přímý dopad na uživatele a potenciálně podnikové klienty využívající takovou infrastrukturu AI.
Tento typ chyby, i když je skutečně působivý, působí méně jako nová výzva v oblasti zabezpečení AI a spíše jako klasické selhání infrastruktury v klobouku AI. Je to připomínka, že i ty nejpokročilejší platformy umělé inteligence jsou postaveny na vrstvách konvenčního výpočtu, sítí a virtualizace. Pokud jsou tyto základní vrstvy poseté dírami, nezáleží na tom, jak sofistikovaný je váš model AI; celý systém zůstává zranitelný. Aspekt „AI“ tohoto příběhu je téměř rozptýlením, špatným směrem, který odvádí náš pohled od hnijících trámů pod naleštěnými podlahovými deskami.
KEV Barrage CISA: Kritický indikátor
Zatímco jsme zaneprázdněni debatami o etických důsledcích vnímajících chatbotů a nuancích bezpečnosti umělé inteligence, CISA vyřazuje bezprecedentní počet aktivně využívaných zranitelností do svého katalogu KEV (Known Exploited Vulnerabilities). Toto není teoretické cvičení. Toto není seznam „jednoho dne“. Toto je naléhavý seznam „váš dům hoří právě“.
V posledních týdnech CISA přidala četné položky, čímž se celkový počet aktivně využívaných zranitelností během krátké doby zvýšil na ohromující počet [2]. To není jen "zabezpečení je špatné"; toto je systémová, eskalující krize, která má dopad na velmi kritický podnikový software, který řídí náš svět.
Zvažte nedávné přírůstky do katalogu KEV:
- CVE-2023-46214: Chyba zabezpečení pro vzdálené spuštění kódu Splunk Enterprise (CVSS 9.8) s termínem oprav CISA, díky čemuž jsou neopravené systémy vysoce zranitelné.
- CVE-2023-29357: Chyba zabezpečení týkající se eskalace oprávnění serveru Microsoft SharePoint Server, která ovlivňuje páteř nespočtu podnikových intranetů.
- CVE-2023-42824: Zranitelnost jádra Apple iOS/iPadOS, již využívaná při cílených útocích, což dokazuje, že ani kontrolované ekosystémy nejsou neproniknutelné.
- CVE-2023-30799: Chyba ve vzdáleném spuštění kódu MikroTik RouterOS, která má dopad na routery, které vše propojují, často zůstala bez záplat v nejhlubších koutech sítě.
Tento rychlý přírůstek aktivně využívaných zero-days mezi hlavními dodavateli – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – vyžaduje okamžitou a zběsilou pozornost. Toto není obecné varování; je to siréna houkající přímo na každý IT a bezpečnostní tým. Seznam KEV CISA není jen návrhem pro federální agentury; je to kritické varování pro všechny organizace. Ignorujte to na vlastní nebezpečí.
Iluze „bezpečnosti AI“ a náklady na rozptýlení
Zde je nepříjemná pravda: základní chyby v platformách AI a palba CISA KEV jsou vzájemně propojené aspekty stejného problému. Oba křičí o zásadním selhání zabezpečení softwaru, ale kolektivní pohled našeho odvětví je nebezpečně nesprávný. Jsme tak uchváceni příslibem a nebezpečím „AI“, že necháváme základní digitální infrastrukturu hnít.
„Bezpečnost AI“ se stala módním slovem, novou hranicí pro konzultanty a produktové manažery. Ale co to vlastně je? Často je to jen bezpečnost aplikovaná na systémy AI. Ano, umělá inteligence přináší nové vektory útoků a jedinečné výzvy, ale významnou část „zabezpečení umělé inteligence“ tvoří jednoduše robustní inženýrství, postupy bezpečného kódování a pečlivé záplatování – to samé, v čem selháváme po celá desetiletí. Výše zmíněný problém s izolací virtuálních počítačů je dokonalým příkladem: klasická zranitelnost umocněná složitostí platformy AI.
Stavíme neuvěřitelně složité systémy umělé inteligence na stále křehčích a aktivně využívaných základech. Je to jako pečlivě navrhovat samořídící auto s pokročilou navigací AI, zatímco kola padají a motor drdí. Zaměření na „bezpečnost umělé inteligence“ často působí jako rozptýlení, odvádění zdrojů a pozornosti od všední, neokoukané, ale naprosto zásadní práce na zabezpečení stávající infrastruktury.
Jsme tak zaneprázdněni honbou za další velkou věcí, že necháváme současné velké věci dohořet? Naprostý objem a šířka hrozeb KEV naznačují systémovou a naléhavou výzvu pro základní digitální infrastrukturu, odlišnou od předchozích nultých dnů zaměřených na umělou inteligenci. Tohle není o budoucnosti AI; jde o současný stav naší digitální existence.
Co teď, CTO?
Pro vedoucí inženýry a CTO je zpráva jasná a okamžitá:
- Upřednostněte seznam KEV: Zahoďte vše. Opravte tyto zranitelnosti. Nařídit to. Prosadit to. Toto není volitelné.
- Nenechte se strhnout humbukem o „zabezpečení umělé inteligence“ na úkor základů: Ano, rozumíte jedinečným rizikům umělé inteligence, ale nezapomeňte, že vaší nejlepší obranou jsou stále robustní inženýrství, bezpečné životní cykly vývoje a pečlivé opravy. Vymyšlený model umělé inteligence vás nezachrání, pokud útočník vlastní váš základní virtuální počítač nebo váš server SharePoint.
- Investujte do základního zabezpečení: To znamená víc než jen nákup dalšího bezpečnostního nástroje. Znamená to investovat do lidí, procesů a kultury, která si cení zabezpečení jako základní inženýrské disciplíny, nikoli jako dodatek. Bug bounty programy jsou vynikající, ale měly by být záchrannou sítí, nikoli vaší primární bezpečnostní strategií.
Incident zahrnující infrastrukturu platformy AI je probuzením, ale seznam CISA KEV je naléhavým alarmem. Musíme přestat obdivovat nejnovější bezpečnostní iniciativy AI a začít opravovat díry v naší skutečné obraně. Budoucnost umělé inteligence je vzrušující, ale současný stav naší bezpečnosti je děsivý.
Zdroje
[1] Zabezpečení AI je nepořádek a bude se to zhoršovat — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog známých zneužitých zranitelností – https://www.cisa.gov/known-exploited-vulnerabilities-catalog