Cisárove nové bezpečnostné oblečenie pre umelú inteligenciu: Kým sa pozeráme na Muse, nadácia sa rozpadá
Buďme priamočiari: technologický priemysel má novú posadnutosť a volá sa „bezpečnosť AI“. Od všetkých sa očakáva, že sa zameriame na rýchlu injekciu, otravu modelov a exfiltráciu údajov z veľkých jazykových modelov. Medzitým skutočná, fyzická, digitálna infraštruktúra, ktorá drží naše podniky pohromade, je aktívne podpaľovaná neúprosným prívalom nultých dní. Nedávny incident zahŕňajúci veľkú platformu AI, ktorý ilustruje širšie výzvy pri zabezpečení infraštruktúry AI, zdôrazňuje túto nebezpečnú dichotómiu [1].
Meta, spoločnosť známa svojim étosom „rýchlo sa pohybujte a rozbíjajte veci“, čelila kontrole bezpečnostných nedostatkov svojich platforiem AI. Napríklad bug bounty program odhalil významnú chybu odhaľujúcu virtuálne stroje používateľov. Nešlo o nenápadný únik údajov alebo šikovné rýchle obídenie, ale o zásadnú chybu na úrovni infraštruktúry, ktorá odhalila používateľské VM. Toto nie je nejaká ezoterická zraniteľnosť špecifická pre AI; toto je základná izolácia VM, problém, ktorý sme si pred desiatimi rokmi z veľkej časti mysleli, že bol skrotený. Predstavuje kritické porušenie súkromia a integrity údajov, ktoré má priamy dopad na používateľov a potenciálne podnikových klientov využívajúcich takúto infraštruktúru AI.
Tento typ chyby, aj keď je skutočne pôsobivý, pôsobí menej ako nová výzva v oblasti zabezpečenia AI a skôr ako klasické zlyhanie infraštruktúry v klobúku AI. Je to pripomienka, že aj tie najpokročilejšie platformy AI sú postavené na vrstvách konvenčných výpočtov, sietí a virtualizácie. Ak sú tieto základné vrstvy posiate dierami, nezáleží na tom, aký sofistikovaný je váš model AI; celý systém zostáva zraniteľný. Aspekt „AI“ tohto príbehu je takmer rozptýlením, nesprávnym smerom, ktorý odvádza náš pohľad preč od hnijúceho dreva pod leštenými podlahovými doskami.
KEV Barrage CISA: Kritický indikátor
Zatiaľ čo sme zaneprázdnení debatami o etických dôsledkoch vnímajúcich chatbotov a nuansách bezpečnosti AI, CISA uvoľňuje bezprecedentný počet aktívne využívaných zraniteľností do svojho katalógu známych zneužitých zraniteľností (KEV). Toto nie je teoretické cvičenie. Toto nie je zoznam "opravy jedného dňa". Toto je naliehavý zoznam „váš dom horí práve teraz“.
V posledných týždňoch CISA pridala množstvo záznamov, čím sa celkový počet aktívne využívaných zraniteľností v krátkom čase zvýšil na ohromujúci počet [2]. Toto nie je len „bezpečnosť je zlá“; toto je systémová, eskalujúca kríza, ktorá ovplyvňuje veľmi dôležitý podnikový softvér, ktorý riadi náš svet.
Zvážte najnovšie prírastky do katalógu KEV:
- CVE-2023-46214: Zraniteľnosť Splunk Enterprise pre vzdialené spúšťanie kódu (CVSS 9.8) s termínom opravy CISA, vďaka čomu sú neopravené systémy vysoko zraniteľné.
- CVE-2023-29357: Zraniteľnosť pri eskalácii privilégií servera Microsoft SharePoint, ktorá ovplyvňuje chrbticu nespočetných podnikových intranetov.
- CVE-2023-42824: Zraniteľnosť jadra Apple iOS/iPadOS, ktorá sa už využíva pri cielených útokoch, čo dokazuje, že ani kontrolované ekosystémy nie sú nepreniknuteľné.
- CVE-2023-30799: Chyba spustenia kódu na diaľku v systéme MikroTik RouterOS, ktorá má vplyv na smerovače, ktoré všetko prepájajú, často zostala bez opravy v najhlbších kútoch siete.
Tento rýchly prírastok aktívne využívaných zero-days naprieč hlavnými dodávateľmi – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – si vyžaduje okamžitú a zbesilú pozornosť. Toto nie je všeobecné varovanie; je to siréna, ktorá hučí priamo na každý IT a bezpečnostný tím. Zoznam KEV CISA nie je len návrhom pre federálne agentúry; je to kritické varovanie pre všetky organizácie. Ignorujte to na vlastné nebezpečenstvo.
Ilúzia „bezpečnosti AI“ a náklady na rozptýlenie
Tu je nepríjemná pravda: základné chyby v platformách AI a záplava CISA KEV sú vzájomne prepojené aspekty toho istého problému. Obaja kričia o zásadnom zlyhaní softvérovej bezpečnosti, ale kolektívny pohľad nášho odvetvia je nebezpečne nesprávny. Sme tak uchvátení prísľubom a nebezpečenstvom „AI“, že nechávame hniť základnú digitálnu infraštruktúru.
„Bezpečnosť AI“ sa stala módnym slovom, novou hranicou pre konzultantov a produktových manažérov. Ale čo to vlastne je? Často je to len bezpečnosť aplikovaná na systémy AI. Áno, AI prináša nové vektory útokov a jedinečné výzvy, ale významná časť „zabezpečenia AI“ je jednoducho robustné inžinierstvo, postupy bezpečného kódovania a starostlivé opravy – to isté, v čom zlyhávame už desaťročia. Spomínaný problém s izoláciou virtuálnych počítačov je dokonalým príkladom: klasická zraniteľnosť umocnená zložitosťou platformy AI.
Na stále krehkejších a aktívne využívaných základoch staviame neuveriteľne zložité systémy AI. Je to ako precízne navrhovať samoriadiace auto s pokročilou AI navigáciou, pričom kolesá padajú a motor prská. Zameranie na „bezpečnosť AI“ sa často javí ako rozptýlenie, odvádzanie zdrojov a pozornosti od všednej, neočarujúcej, ale absolútne kritickej práce pri zabezpečení existujúcej infraštruktúry.
Sme takí zaneprázdnení honbou za ďalšou veľkou vecou, že nechávame súčasné veľké veci zhorieť? Samotný objem a šírka hrozieb KEV naznačuje systémovú a naliehavú výzvu pre základnú digitálnu infraštruktúru, ktorá sa líši od predchádzajúcich nultých diskusií zameraných na AI. Toto nie je o budúcnosti AI; ide o súčasný stav našej digitálnej existencie.
Čo teraz, CTO?
Pre vedúcich inžinierov a CTO je správa strohá a okamžitá:
- Uprednostnite zoznam KEV: Vynechajte všetko. Opravte tieto zraniteľnosti. Nariadiť to. Presadzujte to. Toto nie je voliteľné.
- Nenechajte sa strhnúť humbukom o „bezpečnosti AI“ na úkor základov: Áno, rozumiete jedinečným rizikám umelej inteligencie, no pamätajte, že vašou najlepšou obranou sú stále robustné inžinierstvo, bezpečné životné cykly vývoja a starostlivé opravy. Vymyslený model AI vás nezachráni, ak útočník vlastní váš základný virtuálny počítač alebo server SharePoint.
- Investujte do základného zabezpečenia: Znamená to viac než len nákup ďalšieho bezpečnostného nástroja. Znamená to investovať do ľudí, procesov a kultúry, ktorá si cení bezpečnosť ako základnú inžiniersku disciplínu, nie dodatočnú myšlienku. Bug bounty programy sú vynikajúce, ale mali by byť záchrannou sieťou, nie vašou primárnou bezpečnostnou stratégiou.
Incident týkajúci sa infraštruktúry platformy AI je budíkom, ale zoznam CISA KEV je naliehavým alarmom. Musíme prestať obdivovať najnovšie bezpečnostné iniciatívy AI a začať opravovať diery v našej skutočnej obrane. Budúcnosť AI je vzrušujúca, ale súčasný stav našej bezpečnosti je desivý.
Zdroje
[1] Zabezpečenie AI je neporiadok a bude sa to zhoršovať — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalóg známych zneužitých zraniteľností – https://www.cisa.gov/known-exploited-vulnerabilities-catalog