A császár új mesterséges intelligencia biztonsági ruhája: Amíg a Muse-t nézzük, az alap összeomlik
Legyünk közvetlenek: a technológiai iparnak új rögeszméje van, és ezt "AI biztonságnak" hívják. Mindannyiunknak az azonnali befecskendezésre, a modellmérgezésre és a nagy nyelvi modellekből való adatok kiszűrésére kell összpontosítanunk. Mindeközben a vállalkozásainkat összetartó tényleges, fizikai, digitális infrastruktúra aktívan lángra lobbant a nulladik napok könyörtelen zápora miatt. A közelmúltban egy jelentős mesterségesintelligencia-platformot érintő incidens, amely az AI-infrastruktúra biztonságának tágabb kihívásait szemlélteti, rávilágít erre a veszélyes kettősségre [1].
A Meta, a "mozogj gyorsan és törd meg a dolgokat" szellemiségéről ismert cég, az AI-platformok biztonsági hibáit vizsgálták. Például egy bug bounty program jelentős hibát tárt fel, amely felfedte a felhasználói virtuális gépeket. Ez nem egy finom adatszivárgás vagy egy ügyes felszólítás, hanem egy alapvető, infrastruktúra szintű hiba, amely felfedte a felhasználói virtuális gépeket. Ez nem valami ezoterikus AI-specifikus sebezhetőség; ez a virtuális gépek alapvető elszigetelése, egy olyan probléma, amelyet egy évtizeddel ezelőtt nagyrészt megszelídítettnek gondoltunk. Ez a magánélet és az adatintegritás kritikus megsértését jelenti, amely közvetlenül érinti a felhasználókat és az ilyen mesterségesintelligencia-infrastruktúrát kihasználó potenciális vállalati ügyfeleket.
Ez a fajta hiba, bár valóban hatásos, kevésbé tűnik újszerű „MI-biztonsági” kihívásnak, hanem inkább klasszikus infrastrukturális hibának, amely mesterséges intelligencia kalapot visel. Emlékeztetőül szolgál, hogy még a legfejlettebb AI-platformok is a hagyományos számítási, hálózatépítési és virtualizációs rétegekre épülnek. Ha ezek az alaprétegek tele vannak lyukakkal, nem számít, mennyire kifinomult az AI-modell; az egész rendszer sebezhető marad. Ennek a történetnek az „AI” aspektusa szinte elvonja a figyelmet, egy félrevezetés, amely eltereli a tekintetünket a csiszolt padlódeszkák alatti korhadó fákról.
A CISA KEV-gátja: kritikus mutató
Miközben az érző chatbotok etikai vonatkozásairól és a mesterséges intelligencia biztonságának árnyalatairól vitatkozunk, a CISA példátlan számú, aktívan kihasznált sebezhetőséget dob be Known Exploited Vulnerabilities (KEV) katalógusába. Ez nem elméleti gyakorlat. Ez nem egy "egy nap javítás" lista. Ez egy sürgős "a háza ég most" lista.
Az elmúlt hetekben a CISA számos bejegyzéssel bővült, így az aktívan kihasznált sebezhetőségek száma rövid időn belül elképesztő számra nőtt [2]. Ez nem csak „rossz a biztonság”; ez egy rendszerszintű, eszkalálódó válság, amely hatással van a világunkat működtető nagyon kritikus vállalati szoftverekre.
Vegye figyelembe a KEV katalógus legújabb kiegészítéseit:
- CVE-2023-46214: Splunk Enterprise távoli kódfuttatást okozó biztonsági rés (CVSS 9.8) CISA-javítási határidővel, ami a javítatlan rendszereket rendkívül sebezhetővé teszi.
- CVE-2023-29357: A Microsoft SharePoint Server privilégiumok kiterjesztésével kapcsolatos biztonsági rés, amely számtalan vállalati intranet gerincét érinti.
- CVE-2023-42824: Egy Apple iOS/iPadOS kernel sebezhetősége, amelyet már célzott támadások során is kihasználtak, és azt bizonyítja, hogy még az ellenőrzött ökoszisztémák sem áthatolhatatlanok.
- CVE-2023-30799: A MikroTik RouterOS távoli kódvégrehajtási hibája, amely hatással van a mindent összekötő útválasztókra, és gyakran a hálózat legmélyebb sarkaiban is foltozatlan marad.
A főbb gyártók – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – aktívan kihasznált nulladik napjainak gyors felfutása azonnali, eszeveszett figyelmet igényel. Ez nem általános figyelmeztetés; ez egy sziréna, amely közvetlenül minden informatikai és biztonsági csapatnál bömböl. A CISA KEV-listája nem csak javaslat a szövetségi ügynökségeknek; ez kritikus figyelmeztetés minden szervezet számára. Veszélyedre hagyd figyelmen kívül.
Az "AI biztonság" illúziója és a figyelemelterelés költsége
Íme a kényelmetlen igazság: az AI-platformok alapvető hibái és a CISA KEV-torlasz ugyanannak a problémának az egymással összefüggő aspektusai. Mindketten a szoftverbiztonság alapvető meghibásodásáról üvöltenek, de iparágunk kollektív tekintete veszélyesen elcsúszott. Annyira elbűvöl minket az „AI” ígérete és veszélye, hogy hagyjuk, hogy az alapvető digitális infrastruktúra megrohadjon.
Az „AI biztonság” divatszóvá vált, új határvonalat jelent a tanácsadók és a termékmenedzserek számára. De mi az igazából? Gyakran ez csak biztonság, amelyet az AI-rendszerekre alkalmaznak. Igen, a mesterséges intelligencia új támadási vektorokat és egyedi kihívásokat vezet be, de az „AI biztonság” jelentős része egyszerűen robusztus tervezés, biztonságos kódolási gyakorlat és szorgalmas javítás – ugyanaz, amiben évtizedek óta kudarcot vallottunk. A korábban említett virtuális gépek elkülönítési problémája tökéletes példa: egy klasszikus sebezhetőség, amelyet az AI-platform összetettsége felerősít.
Hihetetlenül összetett AI-rendszereket építünk az egyre törékenyebb és aktívabban kiaknázott alapokra. Mintha aprólékosan megterveznénk egy önvezető autót fejlett AI-navigációval, miközben a kerekek leesnek, a motor pedig poroszkál. Az „AI biztonság”-ra való összpontosítás gyakran úgy tűnik, hogy elvonja a figyelmet, eltereli az erőforrásokat és a figyelmet a meglévő infrastruktúra biztosításának hétköznapi, elbűvölő, de abszolút kritikus munkájáról.
Annyira elfoglaltak vagyunk a következő nagy dolog hajszolásával, hogy hagyjuk, hogy a jelenlegi nagy dolgok leégjenek? A KEV-fenyegetések puszta mennyisége és szélessége rendszerszintű és sürgető kihívást jelent az alapvető digitális infrastruktúra számára, ami különbözik a korábbi AI-központú nulladik napi megbeszélésektől. Ez nem az AI jövőjéről szól; digitális létünk jelenlegi állapotáról van szó.
Mi most, műszaki igazgatók?
A vezető mérnökök és műszaki igazgatók számára az üzenet éles és azonnali:
- A KEV-lista prioritása: Mindent el kell dobni. Javítsa ki ezeket a sebezhetőségeket. Mandátumozza. kényszerítsd ki. Ez nem kötelező.
- Ne ragadjon bele az „AI biztonsági” hírverésbe az alapok rovására: Igen, ismerje meg az AI egyedi kockázatait, de ne feledje, hogy a robusztus tervezés, a biztonságos fejlesztési életciklusok és a gondos javítás továbbra is a legjobb védekezés. Egy divatos AI-modell nem menti meg, ha egy támadó birtokolja az alapul szolgáló virtuális gépet vagy a SharePoint-kiszolgálót.
- Fefektessen be az alapvető biztonságba: Ez többet jelent, mint egy másik biztonsági eszköz vásárlása. Ez azt jelenti, hogy be kell fektetni az emberekbe, a folyamatokba és egy olyan kultúrába, amely a biztonságot alapvető mérnöki tudományágként értékeli, nem pedig utólagos gondolatként. A hibajavító programok kiválóak, de biztonsági hálónak kell lenniük, nem pedig az elsődleges biztonsági stratégiának.
Az AI platform infrastruktúráját érintő incidens ébresztő, de a CISA KEV lista a sürgős riasztás. Abba kell hagynunk a legújabb mesterséges intelligencia biztonsági kezdeményezések csodálatát, és el kell kezdenünk befoltozni a tényleges védelmünk lyukait. Az AI jövője izgalmas, de biztonságunk jelenlegi állapota ijesztő.
Források
[1] Az AI biztonsága egy káosz, és hamarosan egyre rosszabb lesz – https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Ismert kihasznált sebezhetőségi katalógus – https://www.cisa.gov/known-exploited-vulnerabilities-catalog