La Novaj Sekurecaj Vestoj de AI de la Imperiestro: Dum Ni Rigardas Muse, la Fundamento Disfalas
Ni estu rektaj: la teknologia industrio havas novan obsedon, kaj ĝi nomiĝas "AI-sekureco". Oni atendas, ke ni ĉiuj fokusiĝos pri rapida injekto, modelveneniĝo kaj datumoj-eksfiltrado de grandaj lingvomodeloj. Dume, la fakta, fizika, cifereca infrastrukturo tenanta niajn entreprenojn kune estas aktive ekbruligita de senĉesa bombardo de nul-tagoj. Lastatempa okazaĵo implikanta gravan AI-platformon, ilustran de la pli larĝaj defioj en sekurigado de AI-infrastrukturo, elstarigas ĉi tiun danĝeran dikotomion [1].
Meta, firmao konata pro sia etoso "rapide moviĝu kaj rompas aferojn", alfrontis ekzamenadon pri sekurecaj difektoj en siaj AI-platformoj. Ekzemple, programo pri cimo-premio malkovris gravan difekton elmontrantan uzantajn Virtualajn Maŝinojn. Ĉi tio ne estis subtila datumfluo aŭ saĝa prompta pretervojo, sed fundamenta, infrastruktur-nivela eraro, kiu elmontris uzantajn VMs. Ĉi tio ne estas iu esotera AI-specifa vundebleco; ĉi tio estas baza VM-izolado, problemo, kiun ni plejparte pensis malsovaĝigita antaŭ jardeko. Ĝi reprezentas kritikan rompon de privateco kaj datuma integreco, rekte influante uzantojn kaj eble entreprenajn klientojn utiligante tian AI-infrastrukturon.
Ĉi tiu speco de difekto, kvankam vere efika, sentas malpli kiel nova defio de "AI-sekureco" kaj pli kiel klasika infrastruktura fiasko portanta AI-ĉapelon. Ĝi estas memorigilo, ke eĉ la plej altnivelaj AI-platformoj estas konstruitaj sur tavoloj de konvencia komputado, interkonektado kaj virtualigo. Se tiuj fundamentaj tavoloj estas truitaj per truoj, ne gravas kiom altnivela estas via AI-modelo; la tuta sistemo restas vundebla. La "AI" aspekto de ĉi tiu rakonto estas preskaŭ distraĵo, misdirektado kiu tiras nian rigardon for de la putriĝantaj konstrulignoj sub la poluritaj planktabuloj.
KEV Barage de CISA: Kritika Indikilo
Dum ni okupas diskutadon pri la etikaj implicoj de sentemaj babilrotoj kaj la nuancoj de AI-sekureco, CISA faligas senprecedencan nombron da aktive ekspluatitaj vundeblecoj en sian katalogon de Known Exploited Vulnerabilities (KEV). Ĉi tio ne estas teoria ekzerco. Ĉi tio ne estas listo de "fakaĵo iam". Ĉi tio estas urĝa listo "via domo brulas nun".
En la lastaj semajnoj, CISA aldonis multajn enskribojn, alportante la totalon de aktive ekspluatitaj vundeblecoj al mirinda nombro en mallonga periodo [2]. Ĉi tio ne estas nur "sekureco estas malbona"; ĉi tio estas sistema, eskalada krizo influanta la tre kritikan entreprenan programaron, kiu kuras nian mondon.
Konsideru lastatempajn aldonojn al la KEV-katalogo:
- CVE-2023-46214: Splunk Enterprise fora kodo-ekzekuta vundebleco (CVSS 9.8) kun CISA flikdato, igante neflikitajn sistemojn tre vundeblaj.
- CVE-2023-29357: Mikrosofto SharePoint Server-privilegia eskalada vundebleco, influanta la spinon de sennombraj kompaniaj intraretoj.
- CVE-2023-42824: Apple iOS/iPadOS-kerna vundebleco, jam ekspluatata en celitaj atakoj, pruvante ke eĉ kontrolitaj ekosistemoj ne estas nepenetreblaj.
- CVE-2023-30799: MikroTik RouterOS-malproksima koda ekzekuto difekto, influanta la enkursigilojn, kiuj konektas ĉion, ofte lasita neflakita en la plej profundaj anguloj de la reto.
Ĉi tiu rapida aldono de aktive ekspluatitaj nul-tagoj tra ĉefaj vendistoj - Microsoft, Apple, Splunk, MikroTik, Linukso, JFrog - postulas tujan, frenezan atenton. Ĉi tio ne estas ĝenerala averto; ĝi estas sireno bruanta rekte ĉe ĉiu IT kaj sekureca teamo. La KEV-listo de CISA ne estas nur sugesto por federaciaj agentejoj; ĝi estas kritika averto por ĉiuj organizoj. Ignoru ĝin je via risko.
La Iluzio de "AI-Sekureco" kaj la Kosto de Distro
Jen la malkomforta vero: la fundamentaj difektoj en AI-platformoj kaj la CISA KEV-bombo estas interligitaj aspektoj de la sama problemo. Ili ambaŭ krias pri fundamenta paneo en softvara sekureco, sed la kolektiva rigardo de nia industrio estas danĝere misalignita. Ni estas tiom kaptitaj de la promeso kaj danĝero de "AI", ke ni lasas la fundamentan ciferecan infrastrukturon putri.
"AI-sekureco" fariĝis furorvorto, nova limo por konsultistoj kaj produktmanaĝeroj. Sed kio ĝi estas, vere? Ofte, ĝi estas nur sekureco aplikata al AI-sistemoj. Jes, AI enkondukas novajn atakvektorojn kaj unikajn defiojn, sed signifa parto de "AI-sekureco" estas simple fortika inĝenieristiko, sekuraj kodaj praktikoj kaj diligenta flikado - la samaj aferoj, pri kiuj ni malsukcesas dum jardekoj. La problemo pri izolado de VM menciita antaŭe estas perfekta ekzemplo: klasika vundebleco plifortigita de la komplekseco de AI-platformo.
Ni konstruas nekredeble kompleksajn AI-sistemojn aldone al ĉiam pli delikataj kaj aktive ekspluatitaj fundamentoj. Estas kiel zorge dezajni memveturan aŭton kun altnivela AI-navigado, dum la radoj defalas kaj la motoro ŝprucas. La fokuso pri "AI-sekureco" ofte sentas sin kiel distraĵo, deturnante rimedojn kaj atenton de la sekulara, malglama, sed absolute kritika laboro de sekurigi ekzistantan infrastrukturon.
Ĉu ni tiom okupas sin persekuti la sekvan grandan aferon, ke ni lasas la nunajn grandajn aferojn forbruli? La granda volumeno kaj amplekso de la KEV-minacoj indikas sisteman kaj urĝan defion al fundamenta cifereca infrastrukturo, malsama de antaŭaj AI-centraj nul-tagaj diskutoj. Ĉi tio ne temas pri la estonteco de AI; temas pri la nuna stato de nia cifereca ekzistado.
Kio Nun, CTO-oj?
Por inĝenieraj gvidantoj kaj CTO-oj, la mesaĝo estas severa kaj tuja:
- Prioritu la KEV-liston: Forigu ĉion. Fliki ĉi tiujn vundeblecojn. Mandatu ĝin. Devigu ĝin. Ĉi tio ne estas laŭvola.
- Ne eniru en la "AI-sekureco"-eksplodo koste de bazaĵoj: Jes, komprenu la unikajn riskojn de AI, sed memoru, ke fortika inĝenierado, sekuraj evoluaj vivocikloj kaj diligenta flikado ankoraŭ estas via plej bona defendo. Fantazia AI-modelo ne savos vin se atakanto posedas vian suban VM aŭ vian SharePoint-servilon.
- Investi en fundamenta sekureco: Ĉi tio signifas pli ol nur aĉeti alian sekurecan ilon. Ĝi signifas investi en homoj, procezoj kaj kulturo, kiu taksas sekurecon kiel kernan inĝenieristikdisciplinon, ne postpenson. Programoj pri cimo-premio estas bonegaj, sed ili devus esti sekureca reto, ne via ĉefa sekureca strategio.
La okazaĵo implikanta AI-platforminfrastrukturon estas vekvoko, sed la CISA KEV-listo estas la urĝa alarmo. Ni devas ĉesi admiri la plej novajn sekureciniciatojn de AI kaj komenci fliki la truojn en niaj realaj defendoj. La estonteco de AI estas ekscita, sed la nuna stato de nia sekureco estas terura.
Fontoj
[1] AI-sekureco estas malordo, kaj ĝi estas plimalboniĝos - https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalogo de Konataj Ekspluatitaj Vulnerabilities - https://www.cisa.gov/known-exploited-vulnerabilities-catalog