La nova roba de seguretat d'IA de l'emperador: mentre mirem a Muse, la Fundació s'enfonsa
Siguem directes: la indústria tecnològica té una nova obsessió, i s'anomena "seguretat de la IA". S'espera que tots ens centrem en la injecció ràpida, l'enverinament de models i l'exfiltració de dades de grans models de llenguatge. Mentrestant, la infraestructura real, física i digital que manté unides les nostres empreses s'està incendiant activament per un implacable bombardeig de dies zero. Un incident recent que implica una plataforma important d'IA, il·lustratiu dels reptes més amplis per assegurar la infraestructura d'IA, posa de manifest aquesta perillosa dicotomia [1].
Meta, una empresa coneguda pel seu ethos de "moure ràpid i trencar coses", s'ha enfrontat a un escrutini per fallades de seguretat a les seves plataformes d'IA. Per exemple, un programa de recompensa d'errors va descobrir un defecte important que exposava les màquines virtuals dels usuaris. No es tractava d'una filtració de dades subtil o d'una evasió intel·ligent d'indicadors, sinó d'un error fonamental a nivell d'infraestructura que va exposar * les màquines virtuals d'usuari *. Aquesta no és una vulnerabilitat esotèrica específica de la IA; aquest és un aïllament bàsic de VM, un problema que en gran part pensàvem domesticat fa una dècada. Representa una violació crítica de la privadesa i la integritat de les dades, que afecta directament els usuaris i, potencialment, els clients empresarials que aprofiten aquesta infraestructura d'IA.
Aquest tipus de defecte, tot i que realment impacta, sembla menys un nou repte de "seguretat de l'IA" i més com una fallada d'infraestructura clàssica amb un barret d'IA. És un recordatori que fins i tot les plataformes d'IA més avançades es basen en capes de computació, xarxes i virtualització convencionals. Si aquestes capes fonamentals estan plenes de forats, no importa el sofisticat que sigui el vostre model d'IA; tot el sistema continua sent vulnerable. L'aspecte "IA" d'aquesta història és gairebé una distracció, una mala direcció que allunya la nostra mirada de les fustes podrides sota les taules polides del terra.
Barrage KEV de CISA: un indicador crític
Mentre estem ocupats debatint les implicacions ètiques dels chatbots sensibles i els matisos de la seguretat de la IA, CISA està deixant caure un nombre sense precedents de vulnerabilitats explotades activament al seu catàleg de vulnerabilitats explotades conegudes (KEV). Aquest no és un exercici teòric. Aquesta no és una llista de "pedaços algun dia". Aquesta és una llista urgent "la teva casa està en flames ara".
En les últimes setmanes, CISA ha afegit nombroses entrades, portant el total de vulnerabilitats explotades activament a un nombre sorprenent en un període curt [2]. Això no és només "la seguretat és dolenta"; es tracta d'una crisi sistèmica i creixent que afecta el programari empresarial molt crític que gestiona el nostre món.
Considereu les incorporacions recents al catàleg KEV:
- CVE-2023-46214: Una vulnerabilitat d'execució de codi remota de Splunk Enterprise (CVSS 9.8) amb un termini de pedaç CISA, que fa que els sistemes sense pegats siguin molt vulnerables.
- CVE-2023-29357: Una vulnerabilitat d'escalada de privilegis de Microsoft SharePoint Server, que afecta la columna vertebral d'innombrables intranets corporatives.
- CVE-2023-42824: Una vulnerabilitat del nucli d'Apple iOS/iPadOS, ja explotada en atacs dirigits, que demostra que fins i tot els ecosistemes controlats no són impenetrables.
- CVE-2023-30799: Un error d'execució de codi remot de MikroTik RouterOS, que afecta els encaminadors que connecten tot, sovint sense pegats als racons més profunds de la xarxa.
Aquesta incorporació ràpida de zero-days explotats activament als principals proveïdors (Microsoft, Apple, Splunk, MikroTik, Linux, JFrog) demana una atenció immediata i frenètica. Això no és un avís general; és una sirena que sona directament a tots els equips informàtics i de seguretat. La llista KEV de CISA no és només un suggeriment per a les agències federals; és una advertència crítica per a totes les organitzacions. Ignoreu-ho sota el vostre risc.
La il·lusió de la "seguretat de l'IA" i el cost de la distracció
Aquí hi ha la veritat incòmoda: els defectes fonamentals de les plataformes d'IA i el bombardeig CISA KEV són aspectes interconnectats del mateix problema. Tots dos criden sobre una fallada fonamental en la seguretat del programari, però la mirada col·lectiva de la nostra indústria està perillosament desalineada. Estem tan captivats per la promesa i el perill de la "IA" que estem deixant podrir la infraestructura digital fonamental.
"Seguretat de l'IA" s'ha convertit en una paraula de moda, una nova frontera per a consultors i gestors de producte. Però què és, realment? Sovint, només és seguretat aplicada als sistemes d'IA. Sí, la IA introdueix nous vectors d'atac i reptes únics, però una part important de la "seguretat de la IA" és simplement una enginyeria sòlida, pràctiques de codificació segura i pegats diligents, les mateixes coses que hem fallat durant dècades. El problema d'aïllament de VM esmentat anteriorment és un exemple perfecte: una vulnerabilitat clàssica amplificada per la complexitat d'una plataforma d'IA.
Estem construint sistemes d'IA increïblement complexos a sobre de fonaments cada cop més fràgils i explotats activament. És com dissenyar meticulosament un cotxe autònom amb una navegació avançada d'IA, mentre les rodes cauen i el motor esclata. El focus en la "seguretat de la IA" sovint se sent com una distracció, desviant recursos i atenció de la feina mundana, poc glamurosa, però absolutament crítica de protegir la infraestructura existent.
Estem tan ocupats perseguint la propera gran cosa que estem deixant cremar les grans coses actuals? El gran volum i l'amplitud de les amenaces KEV indiquen un repte sistèmic i urgent per a la infraestructura digital fonamental, diferent de les discussions anteriors centrades en IA zero-day. No es tracta del futur de la IA; es tracta de l'estat actual de la nostra existència digital.
Què ara, CTOs?
Per als responsables d'enginyeria i els CTO, el missatge és dur i immediat:
- Prioritzar la llista KEV: Deixa-ho anar tot. Apliqueu aquestes vulnerabilitats. Manda-ho. Fer-ho complir. Això no és opcional.
- No us oblideu de l'exageració de la "seguretat de la IA" a costa dels fonaments: Sí, enteneu els riscos únics de la IA, però recordeu que una enginyeria robusta, cicles de vida de desenvolupament segurs i pegats diligents segueixen sent la vostra millor defensa. Un model d'IA elegant no us salvarà si un atacant és propietari de la vostra màquina virtual subjacent o del vostre servidor de SharePoint.
- Invertir en seguretat bàsica: Això significa més que comprar una altra eina de seguretat. Significa invertir en persones, processos i una cultura que valora la seguretat com a disciplina bàsica d'enginyeria, no com una idea posterior. Els programes de recompensa d'errors són excel·lents, però haurien de ser una xarxa de seguretat, no la vostra estratègia de seguretat principal.
L'incident que implica la infraestructura de la plataforma d'IA és una trucada d'atenció, però la llista CISA KEV és l'alarma urgent. Hem de deixar d'admirar les últimes iniciatives de seguretat d'IA i començar a reparar els forats de les nostres defenses reals. El futur de la IA és emocionant, però l'estat actual de la nostra seguretat és aterridor.
Fonts
[1] La seguretat de la IA és un desastre i està a punt de empitjorar: https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catàleg de vulnerabilitats explotades conegudes — https://www.cisa.gov/known-exploited-vulnerabilities-catalog