Noile haine de securitate AI ale împăratului: în timp ce ne uităm la Muse, fundația se prăbușește
Să fim direcți: industria tehnologiei are o nouă obsesie și se numește „securitate AI”. Se așteaptă cu toții să ne concentrăm pe injectarea promptă, otrăvirea modelului și exfiltrarea datelor din modele de limbaj mari. Între timp, infrastructura reală, fizică și digitală care ne ține împreună întreprinderile este incendiată în mod activ de un baraj necruțător de zile zero. Un incident recent care implică o platformă AI majoră, care ilustrează provocările mai largi în securizarea infrastructurii AI, evidențiază această dihotomie periculoasă [1].
Meta, o companie cunoscută pentru ethos-ul său „mișcă-te rapid și sparge lucrurile”, s-a confruntat cu o analiză atentă a defectelor de securitate ale platformelor sale AI. De exemplu, un program de recompensă pentru erori a descoperit un defect semnificativ care expune mașinile virtuale ale utilizatorului. Aceasta nu a fost o scurgere subtilă de date sau o ocolire inteligentă a promptului, ci o eroare fundamentală, la nivel de infrastructură, care a expus mașinile virtuale ale utilizatorilor. Aceasta nu este o vulnerabilitate ezoterică specifică AI; aceasta este izolarea de bază a VM, o problemă pe care am crezut-o în mare măsură că a fost îmblânzită cu un deceniu în urmă. Reprezintă o încălcare critică a confidențialității și integrității datelor, impactând direct utilizatorii și potențial clienții întreprinderi care folosesc o astfel de infrastructură AI.
Acest tip de defect, deși are un impact cu adevărat, se simte mai puțin ca o nouă provocare de „securitate AI” și mai mult ca o defecțiune clasică a infrastructurii purtând o pălărie AI. Este un memento că chiar și cele mai avansate platforme AI sunt construite pe straturi convenționale de calcul, rețele și virtualizare. Dacă acele straturi de bază sunt pline de găuri, nu contează cât de sofisticat este modelul tău AI; întregul sistem rămâne vulnerabil. Aspectul „AI” al acestei povești este aproape o distragere a atenției, o direcție greșită care ne atrage privirea de la cheresteaua putrezită de sub scândurile lustruite.
Barajul KEV al CISA: un indicator critic
În timp ce suntem ocupați să dezbatem implicațiile etice ale chatbot-urilor sensibile și nuanțele siguranței AI, CISA introduce un număr fără precedent de vulnerabilități exploatate activ în catalogul său Known Exploited Vulnerabilities (KEV). Acesta nu este un exercițiu teoretic. Aceasta nu este o listă cu „patch-uri într-o zi”. Aceasta este o listă urgentă „casa ta este în flăcări chiar acum”.
În ultimele săptămâni, CISA a adăugat numeroase intrări, aducând totalul vulnerabilităților exploatate activ la un număr uluitor într-o perioadă scurtă [2]. Acesta nu este doar „securitatea este proastă”; aceasta este o criză sistemică, crescândă, care are un impact asupra software-ului de întreprindere foarte critic care conduce lumea noastră.
Luați în considerare adăugările recente la catalogul KEV:
- CVE-2023-46214: O vulnerabilitate de execuție a codului de la distanță Splunk Enterprise (CVSS 9.8) cu un termen limită pentru corecția CISA, ceea ce face ca sistemele nepatchate să fie extrem de vulnerabile.
- CVE-2023-29357: O vulnerabilitate de escaladare a privilegiilor Microsoft SharePoint Server, care afectează coloana vertebrală a nenumăratelor intranet-uri corporative.
- CVE-2023-42824: O vulnerabilitate a nucleului Apple iOS/iPadOS, deja exploatată în atacuri direcționate, demonstrând că nici măcar ecosistemele controlate nu sunt impenetrabile.
- CVE-2023-30799: O defecțiune de execuție a codului de la distanță MikroTik RouterOS, care afectează routerele care conectează totul, adesea lăsate necorecte în cele mai adânci colțuri ale rețelei.
Această adăugare rapidă a zero-days exploatate activ de către furnizorii importanți – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – necesită o atenție imediată, frenetică. Acesta nu este un avertisment general; este o sirenă care sună direct la fiecare echipă IT și de securitate. Lista KEV a CISA nu este doar o sugestie pentru agențiile federale; este un avertisment critic pentru toate organizațiile. Ignora-l pe riscul tău.
Iluzia „Securității AI” și costul distragerii atenției
Iată adevărul incomod: defectele fundamentale ale platformelor AI și barajul CISA KEV sunt aspecte interconectate ale aceleiași probleme. Amândoi țipă despre o defecțiune fundamentală a securității software, dar privirea colectivă a industriei noastre este periculos de nealiniată. Suntem atât de captivați de promisiunea și pericolul „AI” încât lăsăm să putrezească infrastructura digitală de bază.
„Securitatea AI” a devenit un cuvânt de moda, o nouă frontieră pentru consultanți și managerii de produs. Dar ce este, de fapt? Adesea, este doar securitate aplicată sistemelor AI. Da, AI introduce noi vectori de atac și provocări unice, dar o parte semnificativă a „securității AI” este pur și simplu o inginerie robustă, practici de codare sigure și corecție diligentă – aceleași lucruri la care am eșuat de zeci de ani. Problema izolării VM menționată mai devreme este un exemplu perfect: o vulnerabilitate clasică amplificată de complexitatea unei platforme AI.
Construim sisteme AI incredibil de complexe pe fundații din ce în ce mai fragile și exploatate activ. Este ca și cum ai proiecta meticulos o mașină cu conducere autonomă, cu navigație AI avansată, în timp ce roțile cad și motorul pulverizează. Accentul pe „securitatea AI” se simte adesea ca o distragere a atenției, care distrag resursele și atenția de la munca banală, lipsită de farmec, dar absolut critică de securizare a infrastructurii existente.
Suntem atât de ocupați să urmărim următorul lucru mare încât lăsăm lucrurile mari actuale să ardă? Volumul și amploarea amenințărilor KEV indică o provocare sistemică și urgentă pentru infrastructura digitală de bază, diferită de discuțiile anterioare centrate pe AI-zero-day. Nu este vorba despre viitorul AI; este vorba despre starea actuală a existenței noastre digitale.
Ce acum, CTO?
Pentru clienții potențiali de inginerie și CTO, mesajul este clar și imediat:
- Acordați prioritate listei KEV: Aruncă totul. Corectează aceste vulnerabilități. Manda-l. Aplică-l. Acest lucru nu este opțional.
- Nu vă lăsați cuprins de hype-ul „securității AI” în detrimentul elementelor fundamentale: Da, înțelegeți riscurile unice ale AI, dar amintiți-vă că ingineria robustă, ciclurile de viață sigure de dezvoltare și corecțiile diligente sunt încă cea mai bună apărare. Un model AI elegant nu te va salva dacă un atacator deține VM-ul tău subiacent sau serverul SharePoint.
- Investiți în securitatea de bază: Aceasta înseamnă mai mult decât cumpărarea unui alt instrument de securitate. Înseamnă să investești în oameni, procese și o cultură care prețuiește securitatea ca pe o disciplină de bază a ingineriei, nu ca o idee ulterioară. Programele de recompense pentru erori sunt excelente, dar ar trebui să fie o plasă de siguranță, nu strategia ta de securitate principală.
Incidentul care implică infrastructura platformei AI este un semnal de alarmă, dar lista CISA KEV este alarma urgentă. Trebuie să nu mai admirăm cele mai recente inițiative de securitate AI și să începem să reparăm găurile din apărarea noastră actuală. Viitorul AI este interesant, dar starea actuală a securității noastre este terifiantă.
Surse
[1] Securitatea AI este o mizerie și este pe cale să se înrăutățească — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Catalogul vulnerabilităților exploatate cunoscute — https://www.cisa.gov/known-exploited-vulnerabilities-catalog