Imperatora jaunās mākslīgā intelekta drošības drēbes: kamēr mēs skatāmies uz Muse, pamats brūk
Būsim tieši: tehnoloģiju nozarei ir jauna apsēstība, un to sauc par "AI drošību". Mēs visi koncentrēsimies uz tūlītēju injekciju, modeļu saindēšanu un datu izfiltrēšanu no lieliem valodu modeļiem. Tikmēr faktisko, fizisko, digitālo infrastruktūru, kas satur mūsu uzņēmumus, aktīvi aizdedzina nerimstošs nulles dienu aizsprosts. Nesenais incidents, kas saistīts ar lielu AI platformu, ilustrē plašākas problēmas AI infrastruktūras nodrošināšanā, izceļ šo bīstamo dihotomiju [1].
Uzņēmums Meta, kas pazīstams ar savu "pārvietojieties ātri un pārtrauc lietas" ētiku, ir saskārusies ar pārbaudēm par drošības trūkumiem tā AI platformās. Piemēram, kļūdu novēršanas programma atklāja būtisku trūkumu, kas atklāja lietotāja virtuālās mašīnas. Tā nebija smalka datu noplūde vai gudra tūlītēja apiešana, bet gan būtiska infrastruktūras līmeņa kļūda, kas atklāja lietotāju virtuālās mašīnas. Tā nav kāda ezotēriska AI ievainojamība; šī ir pamata VM izolācija — problēma, par kuru mēs lielākoties domājām, ka tā ir pieradināta pirms desmit gadiem. Tas ir būtisks privātuma un datu integritātes pārkāpums, kas tieši ietekmē lietotājus un potenciālos uzņēmumu klientus, kas izmanto šādu AI infrastruktūru.
Lai gan šāda veida nepilnības ir patiesi ietekmīgas, tās šķiet mazāk kā jaunas “AI drošības” problēmas, bet drīzāk kā klasiska infrastruktūras kļūme, kas valkā AI cepuri. Tas ir atgādinājums, ka pat vismodernākās AI platformas ir balstītas uz parasto skaitļošanas, tīklu un virtualizācijas slāņiem. Ja šie pamata slāņi ir cauri, nav nozīmes tam, cik izsmalcināts ir jūsu AI modelis. visa sistēma joprojām ir neaizsargāta. Šī stāsta "AI" aspekts gandrīz novērš uzmanību, novirza mūsu skatienu no trūdošajiem kokmateriāliem zem pulētajiem grīdas dēļiem.
CISA KEV aizsprosts: kritisks rādītājs
Kamēr mēs esam aizņemti diskusijās par jutīgu tērzēšanas robotu ētiskajām sekām un AI drošības niansēm, CISA savā Zināmo izmantoto ievainojamību (KEV) katalogā iekļauj nepieredzētu skaitu aktīvi izmantotu ievainojamību. Šis nav teorētisks vingrinājums. Šis nav saraksts "kādreiz labot". Šis ir steidzams saraksts "jūsu māja deg pašlaik".
Pēdējo nedēļu laikā CISA ir pievienojusi daudzus ierakstus, īsā laika periodā palielinot aktīvi izmantoto ievainojamību kopskaitu līdz satriecošam skaitam [2]. Tas nav tikai "drošība ir slikta"; šī ir sistēmiska, eskalējoša krīze, kas ietekmē ļoti kritisko uzņēmuma programmatūru, kas vada mūsu pasauli.
Apsveriet jaunākos KEV kataloga papildinājumus:
- CVE-2023-46214: Splunk Enterprise attālās koda izpildes ievainojamība (CVSS 9.8) ar CISA labošanas termiņu, padarot neievainojamas sistēmas bez ielāpiem.
- CVE-2023-29357: Microsoft SharePoint Server privilēģiju eskalācijas ievainojamība, kas ietekmē neskaitāmu korporatīvo iekštīklu mugurkaulu.
- CVE-2023-42824: Apple iOS/iPadOS kodola ievainojamība, kas jau tiek izmantota mērķtiecīgos uzbrukumos, parādot, ka pat kontrolētas ekosistēmas nav necaurlaidīgas.
- CVE-2023-30799: MikroTik RouterOS attālās koda izpildes kļūda, kas ietekmē maršrutētājus, kas savieno visu, un bieži vien tīkla dziļākajos stūros tiek atstāti bez ielāpiem.
Šis ātrais papildinājums ar aktīvi izmantotām nulles dienām no lielākajiem piegādātājiem – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – prasa tūlītēju, izmisīgu uzmanību. Tas nav vispārējs brīdinājums; tā ir sirēna, kas pūš tieši uz katru IT un drošības komandu. CISA KEV saraksts nav tikai ieteikums federālajām aģentūrām; tas ir kritisks brīdinājums visām organizācijām. Ignorējiet to, riskējot.
"AI drošības" ilūzija un uzmanības novēršanas izmaksas
Lūk, neērtā patiesība: AI platformu pamata nepilnības un CISA KEV aizsprosts ir vienas un tās pašas problēmas savstarpēji saistīti aspekti. Viņi abi kliedz par būtisku programmatūras drošības sabrukumu, taču mūsu nozares kolektīvais skatiens ir bīstami nesaskaņots. Mūs tik ļoti aizrauj “AI” solījums un briesmas, ka ļaujam pamata digitālajai infrastruktūrai sabrukt.
"AI drošība" ir kļuvusi par modes vārdu, jaunu robežu konsultantiem un produktu menedžeriem. Bet kas tas īsti ir? Bieži vien tā ir tikai drošība, ko piemēro AI sistēmām. Jā, mākslīgais intelekts ievieš jaunus uzbrukuma vektorus un unikālus izaicinājumus, taču ievērojama daļa no “AI drošības” ir vienkārši stingra inženierija, droša kodēšanas prakse un rūpīga lāpīšana — tās pašas lietas, ar kurām mēs esam kļūdījušies gadu desmitiem. Iepriekš minētā VM izolācijas problēma ir lielisks piemērs: klasiska ievainojamība, ko pastiprina AI platformas sarežģītība.
Mēs veidojam neticami sarežģītas AI sistēmas uz arvien trauslākiem un aktīvāk izmantotiem pamatiem. Tas ir tāpat kā rūpīgi izstrādāta pašbraucoša automašīna ar uzlabotu AI navigāciju, kamēr riteņi krīt nost un dzinējs šļakstās. Koncentrēšanās uz "AI drošību" bieži vien šķiet kā novērst uzmanību, novirzot resursus un uzmanību no ikdienišķā, neglamūrīgā, bet absolūti kritiskā esošās infrastruktūras drošības darba.
Vai mēs esam tik aizņemti, dzenoties pēc nākamās lielās lietas, ka ļaujam pašreizējām lielajām lietām nodegt? Lielais KEV draudu apjoms un plašums norāda uz sistēmisku un steidzamu izaicinājumu pamata digitālajai infrastruktūrai, kas atšķiras no iepriekšējām, uz AI orientētām nulles dienas diskusijām. Tas nav par AI nākotni; tas ir par mūsu digitālās eksistences pašreizējo stāvokli.
Ko tagad, CTO?
Inženieru vadītājiem un tehniskajiem vadītājiem vēstījums ir stingrs un tūlītējs:
- KEV saraksta prioritātes noteikšana: Atmetiet visu. Izlabojiet šīs ievainojamības. Mandējiet to. Piespiediet to. Tas nav obligāti. 2. Neļaujieties ažiotāžai “AI drošība” uz pamatprincipu rēķina: Jā, izprotiet mākslīgā intelekta unikālos riskus, taču atcerieties, ka stingra inženierija, droši izstrādes dzīves cikli un rūpīga lāpīšana joprojām ir jūsu labākā aizsardzība. Izsmalcināts AI modelis jūs neglābs, ja uzbrucējam pieder jūsu pamata virtuālā mašīna vai jūsu SharePoint serveris. 3. ** Ieguldiet pamata drošībā:** tas nozīmē vairāk nekā tikai cita drošības rīka iegādi. Tas nozīmē investīcijas cilvēkos, procesos un kultūrā, kurā drošība tiek vērtēta kā galvenā inženierzinātņu disciplīna, nevis pārdomas. Kļūdu atlīdzības programmas ir lieliskas, taču tām ir jābūt drošības tīklam, nevis jūsu primārajai drošības stratēģijai.
Incidents, kas saistīts ar AI platformas infrastruktūru, ir modināšanas zvans, bet CISA KEV saraksts ir steidzams trauksmes signāls. Mums jābeidz apbrīnot jaunākās AI drošības iniciatīvas un jāsāk lāpīt caurumus mūsu faktiskajās aizsardzības sistēmās. AI nākotne ir aizraujoša, taču pašreizējais mūsu drošības stāvoklis ir biedējošs.
Avoti
[1] AI drošība ir nekārtība, un tā drīz pasliktināsies — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Zināmo izmantoto ievainojamību katalogs — https://www.cisa.gov/known-exploited-vulnerabilities-catalog