Nýju gervigreindaröryggisfötin keisarans: Á meðan við horfum á Muse, molnar grunnurinn
Við skulum vera beinlínis: tækniiðnaðurinn hefur nýja þráhyggju og hún er kölluð „AI öryggi“. Búist er við að við einbeiti okkur öll að skjótri inndælingu, líkanaeitrun og gagnasíun úr stórum tungumálalíkönum. Á sama tíma er verið að kveikja í raunverulegum, líkamlegum, stafrænum innviðum, sem halda fyrirtækjum okkar saman, með stanslausum bardaga núlldaga. Nýlegt atvik sem felur í sér stóran gervigreindarvettvang, lýsandi fyrir víðtækari áskoranir við að tryggja gervigreindarinnviði, undirstrikar þessa hættulegu tvískiptingu [1].
Meta, fyrirtæki þekkt fyrir að „hreyfa sig hratt og brjóta hlutina“, hefur staðið frammi fyrir athugun vegna öryggisgalla í gervigreindarkerfum sínum. Til dæmis afhjúpaði villufjármagnsáætlun verulegan galla sem afhjúpaði sýndarvélar notenda. Þetta var ekki lúmskur gagnaleki eða snjöll framhjáhlaup, heldur grundvallarvilla á innviðastigi sem afhjúpaði VM notenda. Þetta er ekki einhver dulspekilegur AI-sérstakur varnarleysi; þetta er undirstöðu VM einangrun, vandamál sem við héldum að mestu leyti tamið fyrir áratug síðan. Það táknar alvarlegt brot á friðhelgi einkalífs og gagnaheilleika, sem hefur bein áhrif á notendur og hugsanlega viðskiptavini fyrirtækja sem nýta slíka gervigreindarinnviði.
Þessi tegund galla, þó að hún hafi raunverulega áhrif, finnst hún minna eins og ný „AI öryggis“ áskorun og meira eins og klassísk innviðabilun með gervigreindarhúfu. Það er áminning um að jafnvel fullkomnustu gervigreindarkerfin eru byggð á lögum af hefðbundinni tölvu, netkerfi og sýndarvæðingu. Ef þessi grunnlög eru götótt, skiptir ekki máli hversu háþróuð gervigreind líkanið þitt er; allt kerfið er enn viðkvæmt. „AI“ hlið þessarar sögu er næstum truflun, ranghugmynd sem dregur augnaráð okkar frá rotnandi timbri undir fáguðu gólfborðunum.
KEV Barrage CISA: A Critical Indicator
Á meðan við erum upptekin við að rökræða siðferðilegar afleiðingar skynrænna spjallbotna og blæbrigði gervigreindaröryggis, þá er CISA að sleppa áður óþekktum fjölda af virkum veikleikum í vörulistanum sínum yfir þekktar nýttar veikleikar (KEV). Þetta er ekki fræðileg æfing. Þetta er ekki "patch someday" listi. Þetta er brýn "húsið þitt er alelda núna" listi.
Undanfarnar vikur hefur CISA bætt við fjölmörgum færslum, sem færir heildar veikleika sem virkt eru nýttir í ótrúlegan fjölda á stuttum tíma [2]. Þetta er ekki bara "öryggi er slæmt"; þetta er kerfisbundin, stigvaxandi kreppa sem hefur áhrif á mjög mikilvægan fyrirtækjahugbúnað sem rekur heiminn okkar.
Íhugaðu nýlegar viðbætur við KEV vörulistann:
- CVE-2023-46214: Varnarleysi í Splunk Enterprise fjarrekstrarkóða (CVSS 9.8) með CISA plástrafresti, sem gerir ópjattuð kerfi mjög viðkvæm.
- CVE-2023-29357: Varnarleysi Microsoft SharePoint Server réttindastigmögnunar sem hefur áhrif á burðarás ótal innra neta fyrirtækja.
- CVE-2023-42824: Apple iOS/iPadOS kjarnaveikleiki, sem þegar hefur verið nýttur í markvissum árásum, sem sýnir að jafnvel stjórnað vistkerfi eru ekki órjúfanleg.
- CVE-2023-30799: MikroTik RouterOS fjarkóðunargalli, sem hefur áhrif á beina sem tengja allt, er oft skilinn eftir óplástraður í dýpstu hornum netkerfisins.
Þessi hraðbytta viðbót við virkan nýttan núlldaga hjá helstu söluaðilum - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog - krefst tafarlausrar, ofsafenginnar athygli. Þetta er ekki almenn viðvörun; það er sírena sem heyrist beint á hvert upplýsinga- og öryggisteymi. KEV listi CISA er ekki bara tillaga fyrir alríkisstofnanir; það er mikilvæg viðvörun fyrir öll samtök. Hunsa það á þinni hættu.
The blekking "AI Security" og kostnaður við truflun
Hér er óþægilegi sannleikurinn: Grundvallargallarnir í gervigreindarpöllum og CISA KEV barrrage eru samtengdir þættir sama vandamálsins. Þeir öskra báðir um grundvallarbilun í hugbúnaðaröryggi, en sameiginlegt augnaráð iðnaðarins okkar er hættulega rangt. Við erum svo hrifin af loforðinu og hættunni sem felst í „AI“ að við látum grunn stafræna innviði rotna.
„AI öryggi“ er orðið tískuorð, ný landamæri ráðgjafa og vörustjóra. En hvað er það eiginlega? Oft er það bara öryggi beitt á gervigreindarkerfi. Já, gervigreind kynnir nýja árásarvektor og einstakar áskoranir, en verulegur hluti af „gervigreindaröryggi“ er einfaldlega öflug verkfræði, öruggar kóðunaraðferðir og dugleg plástra – sama efni og okkur hefur mistekist í áratugi. VM einangrunarvandamálið sem nefnt var áðan er fullkomið dæmi: klassískt varnarleysi sem magnað er upp af margbreytileika gervigreindarvettvangs.
Við erum að byggja ótrúlega flókin gervigreind kerfi ofan á sífellt viðkvæmari og virkari nýtingargrundvelli. Þetta er eins og að hanna sjálfkeyrandi bíl af vandvirkni með háþróaðri gervigreindarleiðsögu, á meðan hjólin detta af og vélin sprottnar. Áherslan á "AI öryggi" finnst oft eins og truflun, sem beina fjármagni og athygli frá hversdagslegri, ónákvæmu en algerlega mikilvægu vinnu við að tryggja núverandi innviði.
Erum við svo upptekin af því að elta næsta stóra hlut að við látum núverandi stóra hluti brenna niður? Hið mikla magn og breidd KEV-ógnanna benda til kerfisbundinnar og brýnnar áskorunar við stafræna grunninnviði, aðgreind frá fyrri gervigreindarmiðuðum núlldagsumræðum. Þetta snýst ekki um framtíð gervigreindar; það snýst um núverandi ástand stafrænnar tilveru okkar.
Hvað núna, tæknistjórar?
Fyrir verkfræðinga og tæknistjóra eru skilaboðin áþreifanleg og strax:
- Settu KEV listann í forgang: Slepptu öllu. Lagaðu þessa veikleika. Umboð það. Framfylgja því. Þetta er ekki valfrjálst.
- Ekki láta hrífast af „AI-öryggi“-eflanum á kostnað grundvallarþátta: Já, skilið einstaka áhættu gervigreindar, en mundu að öflug verkfræði, örugg þróunarlífsferill og dugleg plástra eru enn besta vörnin þín. Flott gervigreind líkan mun ekki bjarga þér ef árásarmaður á undirliggjandi VM eða SharePoint netþjóninn þinn.
- Fjárfestu í grunnöryggi: Þetta þýðir meira en bara að kaupa annað öryggistól. Það þýðir að fjárfesta í fólki, ferlum og menningu sem metur öryggi sem kjarna verkfræðigreinar, ekki eftiráhugsun. Bug bounty forrit eru frábær, en þau ættu að vera öryggisnet, ekki aðal öryggisstefna þín.
Atvikið sem tengist gervigreindarkerfi innviði er vekjaraklukka, en CISA KEV listinn er brýn viðvörun. Við þurfum að hætta að dást að nýjustu gervigreindaröryggisverkefnum og byrja að laga götin í raunverulegum vörnum okkar. Framtíð gervigreindar er spennandi, en núverandi ástand öryggis okkar er skelfilegt.
Heimildir
[1] AI öryggi er rugl og það á eftir að versna — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Þekkt nýtt varnarleysi vörulisti - https://www.cisa.gov/known-exploited-vulnerabilities-catalog