Nowe ubrania zabezpieczające AI cesarza: gdy patrzymy na Muse, fundamenty się rozpadają
Powiedzmy wprost: branża technologiczna ma nową obsesję i nazywa się „bezpieczeństwem sztucznej inteligencji”. Oczekuje się, że wszyscy skupimy się na szybkim wstrzykiwaniu, zatruwaniu modeli i wydobywaniu danych z dużych modeli językowych. Tymczasem rzeczywista, fizyczna, cyfrowa infrastruktura spajająca nasze przedsiębiorstwa jest aktywnie podpalana przez nieustanną falę dni zerowych. Niedawny incydent z udziałem dużej platformy sztucznej inteligencji, ilustrujący szersze wyzwania związane z zabezpieczaniem infrastruktury sztucznej inteligencji, uwydatnia tę niebezpieczną dychotomię [1].
Meta, firma znana ze swojego etosu „działaj szybko i niszcz wszystko”, spotkała się z analizą dotyczącą luk w zabezpieczeniach swoich platform AI. Na przykład program nagród za błędy odkrył istotną lukę ujawniającą maszyny wirtualne użytkowników. Nie był to subtelny wyciek danych ani sprytne, natychmiastowe obejście, ale podstawowy błąd na poziomie infrastruktury, który odsłonił maszyny wirtualne użytkowników. Nie jest to jakaś ezoteryczna luka specyficzna dla sztucznej inteligencji; jest to podstawowa izolacja maszyn wirtualnych. Problem, o którym w dużej mierze myśleliśmy, że został przezwyciężony dziesięć lat temu. Stanowi to krytyczne naruszenie prywatności i integralności danych, mające bezpośredni wpływ na użytkowników i potencjalnie klientów korporacyjnych korzystających z takiej infrastruktury sztucznej inteligencji.
Tego typu usterka, choć naprawdę istotna, w mniejszym stopniu przypomina nowatorskie wyzwanie związane z „bezpieczeństwem sztucznej inteligencji”, a bardziej klasyczną awarię infrastruktury w kapeluszu sztucznej inteligencji. Przypomina to, że nawet najbardziej zaawansowane platformy sztucznej inteligencji opierają się na warstwach konwencjonalnych obliczeń, sieci i wirtualizacji. Jeśli te podstawowe warstwy są usiane dziurami, nie ma znaczenia, jak zaawansowany jest Twój model sztucznej inteligencji; cały system pozostaje podatny na ataki. Aspekt „AI” w tej historii jest niemal odwróceniem uwagi, wprowadzeniem w błąd, który odwraca nasz wzrok od gnijących belek pod wypolerowanymi deskami podłogowymi.
Zapora KEV firmy CISA: krytyczny wskaźnik
Podczas gdy my jesteśmy zajęci debatą nad etycznymi konsekwencjami świadomych chatbotów i niuansami bezpieczeństwa sztucznej inteligencji, CISA umieszcza bezprecedensową liczbę aktywnie wykorzystywanych luk w swoim katalogu znanych luk w zabezpieczeniach (KEV). To nie jest ćwiczenie teoretyczne. To nie jest lista „poprawek pewnego dnia”. To jest pilna lista „Twój dom w tej chwili się pali”.
W ostatnich tygodniach CISA dodała wiele wpisów, zwiększając w krótkim czasie łączną liczbę aktywnie wykorzystywanych luk do zdumiewającej liczby [2]. Nie chodzi tylko o to, że „bezpieczeństwo jest złe”; jest to systemowy, nasilający się kryzys wpływający na bardzo krytyczne oprogramowanie dla przedsiębiorstw, które zarządza naszym światem.
Weź pod uwagę najnowsze dodatki do katalogu KEV:
- CVE-2023-46214: Luka w zabezpieczeniach Splunk Enterprise umożliwiająca zdalne wykonanie kodu (CVSS 9.8) z ostatecznym terminem wprowadzenia aktualizacji CISA, przez co niezałatane systemy są bardzo podatne na ataki.
- CVE-2023-29357: Luka w zabezpieczeniach programu Microsoft SharePoint Server umożliwiająca eskalację uprawnień, wpływająca na szkielet niezliczonych korporacyjnych intranetów.
- CVE-2023-42824: Luka w jądrze systemu Apple iOS/iPadOS, wykorzystana już w atakach ukierunkowanych, co pokazuje, że nawet kontrolowane ekosystemy nie są nieprzeniknione.
- CVE-2023-30799: Błąd w zdalnym wykonywaniu kodu MikroTik RouterOS, wpływający na routery łączące wszystko, często pozostający niezałatany w najgłębszych zakątkach sieci.
To błyskawiczne dodanie aktywnie wykorzystywanych dni zerowych u głównych dostawców – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – wymaga natychmiastowej, szalonej uwagi. To nie jest ogólne ostrzeżenie; to syrena wyjąca bezpośrednio na każdy zespół IT i bezpieczeństwa. Lista KEV CISA to nie tylko sugestia dla agencji federalnych; to krytyczne ostrzeżenie dla wszystkich organizacji. Zignoruj to na własne ryzyko.
Iluzja „bezpieczeństwa AI” i koszt rozproszenia uwagi
Oto niewygodna prawda: podstawowe wady platform AI i zapora CISA KEV to powiązane ze sobą aspekty tego samego problemu. Obydwaj krzyczą o fundamentalnym załamaniu bezpieczeństwa oprogramowania, ale zbiorowe spojrzenie naszej branży jest niebezpiecznie źle ukierunkowane. Jesteśmy tak urzeczeni obietnicami i niebezpieczeństwami związanymi ze sztuczną inteligencją, że pozwalamy na gnicie podstawowej infrastruktury cyfrowej.
„Bezpieczeństwo sztucznej inteligencji” stało się modnym hasłem, wyznaczającym nową granicę dla konsultantów i menedżerów produktów. Ale o co tak naprawdę chodzi? Często jest to po prostu bezpieczeństwo stosowane w systemach AI. Tak, sztuczna inteligencja wprowadza nowe wektory ataków i unikalne wyzwania, ale znaczna część „bezpieczeństwa sztucznej inteligencji” to po prostu solidna inżynieria, praktyki bezpiecznego kodowania i staranne instalowanie poprawek – te same rzeczy, w których zawiedliśmy od dziesięcioleci. Wspomniany wcześniej problem izolacji maszyn wirtualnych jest doskonałym przykładem: klasyczna luka wzmocniona przez złożoność platformy AI.
Budujemy niezwykle złożone systemy sztucznej inteligencji na coraz bardziej kruchych i aktywnie eksploatowanych fundamentach. To jakby skrupulatnie projektować samochód autonomiczny z zaawansowaną nawigacją AI, podczas gdy koła odpadają, a silnik dławi się. Skupianie się na „bezpieczeństwie sztucznej inteligencji” często sprawia wrażenie odwrócenia uwagi, odwrócenia zasobów i uwagi od przyziemnej, nieestetycznej, ale absolutnie krytycznej pracy polegającej na zabezpieczaniu istniejącej infrastruktury.
Czy jesteśmy tak zajęci pogonią za kolejną wielką rzeczą, że pozwalamy, aby obecne wielkie rzeczy spłonęły? Sama wielkość i zakres zagrożeń KEV wskazuje na systemowe i pilne wyzwanie dla podstawowej infrastruktury cyfrowej, różniące się od poprzednich dyskusji typu zero-day poświęconych sztucznej inteligencji. Tu nie chodzi o przyszłość sztucznej inteligencji; chodzi o obecny stan naszej cyfrowej egzystencji.
Co teraz, dyrektorzy ds. technologii?
Dla kierowników inżynierii i dyrektorów technicznych wiadomość jest wyraźna i natychmiastowa:
- Nadaj priorytet liście KEV: Rzuć wszystko. Załataj te luki. Nakaż to. Egzekwuj to. Nie jest to opcjonalne.
- Nie daj się wciągnąć w wir „bezpieczeństwa sztucznej inteligencji” kosztem podstaw: Tak, zrozum wyjątkowe ryzyko związane ze sztuczną inteligencją, ale pamiętaj, że solidna inżynieria, bezpieczne cykle rozwoju i staranne instalowanie poprawek to nadal najlepsza obrona. Fantazyjny model sztucznej inteligencji nie uratuje Cię, jeśli atakujący będzie właścicielem Twojej maszyny wirtualnej lub serwera SharePoint.
- Zainwestuj w podstawowe bezpieczeństwo: Oznacza to więcej niż tylko zakup kolejnego narzędzia bezpieczeństwa. Oznacza to inwestowanie w ludzi, procesy i kulturę, która ceni bezpieczeństwo jako podstawową dyscyplinę inżynierską, a nie refleksję. Programy nagród za błędy są doskonałe, ale powinny stanowić siatkę bezpieczeństwa, a nie podstawową strategię bezpieczeństwa.
Incydent z infrastrukturą platformy AI to sygnał alarmowy, ale lista CISA KEV to pilny alarm. Musimy przestać podziwiać najnowsze inicjatywy w zakresie bezpieczeństwa sztucznej inteligencji i zacząć łatać luki w naszych rzeczywistych zabezpieczeniach. Przyszłość sztucznej inteligencji jest ekscytująca, ale obecny stan naszego bezpieczeństwa jest przerażający.
Źródła
[1] Bezpieczeństwo sztucznej inteligencji to bałagan, który wkrótce się pogorszy — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Katalog znanych luk w zabezpieczeniach — https://www.cisa.gov/known-exploited-vulnerabilities-catalog