Zero dni i zero nadzoru: opowieść o dwóch rzeczywistościach technologicznych
Wyobraź sobie swój zespół SOC z zapłakanymi oczami i wpatrujący się w migający czerwony alarm. Jest 3 rano w październiku 2023 r. i wieści nie są dobre: dwa krytyczne dni zerowe w Twoim Citrix NetScaler ADC i bramce są aktywnie wykorzystywane, umożliwiając zdalne wykonanie kodu (RCE) z niestandardowym złośliwym oprogramowaniem zaobserwowanym na wolności. Katalog znanych luk w zabezpieczeniach CISA (KEV) właśnie je dodał [1, 2, 3, 4]. To nie jest teoretyczne zagrożenie; jest to znaczący, międzynarodowy incydent wpływający na krytyczną infrastrukturę przedsiębiorstwa w sektorach rządowym, finansowym, edukacyjnym i prawnym w Ameryce Północnej i Europie. Podczas gdy wasze zespoły starają się zatamować krwawienie, zaciekle łatają i inicjują dochodzenia kryminalistyczne w sprawie potencjalnie katastrofalnego włamania, pojawia się kolejny nagłówek: Prezydent Trump zawarł „dobrowolne porozumienie” z czołowymi firmami technologicznymi w zakresie rozwoju sztucznej inteligencji, obiecując samokontrolę branży [5].
Zestawienie jest mocno niestosowne. Z jednej strony stajemy twarzą w twarz z brutalną, niezaprzeczalną rzeczywistością naszego obecnego środowiska cyfrowego: ciągła walka o wysoką stawkę z wyrafinowanymi przeciwnikami wykorzystującymi fundamentalne słabości infrastruktury, która stanowi podstawę naszego współczesnego świata. Z drugiej strony spektakl polityczny sugerujący, że przyszłością najbardziej transformacyjnej, a jednocześnie głęboko niepewnej technologii może bezpiecznie zarządzać ten sam przemysł, który konsekwentnie zmaga się z podstawowym bezpieczeństwem i etyczną samorządnością.
Katastrofa Citrix: objaw głębszej zgnilizny
Wyjaśnijmy sobie: luki typu zero-day Citrix, takie jak CVE-2023-4966 (znane jako Citrix Bleed) i CVE-2023-3519, to nie tylko „kolejna luka w zabezpieczeniach”. Reprezentują one pilny kryzys w centrum danych, bezpośrednią, trwającą kampanię ataków wymagającą natychmiastowej reakcji „wszyscy na pokład” [1, 2, 3, 4]. Zdalne wykonanie kodu na ADC lub bramce jest cyfrowym odpowiednikiem pozostawienia odsłoniętego krytycznego punktu dostępu. Nie chodzi tu tylko o łatanie; chodzi o kruchość systemową naszej architektury korporacyjnej.
Przez lata budowaliśmy złożone, wzajemnie połączone systemy, często polegając na kilku kluczowych dostawcach infrastruktury podstawowej. Citrix, podobnie jak wiele innych, świadczy podstawowe usługi, ale centralne miejsce wiąże się z ogromnym ryzykiem. Kiedy podstawowy komponent, taki jak NetScaler, zostaje naruszony na poziomie dnia zerowego, efekt domina jest druzgocący. Ujawnia nieodłączną wadę polegania na jednym punkcie awarii, niezależnie od tego, jak solidny jest on przypuszczalnie. Dyrektywa „natychmiastowa poprawka”, choć konieczna, wydaje się powierzchownym lekarstwem na problem systemowy. Nie rozwiązuje podstawowych problemów: złożoności generującej luki w zabezpieczeniach, powolnego tempa aktualizacji zabezpieczeń od niektórych dostawców i często niewystarczających strategii głębokiej obrony, które zawodzą, gdy obwód zostanie naruszony w najbardziej krytycznym punkcie.
To nie jest tylko problem techniczny; to koszmar ciągłości działania. Naruszenia danych, zakłócenia operacyjne, kary regulacyjne, szkoda dla reputacji – koszty są astronomiczne. I po co? Aby efektywnie zarządzać siecią? Płacimy wysoką cenę za wygodę i postrzeganą wydajność, cenę mierzoną nieprzespanymi nocami dyrektorów technicznych i zespołów ds. bezpieczeństwa, a także potencjalnie erozją zaufania publicznego. Fakt, że są to aktywnie wykorzystywane dni zerowe przy użyciu niestandardowego złośliwego oprogramowania, mówi nam, że nie są to dzieciaki ze skryptami. Są to dysponujący dużymi zasobami, utrzymujący się ugrupowania zagrażające, których celem są aktywa o dużej wartości [3]. Jeśli nie możemy zabezpieczyć podstawowych warstw naszego istniejącego cyfrowego świata, jaką mamy nadzieję na wykładniczo bardziej złożoną przyszłość?
Dziki Zachód sztucznej inteligencji: zaufanie własnym interesom w celu dyktowania bezpieczeństwa
A mówiąc o tej przyszłości, skupmy się na porozumieniu dotyczącym „samokontroli” sztucznej inteligencji. Oświadczenie prezydenta Trumpa, choć istotne politycznie, jest podręcznikowym przykładem uchylania się od odpowiedzialności [5]. „Dobrowolność” i „samokontrola” to terminy, które powinny wzbudzić niepokój u każdego, kto obserwował funkcjonowanie branży technologicznej przez ostatnie dwie dekady. Zaobserwowaliśmy ten wzór już wcześniej, prawda? Firmy z mediów społecznościowych „dobrowolnie” pilnują mowy nienawiści, wyszukiwarki „samoregulują” prywatność danych, a sklepy z aplikacjami „niezależnie” zapewniają uczciwą konkurencję. Dorobek jest, delikatnie mówiąc, fatalny.
Pomysł, że samym firmom ścigającym się w opracowywaniu i wdrażaniu potężnych systemów sztucznej inteligencji – systemów, które mogą zmienić kształt gospodarki, wpłynąć na wybory, a nawet stworzyć nowe formy ryzyka społecznego – można ufać w zakresie ustalania i egzekwowania własnych wytycznych w zakresie etyki i bezpieczeństwa, jest w najlepszym razie naiwny, a w najgorszym niebezpiecznie nieodpowiedzialny. Są to korporacje, których celem jest zysk i dominacja na rynku. Ich głównym obowiązkiem powierniczym są akcjonariusze, a nie abstrakcyjna koncepcja dobra publicznego czy etycznej sztucznej inteligencji.
To „porozumienie” stanowi polityczne zwycięstwo administracji, umożliwiające jej podjęcie działań w sprawie sztucznej inteligencji bez bałaganu związanego z faktycznym ustawodawstwem lub nadzorem regulacyjnym. To także ogromna wygrana dla Big Tech, dająca im czas i wolność od potencjalnie uciążliwych przepisów, które mogłyby spowolnić ich innowacje lub wpłynąć na ich wyniki finansowe. Jednak dla reszty z nas – specjalistów ds. technologii budujących te systemy, firm, które będą na nich polegać, a także ogółu społeczeństwa – jest to niebezpieczny precedens. Sygnalizuje preferowane podejście do zarządzania sztuczną inteligencją, które przedkłada autonomię przedsiębiorstw nad bezpieczeństwo publiczne i odpowiedzialność.
Rozłączenie: budowanie na niestabilnych fundamentach
Oto niewygodna prawda: jednocześnie nie zabezpieczamy naszej teraźniejszości i niebezpiecznie źle zarządzamy naszą przyszłością. Konstruujemy coraz bardziej wyrafinowane systemy sztucznej inteligencji w oparciu o niestabilność cyfrową, w której infrastruktura krytyczna jest rutynowo naruszana przez wyrafinowanych przeciwników. Ci sami liderzy branży, którzy najwyraźniej nie mogą zapobiec temu, aby ich produkty stały się wektorami globalnych ataków, są obecnie proszeni o „samokontrolę” implikacji etycznych i bezpieczeństwa ogólnej sztucznej inteligencji.
To nie jest tylko rozłączenie; to głęboka luka. Jako CTO i liderzy inżynierii jesteśmy pośrodku. Naszym zadaniem jest załatanie bezpośrednich, egzystencjalnych zagrożeń, takich jak dzień zerowy Citrix, a jednocześnie mamy przygotować się na przyszłość opartą na sztucznej inteligencji, w której zasady ustalane są na bieżąco, w dużej mierze przez samych graczy.
Dobrowolne porozumienie w sprawie sztucznej inteligencji nie jest rozwiązaniem; to taktyka na zwłokę. Odracza rozliczalność, zapewniając, że w przypadku nieuniknionych naruszeń zasad etycznych, uprzedzeń, a nawet katastrofalnych niepowodzeń sztucznej inteligencji społeczeństwo będzie zastanawiać się, dlaczego od początku nie zapewniono solidnego i niezależnego nadzoru. A kiedy takie awarie się zdarzają, nie będą one teoretyczne. Będą tak samo realne i szkodliwe jak RCE na Twoim NetScalerze, tylko z potencjalnie znacznie szerszymi implikacjami społecznymi.
Musimy wymagać więcej. Potrzebujemy solidnych, proaktywnych zabezpieczeń od naszych dostawców, a nie tylko reaktywnych poprawek po fakcie. Potrzebujemy także prawdziwych, niezależnych regulacji dotyczących sztucznej inteligencji, a nie tylko porozumienia między politykami i korporacjami. Bo jeśli nie możemy nawet zabezpieczyć naszej podstawowej infrastruktury, jak możemy zaufać architektom, że odpowiedzialnie zbudują następną generację cywilizacji? Odpowiedź brzmi: na razie nie możemy.
Źródła
[1] CISA dodaje lukę w zabezpieczeniach Citrix NetScaler ADC i bramkę (CVE-2023-4966) do katalogu znanych luk w zabezpieczeniach — https://www.cisa.gov/news-events/alerts/2023/10/24/cisa-adds-citrix-netscaler-adc-and-gateway-vulnerability-known-exploited-vulnerabilities-catalog [2] Biuletyn bezpieczeństwa Citrix dla CVE-2023-4966 i CVE-2023-4967 — https://support.citrix.com/article/CTX579459/citrix-netscaler-adc-and-citrix-netscaler-gateway-security-bulletin-for-cve20234966-and-cve20234967 [3] Mandiant: UNC4841 wykorzystuje exploity Citrix NetScaler ADC i Gateway Zero-Day (CVE-2023-4966) — https://www.mandiant.com/resources/blog/citrix-bleed-zero-day-exploitation [4] CISA dodaje lukę w zabezpieczeniach Citrix NetScaler ADC i bramkę (CVE-2023-3519) do katalogu znanych luk w zabezpieczeniach — https://www.cisa.gov/news-events/alerts/2023/07/21/cisa-adds-citrix-netscaler-adc-and-gateway-vulnerability-known-exploited-vulnerabilities-catalog [5] Aktualizacje na żywo: Trump podpisuje dobrowolne porozumienie z liderami AI w sprawie technologii… — https://apnews.com/live/trump-cnn-media-midterm-elections-news-updates-09-29-2026