Spowolnienie AI odwraca uwagę. Twój dom płonie.
Bądźmy szczerzy: branża technologiczna w końcu przeżywa moment „przyjścia do Jezusa” dzięki sztucznej inteligencji, ale nie przypomina to prawdziwej skruchy, a bardziej strategiczny zwrot. Nagle sami architekci tego karkołomnego wyścigu sztucznej inteligencji – wybitni badacze i finansiści, którzy finansowali ich napędzane kofeiną sprinty – wzywają do spowolnienia [1]. Mówią o „wewnętrznym zarządzaniu”, „ramach etycznych” i „bardziej przemyślanym” tempie. A rynek, jak zawsze wrażliwy barometr, już zareagował obawami dotyczącymi trwałości inwestycji w sztuczną inteligencję, co spowodowało zmienność zapasów chipów [2].
To nie jest regulacja zewnętrzna; jest to wewnętrzna „linia uskoku” wyłaniająca się z samego ekosystemu sztucznej inteligencji. I podczas gdy kierownictwo debatuje nad filozoficznymi implikacjami swoich przyszłych dzieł, teraźniejszość aktywnie płonie.
Wygodna pauza
Weź pod uwagę czas. Przez lata mantrą było „działaj szybko i niszcz wszystko”, a ostatnio „działaj szybko i buduj AGI”. Teraz, gdy wdrożono już skuteczne modele, w dużej mierze zdefiniowano krajobraz konkurencyjny i w obliczu widma rzeczywistych, znaczących regulacji, wezwania do ostrożności wydają się nieco puste. Czy jest to autentyczne przebudzenie i uświadomienie sobie głębokich zagrożeń, czy też wyrachowany manewr mający na celu skonsolidowanie władzy, spowolnienie konkurencji i zarządzanie opinią publiczną, zanim wyjdą widły?
Łatwo jest zalecać ostrożność, jeśli już opanowałeś rynek w zakresie modeli obliczeniowych, talentów i podstawowych modeli. Nagłe skupienie się branży na „ponownej ocenie planów rozwoju produktów, ocenie ryzyka i planowaniu strategicznym” brzmi szlachetnie, ale brzmi też jak wygodny sposób ponownego dostosowania zasobów. Może to potencjalnie spowolnić alternatywy typu open source lub mniejszych graczy, którzy mogliby rzucić wyzwanie uznanym gigantom, kontrolując dostęp do niezbędnych zasobów lub wpływając na ramy regulacyjne. „Ramy etyczne” stały się nagle najważniejsze – nie wtedy, gdy modele szkolono na podstawie zeskrobanych danych, ale teraz, gdy są one wystarczająco potężne, aby naprawdę zmienić kształt społeczeństwa.
Obawy wyrażane w środowiskach akademickich i naukowych, ostrzegające, że „rozwiązania” otwartych problemów sztucznej inteligencji mogą zagrozić integralności ich dziedzin [3], wyraźnie wskazują na głębokość tych wewnętrznych obaw. Ale nie mylmy tego z altruizmem. Nie chodzi tu o wpływ sztucznej inteligencji na miejsca pracy czy infrastrukturę; chodzi o kontrolę – kto ją sprawuje i w jakim tempie. Debata w mniejszym stopniu dotyczy tego, „czy powinniśmy to zbudować?” i więcej o tym, „kto może decydować o tym, jak szybko to zbudujemy i kto na tym zyska?”
Podczas gdy oni debatują o przyszłości, Twoja teraźniejszość zostaje zagrożona
Przejdźmy teraz od abstrakcyjnych, wybiegających w przyszłość obaw związanych z wewnętrznym rozłamem sztucznej inteligencji do bezpośredniego, namacalnego kryzysu rozwijającego się w naszych sieciach w tej chwili. Podczas gdy tytani sztucznej inteligencji zastanawiają się nad duszą swoich maszyn, Twoje zespoły operacyjne starają się powstrzymać pełną katastrofę cyberbezpieczeństwa.
Nie mówimy tu o teoretycznych zagrożeniach czy ogólnych trendach. Mówimy o aktywnie wykorzystywanych lukach dnia zerowego w podstawowym oprogramowaniu dla przedsiębiorstw, uderzającymi w infrastrukturę krytyczną z siłą młota.
- Ivanti Connect Secure i Policy Secure (CVE-2023-46805 i CVE-2024-21887): To nie jest tylko błąd; to otwarta rana. Te luki w rozwiązaniach Ivanti dotyczących VPN i dostępu do sieci zostały aktywnie wykorzystane, umożliwiając atakującym ominięcie uwierzytelnienia i wykonanie zdalnych poleceń. CISA wydała wiele ostrzeżeń, podkreślając krytyczne ryzyko dla organizacji polegających na tych systemach w celu zapewnienia bezpiecznego zdalnego dostępu [4]. Twoja podstawowa obrona sieci, na której polegasz, aby zatrzymać złoczyńców przed bramą, jest aktywnie wykorzystywana do zapewnienia atakującym głębokiego dostępu do niezliczonych sieci korporacyjnych.
- Interfejs sieciowy Cisco IOS XE (CVE-2023-20198): Maksymalna ważność. Aktywnie eksploatowany. Luka ta umożliwia nieuwierzytelnionym atakującym tworzenie kont uprzywilejowanych i uzyskanie pełnej kontroli nad urządzeniami Cisco IOS XE, których dotyczy luka. Jeśli osoba atakująca jest właścicielem płaszczyzny zarządzania infrastrukturą sieciową, jest właścicielem całej sieci. Koniec gry [5].
CISA nie wydaje „ostrzeżeń” dla zabawy; krzyczą „pożar” w zatłoczonym teatrze. To nie są tylko teoretyczne zagrożenia; są aktywnie wykorzystywane do naruszania podstawowych zabezpieczeń i systemów zarządzania w globalnych przedsiębiorstwach.
Prawdziwa linia błędu
Ironia jest tak gęsta, że można ją kroić tępym nożem. Z jednej strony mamy elitę sztucznej inteligencji debatującą nad etycznymi konsekwencjami przyszłości, którą wciąż budują, i wzywającą do spowolnienia po latach niekontrolowanego przyspieszenia. Z drugiej strony mamy bezpośrednie, egzystencjalne zagrożenie, że nasza obecna podstawowa technologia aktywnie upadnie pod ciężarem nienaprawionych i niezałatanych luk w zabezpieczeniach.
Prawdziwa „linia podziału” nie występuje tylko w społeczności sztucznej inteligencji; znajduje się pomiędzy wieżą innowacji z kości słoniowej a okopami rzeczywistości operacyjnej. Jest pomiędzy abstrakcyjnymi, przyszłościowymi dyskusjami na temat „samoregulacji” sztucznej inteligencji a natychmiastową, konkretną potrzebą faktycznego bezpieczeństwa i stabilności systemów, na których dzisiaj polegamy.
Jako dyrektorzy ds. technologii i liderzy inżynierii nie możemy pozwolić sobie na to, aby rozpraszały nas filozoficzne debaty na temat spowolnienia sztucznej inteligencji. Chociaż dyskusje te są ważne na dłuższą metę, są luksusem, gdy Twój dom aktywnie się pali. „Ponowną ocenę planów rozwoju produktów” należy rozpocząć od wzmocnienia walących się fundamentów naszej istniejącej infrastruktury. „Oceny ryzyka” wymagają priorytetyzacji natychmiastowych, aktywnie wykorzystywanych zagrożeń, które dziś zagrażają ciągłości operacyjnej i integralności danych.
Priorytety branży są wypaczone. Budujemy szybsze i bardziej błyszczące rzeczy na fundamencie, który aktywnie gnije. Wezwanie do spowolnienia sztucznej inteligencji może być konieczną rozmową, ale dla tych z nas, którzy na miejscu mają do czynienia z rozwiązaniami zero-day firm Ivanti i Cisco, przypomina to debatę nad kolorem zasłon w czasie, gdy zapada się dach. Skoncentruj się na teraźniejszości. Przyszłość może poczekać, aż przestaniemy aktywnie krwawić.
Źródła
[1] List otwarty w sprawie wstrzymania gigantycznych eksperymentów związanych ze sztuczną inteligencją — https://futureoflife.org/open-letter-pause-ai-development/ [2] Akcje AI rosną, ale niektórzy inwestorzy zaczynają się denerwować — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Rewolucja AI w nauce: obietnice i zagrożenia — https://www.nature.com/articles/d41586-023-03223-y [4] Podmioty zagrażające wykorzystujące luki w zabezpieczeniach Ivanti Connect Secure i Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Podmioty zagrażające wykorzystujące lukę w interfejsie internetowym oprogramowania Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a