Nowa sztuczna inteligencja cesarza i gnijący fundament pod nią
Pamiętasz, kiedy sztuczna inteligencja miała nas wszystkich uratować? Okazuje się, że zbawiciele proszą teraz o przerwę. Niedawno sami architekci naszej przyszłości opartej na sztucznej inteligencji – „pionierscy” badacze i potentaci finansowi – wspólnie nacisnęli hamulce, żądając spowolnienia rozwoju ze względu na „rosnące obawy dotyczące bezpieczeństwa” [1]. Rynek, zawsze tępy instrument, zareagował wymiotowaniem: akcje chipów i główni gracze AI spadły [2]. Jak można było przewidzieć, Pekin wyśmiał ostrzeżenia, podczas gdy giganci z Seulu w sprawie chipów wzbraniali się przed płatnościami z góry za przyszłe ulepszenia sztucznej inteligencji [2].
To nie jest tylko filozoficzna debata na temat wieży z kości słoniowej. To zmiana sejsmiczna, publiczne przyznanie się do lekkomyślności ze strony elity branży. I szczerze mówiąc, jest to trochę zbyt wygodne.
Pauza AI: altruizm czy gra o władzę?
Powiedzmy sobie jasno: kiedy ludzie, którzy zbudowali rakietę, nagle uświadamiają sobie, że po starcie zapomnieli o spadochronach, nie jest to moment głębokiego przebudzenia etycznego. To spóźniona, egoistyczna przepychanka. To nie są idealiści z szeroko otwartymi oczami; to tytani wciskają pedał do dechy, goniąc za wykładniczym wzrostem i dominacją na rynku. Teraz, gdy widmo „nieprzewidzianych konsekwencji” staje się coraz większe – i być może, co bardziej cyniczne, świadomość, że obecne tempo jest niezrównoważone lub że muszą umocnić swoją przewagę – wzywają do zbiorowego oddechu.
Reakcja rynku jest wymowna. Spadek cen chipów to nie tylko strach; chodzi o bezpośrednie skutki finansowe potencjalnego spowolnienia. Odpór Pekinu? Wyraźny sygnał, że narodowa przewaga strategiczna przewyższa abstrakcyjne obawy dotyczące bezpieczeństwa. A producenci chipów w Seulu odmawiają płatności z góry? To dźwięk, w którym kapitał kwestionuje długoterminową stabilność i rentowność nagle niepewnej przyszłości.
Dla nas, dyrektorów technicznych i liderów inżynieryjnych, przekłada się to bezpośrednio na chaos. Należy spodziewać się przyspieszenia interwencji regulacyjnych, co wymusi zmianę priorytetów projektów AI. Etos sztucznej inteligencji „działaj szybko i niszcz wszystko” oficjalnie umarł, zastąpiony gorączkowym poszukiwaniem ram „etycznego rozwoju sztucznej inteligencji”, które należało wpajać od pierwszego dnia. Inwestycje staną się ostrożniejsze, strategie zmienią się i owszem, rynki pracy odczują chłód, gdy gorączka złota ustąpi miejsca bardziej wyważonemu i, miejmy nadzieję, bardziej odpowiedzialnemu podejściu. Ale nie mylmy tego z czystym altruizmem. Ta „pauza” dotyczy zarówno kontroli i ponownej kalibracji rynku, jak i prawdziwego bezpieczeństwa.
Podczas debaty o Tytanach Fundacja się rozpada
Teraz, gdy elita sztucznej inteligencji przeżywa kryzys egzystencjalny i debatuje nad etyką przyszłego superinteligencji, porozmawiajmy o bardzo realnym, bardzo obecnym i całkowicie katastrofalnym kryzysie bezpieczeństwa, który rozwija się w tej chwili.
W tym tygodniu CISA dodała wiele nowych CVE do swojego katalogu znanych luk w zabezpieczeniach [3]. Mówimy o potwierdzonym głównym RCE w Cisco Secure Email Gateway (CVE-2023-20269) [4], przejściu ścieżki CVSS 10.0 w GitLab (CVE-2023-2825) [3] i niedawno załatanym Chrome zero-day (CVE-2023-4863) [3], który wymagał natychmiastowej uwagi.
Ale prawdziwym ciosem, który powinien sprawić, że każdy specjalista ds. bezpieczeństwa będzie krzyczeć w pustkę, jest ciągłe zagrożenie podstawowymi wadami. Weźmy pod uwagę CVE-2021-1647, lukę w zabezpieczeniach umożliwiającą eskalację lokalnych uprawnień w silniku ochrony przed złośliwym oprogramowaniem Microsoft Defender [5]. To nie była jakaś niejasna wada; posiadał publiczną weryfikację koncepcji i był aktywnie wykorzystywany w środowisku naturalnym, podkreślając, jak krytyczne elementy naszej cyfrowej obrony mogą zostać naruszone i pozostać bezbronne przez pewien czas.
Niech to zapadnie nam w pamięć. Kiedy debatujemy nad etyką wrażliwości na sztuczną inteligencję, wykazano, że samo oprogramowanie zaprojektowane do ochrony naszych punktów końcowych, czyli podstawowa warstwa naszej cyfrowej obrony, zawiera publicznie znane, aktywnie wykorzystywane wady, które umożliwiają atakującemu podniesienie uprawnień. To jakby kłócić się o filozoficzne implikacje napędu warp, gdy w samochodzie zawodzą hamulce i pali się silnik.
Rozliczenie: dwie strony tej samej monety
To nie są osobne historie. To dwie strony tego samego, głęboko błędnego medalu: przemysł technologiczny, który konsekwentnie przedkłada szybkość, nowość i postrzeganą innowacyjność nad podstawowe bezpieczeństwo, stabilność i odpowiedzialność.
Nagłe wezwanie liderów sztucznej inteligencji do spowolnienia jest reaktywną, egoistyczną próbą skorygowania kursu *po tym, jak już wypuścili na wolność potężne, słabo poznane systemy. Jest to przyznanie, że mantra „działaj szybko i niszcz wszystko” zastosowana do technologii potencjalnie zmieniającej świat jest nie tylko nieodpowiedzialna, ale i niebezpieczna.
Atak dnia zerowego, w szczególności krytyczna luka w zabezpieczeniach Defendera, jest bezpośrednią, bolesną konsekwencją tego samego sposobu myślenia zastosowanego w podstawowym IT. Jest to wynik kultury, która często traktuje bezpieczeństwo jako kwestię drugorzędną, pole wyboru zgodności lub centrum kosztów, a nie integralny, niepodlegający negocjacjom składnik każdego pojedynczego produktu i systemu. Jesteśmy tak zajęci pogonią za kolejnym błyszczącym obiektem – kolejnym LLM, kolejnym agentem AI – że pozwoliliśmy, aby ziemia pod naszymi stopami gniła.
Dla dyrektorów technicznych i kierowników inżynierii wiadomość jest wyraźna i natychmiastowa. Przestań gonić za każdym trendem AI, który pojawia się w Twoim kanale. Podwójne podejście do podstaw. Nadawaj priorytet łataniu, szczególnie w przypadku krytycznych, aktywnie wykorzystywanych luk w zabezpieczeniach, takich jak te w Cisco, GitLab i trwałych zagrożeń, których przykładem są wcześniejsze LPE Defendera. Wdrażaj solidne środki zaradcze. Wymagaj od swoich dostawców odpowiedzialności za ich stan bezpieczeństwa, a nie tylko za plan działania dotyczący funkcji.
Załamanie na rynku i nierozwiązane podstawowe problemy związane z bezpieczeństwem to nie tylko doniesienia prasowe. Są rozliczeniem. Świat technologii, który jest zbyt szybki, zbyt lekkomyślny i wreszcie zbyt odsłonięty. Czas dorosnąć, zabezpieczyć fundamenty, a potem tylko wtedy ostrożnie rozważyć kolejną granicę.
Źródła
[1] Instytut Future of Life — Wstrzymaj gigantyczne eksperymenty AI: List otwarty — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Eksperci ds. sztucznej inteligencji wzywają do wstrzymania rozwoju zaawansowanych systemów sztucznej inteligencji — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA – Katalog znanych luk w zabezpieczeniach – https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Poradnik dotyczący bezpieczeństwa Cisco — Cisco Secure Email and Web Manager, Cisco Email Security Appliance i Cisco Web Security Appliance Luki w zabezpieczeniach — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Centrum reagowania na zabezpieczenia firmy Microsoft — Luka w zabezpieczeniach usługi Microsoft Defender związana z eskalacją uprawnień lokalnych — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647