Keisri uus tehisintellekt ja selle all olev mädanev sihtasutus
Mäletate, kui AI meid kõiki päästis? Selgub, et päästjad nõuavad nüüd aega. Alles hiljuti vajutasid meie tehisintellektist juhitud tuleviku arhitektid – "eesliiniuurijad" ja finants-raskekaallased kollektiivselt pidurit, nõudes arenduse aeglustumist "suurenevate ohutusprobleemide" tõttu [1]. Turg, mis oli kunagi nüri instrument, vastas kopsu köhimisega: kiibivarud ja suuremad tehisintellekti mängijad langesid [2]. Peking irvitas ootuspäraselt hoiatuste üle, samas kui Souli kiibihiiglased keeldusid tehisintellekti tulevaste edusammude eest ettemaksete tegemisest [2].
See ei ole ainult filosoofiline arutelu elevandiluust torni üle. See on seismiline nihe, tööstuse eliidi kergemeelsuse avalik tunnistamine. Ja ausalt öeldes on see natuke liiga mugav.
AI paus: altruism või jõumäng?
Olgem selged: kui raketi ehitanud inimesed saavad ootamatult aru, et nad unustasid langevarjud pärast starti, pole see sügava eetilise ärkamise hetk. See on hilinenud isekasulik rüselus. Need ei ole laia silmaringiga idealistid; need on titaanid, kes on surunud pedaali metallile, jahtides eksponentsiaalset kasvu ja turu domineerimist. Nüüd, mil ähvardavad "ettenägematud tagajärjed" – ja võib-olla veel küünilisemalt, arusaam, et praegune tempo on jätkusuutmatu või et neil on vaja oma juhtpositsiooni tugevdada –, nõuavad nad kollektiivset hingamist.
Turu reaktsioon on kõnekas. Laastuvarude langus ei tähenda ainult hirmu; see puudutab võimaliku aeglustumise vahetuid finantsmõjusid. Pekingi tagasilöök? Selge signaal, et riiklik strateegiline eelis ületab abstraktsed ohutusprobleemid. Ja Souli kiibitootjad keelduvad ettemaksetest? See on kapitali heli, mis seab kahtluse alla ootamatult ebakindla tuleviku pikaajalise stabiilsuse ja kasumlikkuse.
Meie, tehnoloogiajuhtide ja insenerijuhtide jaoks tähendab see otse kaootilist maastikku. Oodatakse, et regulatiivsed sekkumised kiirenevad, sundides tehisintellekti projekte ümber tähtsustama. Tehisintellekti eetos "liigu kiiresti ja murdke asju" on ametlikult surnud, asendatud meeletu otsinguga "eetilise tehisintellekti arendamise" raamistike järele, mis oleks pidanud olema esimesest päevast peale. Investeerimine muutub ettevaatlikumaks, strateegiad muutuvad ja jah, tööturud tunnevad külmavärinat, kuna kullapalavik annab teed mõõdetavamale ja loodetavasti vastutustundlikumale lähenemisele. Kuid ärgem ajagem seda puhta altruismiga. See "paus" puudutab nii kontrolli ja turu ümberkalibreerimist kui ka tõelist ohutust.
Samal ajal kui titaanid vaidlevad, laguneb sihtasutus
Nüüd, mil tehisintellekti eliit kogeb oma eksistentsiaalset kriisi ja arutleb tulevase superintelligentsuse eetika üle, räägime väga reaalsest, väga praegusest ja täiesti katastroofilisest julgeolekukriisist, mis areneb praegu.
Sel nädalal lisas CISA oma tuntud ärakasutatud haavatavuse kataloogi mitu uut CVE-d [3]. Me räägime kinnitatud juur-RCE-st Cisco Secure Email Gateways (CVE-2023-20269) [4], CVSS 10.0 tee läbimisest GitLabis (CVE-2023-2825) [3] ja hiljuti paigatud Chrome'i nullpäevast (CVE-2023), mis nõudis kohest tähelepanu [3]8.
Kuid tõeline kõhutäis, mis peaks panema iga turvaprofessionaali tühjaks karjuma, on püsiv põhivigade oht. Kaaluge CVE-2021-1647, mis on Microsoft Defenderi pahavarakaitsemootori [5] kohalike õiguste eskalatsiooni haavatavus. See ei olnud mingi ebaselge viga; sellel oli avalik kontseptsiooni tõestus ja seda kasutati aktiivselt looduses, rõhutades, kuidas meie digitaalse kaitse olulised komponendid võivad ohtu sattuda ja jääda teatud perioodiks haavatavaks.
Laske sellel vajuda. Sel ajal, kui arutleme tehisintellekti tajumise eetika üle, on näidatud, et just meie lõpp-punktide kaitsmiseks loodud tarkvara, meie digitaalse kaitse aluskiht, sisaldab avalikult teadaolevaid, aktiivselt ära kasutatud vigu, mis võimaldavad ründajal oma privileege tõsta. See on nagu vaidlemine pöördelise sõidu filosoofiliste tagajärgede üle, kui teie auto pidurid ei tööta ja mootor põleb.
Arvestus: ühe mündi kaks külge
Need ei ole eraldi lood. Need on ühe ja sama sügavalt vigase mündi kaks külge: tehnoloogiatööstus, mis on kiirust, uudsust ja tajutavat innovatsiooni järjekindlalt eelistanud põhilisele turvalisusele, stabiilsusele ja vastutusele.
AI juhtide äkiline üleskutse aeglustada on reaktiivne, isekasulik katse korrigeerida kurssi *pärast seda, kui nad on juba võimsad, halvasti mõistetavad süsteemid loodusesse vallandanud. See on möönmine, et mantra "liigu kiiresti ja murra asju", kui seda rakendatakse potentsiaalselt maailma muutvale tehnoloogiale, ei ole mitte ainult vastutustundetu, vaid ka ohtlik.
Nullpäevane rünnak, eriti Defenderi kriitiline haavatavus, on selle sama mõtteviisi otsene valus tagajärg, mida rakendatakse IT-algatuslikule IT-le. See on kultuuri tulemus, mis käsitleb turvalisust sageli järelmõtlemise, vastavuse märkeruudu või kulukohana, mitte iga üksiku toote ja süsteemi lahutamatu, mittekaubeldava komponendina. Oleme nii hõivatud järgmise läikiva objekti – järgmise LLM-i, järgmise AI agendi – tagaajamisega, et oleme lasknud maapinnal oma jalge all mädaneda.
Tehnikajuhtide ja insenerijuhtide jaoks on sõnum karm ja vahetu. Lõpetage iga AI trendi tagaajamine, mis teie voogu ületab. Kahekordistage põhitõdesid. Eelistage paikamist, eriti kriitiliste, aktiivselt kasutatud turvaaukude puhul, nagu Cisco, GitLabi ja püsiva ohu puhul, mida ilmestavad Defenderi varasemad LPE-d. Rakendage tugevaid leevendusi. Nõudke oma müüjatelt vastutust nende turvalisuse, mitte ainult funktsioonide tegevuskava eest.
Turu kõikumine ja lahendamata põhilised turvaprobleemid ei ole ainult uudised. Need on arvestus. Tehnikamaailm, mis on liiga kiire, liiga hoolimatu ja lõpuks liiga paljastatud. On aeg kasvada suureks, kindlustada oma alused ja siis, ainult siis, kaaluda ettevaatlikult järgmist piiri.
Allikad
[1] Future of Life Institute – peata hiiglaslikud tehisintellekti katsed: avatud kiri – https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC – tehisintellekti eksperdid nõuavad täiustatud tehisintellektisüsteemide arendamisel pausi – https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA – tuntud ärakasutatud haavatavuste kataloog – https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory – Cisco Secure Email and Web Manager, Cisco Email Security Appliance ja Cisco Web Security Appliance haavatavused – https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-uqmaQ-8-rce-uqma [5] Microsoft Security Response Center – Microsoft Defenderi kohalike privileegide eskalatsiooni haavatavus – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647