AI aeglustumine on tähelepanu kõrvalejuhtimine. Teie maja põleb.
Olgem otsekohesed: tehnoloogiatööstus kogeb viimaks oma "Jeesuse juurde tulemise" hetk tehisintellektiga, kuid see tundub vähem tõelise meeleparandusena, vaid pigem strateegilise pöördena. Järsku nõuavad selle murrangulise tehisintellekti võidujooksu arhitektid – silmapaistvad teadlased ja rahastajad, kes rahastasid nende kofeiinil põhinevaid sprinte – aeglustamist [1]. Nad räägivad "sisemisest juhtimisest", "eetilistest raamistikest" ja "sihipärasemast" tempost. Ja turg, mis on kunagi olnud tundlik baromeeter, on juba reageerinud murega tehisintellekti investeeringute jätkusuutlikkuse pärast, mis põhjustab kiibivarude volatiilsust [2].
See ei ole väline regulatsioon; see on sisemine "tõrkejoon", mis tekib tehisintellekti ökosüsteemist endast. Ja kuigi C-sviit arutleb oma tulevase loomingu filosoofiliste mõjude üle, põleb olevik aktiivselt.
Mugav paus
Kaaluge ajastust. Aastaid on mantraks olnud "liigu kiiresti ja lõhu asju" või viimasel ajal "liigu kiiresti ja ehitage AGI". Nüüd, kus võimsad mudelid on juba kasutusele võetud, konkurentsimaastik on suures osas määratletud ja tegeliku sisulise reguleerimise tont on ees ootamas, kõlavad üleskutsed ettevaatlikkusele pisut õõnsaks. Kas see on tõeline äratus sügavatele riskidele või kaalutletud manööver võimu kindlustamiseks, konkurentide aeglustamiseks ja üldsuse arusaamade juhtimiseks enne, kui kahvlid välja tulevad?
Lihtne on ettevaatust kuulutada, kui olete arvutuste, talentide ja põhimudelite turu juba nurga alla surunud. Tööstusharu järsk keskendumine "toote tegevuskavade ümberhindamisele, riskihinnangutele ja strateegilisele planeerimisele" kõlab ülla, kuid see kõlab ka mugava viisina ressursside ümbersuunamiseks. See võib potentsiaalselt aeglustada avatud lähtekoodiga alternatiive või väiksemaid tegijaid, kes võivad väljakujunenud hiiglastele väljakutse esitada, kontrollides juurdepääsu olulistele ressurssidele või mõjutades regulatiivseid raamistikke. "Eetiline raamistik" on ootamatult ülitähtis, mitte siis, kui mudeleid kogutud andmete põhjal koolitati, vaid nüüd, kui nad on piisavalt võimsad, et ühiskonda tõeliselt ümber kujundada.
Akadeemilistes ja teadusringkondades väljendatud mure, mis hoiatab, et tehisintellekti "lahendused" avatud probleemidele võivad ohustada nende valdkondade terviklikkust [3], on selle sisemise mure sügavuse selge näitaja. Kuid ärgem segi seda altruismiga. See ei puuduta AI mõju töökohtadele või infrastruktuurile; see on juhtimine – kes seda valdab ja millises tempos. Arutelu on vähem teemal "kas me peaksime selle üles ehitama?" ja rohkem teemal "Kes saab otsustada, kui kiiresti me selle ehitame, ja kes saab kasumit?"
Kuigi nad arutavad tuleviku üle, on teie olevik ohus
Pöördugem nüüd abstraktsetest tulevikku vaatavatest muredest tehisintellekti sisemise lõhega kohese, käegakatsutava kriisini, mis meie võrkudes praegu areneb. Samal ajal kui tehisintellekti titaanid mõtisklevad oma masinate hinge üle, püüavad teie operatiivmeeskonnad täielikku küberjulgeolekukatastroofi ohjeldada.
Me ei räägi teoreetilistest ohtudest ega üldistest suundumustest. Me räägime ettevõtte põhitarkvara aktiivselt ära kasutatud nullpäeva haavatavustest, mis tabavad kriitilist infrastruktuuri ühe haamri jõuga.
- Ivanti Connect Secure ja Policy Secure (CVE-2023-46805 & CVE-2024-21887): See pole lihtsalt viga; see on haigutav haav. Neid Ivanti VPN-i ja võrgujuurdepääsu lahenduste turvaauke on aktiivselt ära kasutatud, võimaldades ründajatel autentimisest mööda minna ja kaugkäske täita. CISA on väljastanud mitmeid hoiatusi, rõhutades kriitilist ohtu organisatsioonidele, kes tuginevad nendele süsteemidele turvaliseks kaugjuurdepääsuks [4]. Teie peamist võrgukaitset, mida te loote, et peatada pahalased väravas, kasutatakse aktiivselt ära, et anda ründajatele sügav juurdepääs lugematutele ettevõtete võrkudele.
- Cisco IOS XE veebikasutajaliides (CVE-2023-20198): Maksimaalne raskusaste. Aktiivselt ära kasutatud. See haavatavus võimaldab autentimata ründajatel luua privilegeeritud kontosid ja saavutada täielik kontroll mõjutatud Cisco IOS XE seadmete üle. Kui teie võrguinfrastruktuuri haldustasand kuulub ründajale, kuulub talle kogu teie võrk. Mäng läbi [5].
CISA ei anna "hoiatusi" nalja pärast; nad karjuvad rahvast täis teatris "tuld". Need ei ole ainult teoreetilised ohud; neid kasutatakse aktiivselt ülemaailmsete ettevõtete põhikaitse- ja juhtimissüsteemide kompromiteerimiseks.
Tõeline veajoon
Iroonia on nii paks, et seda saab nüri noaga lõigata. Ühest küljest arutleb tehisintellekti eliit veel ehitatava tuleviku eetiliste mõjude üle, nõudes pärast aastatepikkust kontrollimatut kiirendamist aeglustumist. Teisest küljest ähvardab meid otsene, eksistentsiaalne oht, et meie praegune põhitehnoloogia laguneb aktiivselt lahendamata, parandamata haavatavuste raskuse all.
Tõeline "tõrkejoon" ei ole ainult AI kogukonnas; see asub innovatsiooni elevandiluust torni ja operatiivreaalsuse kaevikute vahel. See on abstraktsete, tulevikku suunatud arutelude vahel AI "iseregulatsiooni" ja vahetu ja konkreetse vajaduse tegeliku turvalisuse ja stabiilsuse järele süsteemides, millele me täna tugineme.
Tehnoloogiajuhtide ja inseneride juhina ei saa me lubada, et tehisintellekti aeglustumist puudutavad filosoofilised arutelud meid segavad. Kuigi need arutelud on pikas perspektiivis olulised, on need luksus, kui teie maja põleb aktiivselt. "Tooteplaanide ümberhindamine" peaks algama meie olemasoleva taristu lagunevate aluste kinnitamisega. "Riskihinnangud" peavad seadma prioriteediks vahetud, aktiivselt kasutatavad ohud, mis ohustavad toimimise järjepidevust ja andmete terviklikkust täna.
Tööstusharu prioriteedid on viltu. Me ehitame kiiremaid ja säravamaid asju vundamendile, mis aktiivselt mädaneb. Tehisintellekti aeglustamise üleskutse võib olla vajalik vestlus, kuid neile, kes me oleme kohapeal, tegeleme Ivanti ja Cisco nullpäevadega, tundub nagu arutleksime kardinate värvi üle, samal ajal kui katus sisse vajub. Keskenduge olevikule. Tulevik võib oodata, kuni me aktiivselt veritsema ei hakka.
Allikad
[1] Avatud kiri hiiglaslike tehisintellekti eksperimentide peatamiseks – https://futureoflife.org/open-letter-pause-ai-development/ [2] AI aktsiad tõusevad hüppeliselt, kuid mõned investorid muutuvad närviliseks – https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI revolutsioon teaduses: lubadused ja ohud – https://www.nature.com/articles/d41586-023-03223-y [4] Ohutegijad, kes kasutavad ära Ivanti Connecti turvalisi ja Ivanti poliitikaga kaitstud haavatavusi – https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Ohutegijad, kes kasutavad ära Cisco IOS XE tarkvara veebiliidese haavatavust – https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a