AI moteltzea distrakzio bat da. Zure etxea sutan dago.
Izan gaitezen zintzoak: azkenik, teknologia-industriak "Jesusengana etorri" unea izaten ari da AIarekin, baina ez da benetako damua eta pibo estrategiko bat baino gehiago sentitzen. Bat-batean, AI lasterketa haundi honen arkitektoek –kafeinaz elitutako esprintak finantzatu zituzten ikertzaile nabarmenek eta finantzatzaileek– moteltzea eskatzen dute [1]. «Barne gobernantzaz», «esparru etikoez» eta erritmo «nahitagoaz» ari dira. Eta merkatuak, inoiz barometro sentikorra denak, dagoeneko erreakzionatu du, AI inbertsioen jasangarritasunari buruzko kezkarekin txip-izakinen hegazkortasuna eraginez [2].
Hau ez da kanpoko araudia; AI ekosistematik bertatik sortzen den barneko "falla-lerroa" da. Eta C-suiteak etorkizuneko sorkuntzen ondorio filosofikoak eztabaidatzen dituen bitartean, oraina aktiboki erretzen ari da.
Etenaldi erosoa
Demagun denbora. Urteetan, mantra "mugitu azkar eta apurtu gauzak" izan da, edo duela gutxi, "mugitu azkar eta eraiki AGI". Orain, eredu indartsuak dagoeneko zabalduta, lehiakortasun-paisaia neurri handi batean zehaztuta, eta benetako erregulazio esanguratsuaren espektroa agertzen delarik, zuhurtziarako deiak hutsune samarrak dira. Arrisku sakonen benetako esnatzea al da hau boterea sendotzeko, lehiakideak moteltzeko eta publikoaren pertzepzioa kudeatzeko maniobra kalkulatua, sardeak atera baino lehen?
Konputazio, talentu eta oinarrizko ereduetan merkatua gurutzatu duzunean kontu handiz aldarrikatzea erraza da. Industriaren bat-bateko arreta "produktuen bide orrien, arriskuen ebaluazioen eta plangintza estrategikoen berrebaluazioan" noblea dirudi, baina baliabideak berriro lerrokatzeko modu erosoa ere badirudi. Horrek potentzialki moteldu ditzake kode irekiko alternatibak edo ezarritako erraldoiei erronka egin diezaieketen jokalari txikiak, funtsezko baliabideetarako sarbidea kontrolatuz edo arau-esparruetan eraginez. "Marko etikoa" bat-batean funtsezkoa da, ez ereduak scraped datuetan trebatzen ari zirenean, baizik eta orain gizartea benetan birmoldatzeko nahikoa indartsuak direla.
Komunitate akademiko eta zientifikoetan adierazitako kezkak, arazo irekietarako AI "irtenbideek" beren eremuen osotasuna mehatxa dezaketela ohartaraziz [3], barne kezka horren sakontasunaren adierazle nabarmena dira. Baina ez dezagun hori altruismoarekin nahastu. Hau ez da AIk lanpostuetan edo azpiegituretan duen eraginari buruz; kontrola da - nork erabiltzen duen, eta zein erritmotan. Eztabaida gutxiago da "eraiki behar al dugu?" eta gehiago "nork erabakitzen du zenbat azkar eraikitzen dugun, eta nork irabazi?"
Etorkizuna eztabaidatzen duten bitartean, zure oraina konprometituta dago
Orain, pasa gaitezen AIren barne-hausturaren etorkizunari begirako kezka abstraktuetatik oraintxe gure sareetan garatzen ari den krisi berehalako eta ukigarrira. AI titanek beren makinen arima hausnartzen duten bitartean, zure talde operatiboak zibersegurtasun erabateko hondamendia edukitzeko ahaleginetan ari dira.
Ez gara mehatxu teorikoez edo joera orokorrez ari. Oinarrizko enpresa-softwarean aktiboki ustiatutako zero-eguneko ahultasunei buruz ari gara, azpiegitura kritikoak kolpatuz mailu baten indarrarekin.
- Ivanti Connect Secure eta Policy Secure (CVE-2023-46805 & CVE-2024-21887): Hau ez da akats bat soilik; zauri zabala da. Ivantiren VPN eta sarerako sarbide soluzioen ahultasun hauek aktiboki ustiatu dira, erasotzaileek autentifikazioa saihestu eta urruneko komandoak exekutatzeko aukera emanez. CISAk hainbat abisu eman ditu, urruneko sarbide segururako sistema hauetan konfiantza duten erakundeek arrisku larria dutela nabarmenduz [4]. Zure sareko defentsa nagusia, atean dauden gaizkileak geldiarazteko oinarritzen zaren gauza bakarra, aktiboki ustiatzen ari da erasotzaileei hainbat enpresa-saretara sarbide sakona emateko.
- Cisco IOS XE Web UI (CVE-2023-20198): Gehienezko larritasuna. Aktiboki ustiatu. Ahultasun horri esker, autentifikatu gabeko erasotzaileek kontu pribilegiatuak sortzeko eta kaltetutako Cisco IOS XE gailuen kontrol osoa eskura dezakete. Erasotzaile bat zure sare-azpiegituraren kudeaketa-planoaren jabea bada, zure sare osoaren jabea da. Game over [5].
CISAk ez du "abisurik" ematen dibertsiorako; “sua” oihukatzen ari dira jendez gainezka dagoen antzoki batean. Hauek ez dira mehatxu teorikoak soilik; aktiboki erabiltzen ari dira enpresa globaletan oinarrizko defentsak eta kudeaketa sistemak arriskuan jartzeko.
Benetako Errutaren Lerroa
Ironia hain da lodia, labana dorpe batekin moztu dezakezun. Alde batetik, oraindik eraikitzen ari diren etorkizun baten ondorio etikoen inguruan eztabaidatzen ari den AI elitea dugu, moteltze bat eskatuz urtez kontrolik gabeko azelerazio ostean. Bestetik, gure egungo oinarrizko teknologiaren mehatxu existentziala aktiboki erortzen ari den ahultasunik konpondu gabeko eta adabaki gabekoen pisuan.
Benetako "falla-lerroa" ez dago AI komunitatearen barruan bakarrik; berrikuntzaren bolizko dorrearen eta errealitate operatiboaren lubakien artean dago. AIrako "autoerregulazioaren" eztabaida abstraktu eta etorkizunera begira eta gaur egun oinarritzen ditugun sistemetan benetako segurtasun eta egonkortasunaren berehalako eta zehatzaren artean dago.
CTOak eta ingeniaritza liderrak diren heinean, ezin dugu AIaren moteltzearen eztabaida filosofikoek distraitu. Eztabaida horiek epe luzerako garrantzitsuak diren arren, luxu bat dira zure etxea aktiboki sutan dagoenean. "Produktuen bide orrien birebaluazioa" lehendik dagoen azpiegituren oinarri erorgarriak babesten hasi beharko litzateke. "Arriskuen ebaluazioak" berehalako mehatxuei lehentasuna eman behar die, aktiboki ustiatzen diren mehatxuak, eta funtzionamenduaren jarraipena eta datuen osotasuna arriskuan jartzen dituzte gaur.
Industriaren lehentasunak okertuta daude. Gauza azkarragoak eta distiratsuagoak eraikitzen ari gara aktiboki usteltzen ari den oinarri baten gainean. AI moteltzeko deia ezinbesteko elkarrizketa izan daiteke, baina lurrean gaudenoi, Ivanti eta Cisco zero-egunei aurre eginez, teilatua kobazuloan sartzen den bitartean gortinen koloreaz eztabaidatzea bezala sentitzen da. Etorkizunak itxaron dezake modu aktiboan odoletan ari ez garen arte.
Iturriak
[1] AI erraldoien esperimentuak eteteko gutun irekia - https://futureoflife.org/open-letter-pause-ai-development/ [2] AI akzioak gora egiten ari dira, baina inbertitzaile batzuk urduri jartzen ari dira - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] AI iraultza zientzian: promesak eta arriskuak - https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure eta Ivanti Policy Secure ahultasunak ustiatzen dituzten mehatxu eragileak — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE Software Web UI ahultasuna ustiatzen duten mehatxu eragileak — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a