Enperadorearen AI berria, eta haren azpian dagoen Rotting Foundation
Gogoratzen AI noiz salbatuko gintuen guztiok? Bihurtzen da, salbatzaileak denbora-muga bat eskatzen ari dira orain. Duela gutxi, AI-k bultzatutako gure etorkizuneko arkitektoek —«mugako» ikertzaileek eta finantza pisu handikoek—, kolektiboki, balazta jo zuten, garapena moteltzeko eskatuz, «segurtasun kezkak areagotu» direlako [1]. Merkatuak, inoiz tresna zorrotza, birikak eztul eginez erantzun zuen: txip-ak eta AI-ko jokalari nagusiek erori egin ziren [2]. Pekinek, aurreikusteko, abisuei trufa egin zien, eta Seulgo txip erraldoiek etorkizuneko AI aurrerapenetarako aldez aurretiko ordainketari uko egin zioten bitartean [2].
Hau ez da bolizko dorrearen eztabaida filosofikoa soilik. Aldaketa sismiko bat da, industriaren elite barruko arduragabekeriaren onarpen publikoa. Eta egia esan, apur bat erosoegia da.
AI pausa: altruismoa ala botere-jokoa?
Argi gera gaitezen: txupinazoa eraiki zuten pertsonak bat-batean jausgailuak * jaurti ondoren* ahaztu zirela konturatzen direnean, ez da esnatze etiko sakoneko unea. Berandu eta autozerbitzua den nahasketa bat da. Hauek ez dira idealistak begi zabalak; hauek dira pedala metalera bultzatzen aritu diren titanak, hazkunde esponentzialaren eta merkatuaren nagusitasunaren atzetik. Orain, «ezusteko ondorioen» mamua zabaltzen ari dela —eta beharbada, zinikoago, egungo erritmoa jasanezina dela edo lidergoa sendotu behar dutela jabetuta—, arnasa kolektiborako deia egiten dute.
Merkatuaren erreakzioa adierazgarria da. Txip izakinetan murgiltzea ez da beldurra soilik; balizko moteltze baten berehalako finantza-ondorioei buruzkoa da. Pekinen atzerakada? Abantaila estrategiko nazionalak segurtasun kezka abstraktuak gainditzen dituen seinale argia. Eta Seulgo txip-egileek aldez aurretik ordaintzeari uko egiten diote? Hori da bat-batean ziurgabeko etorkizun baten epe luzerako egonkortasuna eta errentagarritasuna zalantzan jartzen dituen kapitalaren soinua.
Guretzat, CTO eta ingeniaritza arduradunek, hori zuzenean paisaia kaotiko batean bihurtzen da. Arauzko esku-hartzeak bizkortuko direla espero, AI proiektuak berriro lehenestera behartuz. AIren "mugitu azkar eta apurtu gauzak" ethos ofizialki hil da, lehen egunetik labean egon beharko luketen "AI garapen etiko" esparruen bilaketa amorratu batek ordezkatuta. Inbertsioa zuhurragoa izango da, estrategiak pibotuko dira, eta bai, lan-merkatuek hotzikara sentituko dute, urrearen presak ikuspegi neurtuago eta, zorionez, arduratsuago bati bide emango dion heinean. Baina ez dezagun hori altruismo hutsarekin nahastu. "Etenaldi" hau kontrola eta merkatuaren birkalibrazioari buruzkoa da benetako segurtasuna bezainbeste.
Titans Debate bitartean, Fundazioa Crumbles
Orain, AI eliteak krisi existentziala jasaten ari den bitartean, etorkizuneko superinteligentziaren etikari buruz eztabaidatzen ari den bitartean, hitz egin dezagun oraintxe garatzen ari den segurtasun krisi oso erreala, gaur egungoa eta guztiz katastrofikoaz.
Aste honetan, CISAk CVE berri ugari gehitu ditu bere Known Exploited Vulnerabilities katalogoan [3]. Cisco Secure Email Gateway-n (CVE-2023-20269) [4] baieztatutako erro RCE batez ari gara, GitLab-en CVSS 10.0 bidearen zeharkaldia (CVE-2023-2825) [3] eta berriki adabakitutako Chrome zero-day (CVE-2023-2023-486) berehalako arreta eskatzen zuen [3] [3] .
Baina benetako tripa kolpea, segurtasun profesional oro hutsunera garrasi egin behar duena, oinarrizko akatsen mehatxu iraunkorra da. Demagun CVE-2021-1647, Microsoft Defender-en Malware Protection Engine-ko pribilegioak handitzeko tokiko ahultasun bat [5]. Hau ez zen akats ilun bat; Kontzeptu-froga publikoa zuen eta modu aktiboan ustiatu zen basatian, gure defentsa digitalaren osagai kritikoak nola arriskuan jar daitezkeen eta aldi batez ahul egon daitezkeen nabarmenduz.
Utzi hondoratu. AI sentimenaren etikari buruz eztabaidatzen ari garen bitartean, gure amaiera-puntuak babesteko diseinatutako softwareak, gure defentsa digitalaren oinarrizko geruza, publikoki ezagunak diren eta aktiboki ustiatutako akatsak gordetzen dituela frogatu da, erasotzaile bati pribilegioak handitzea ahalbidetzen diotenak. Zure autoaren balaztak huts egiten ari diren bitartean eta motorra sutan dagoen bitartean deformazioaren inplikazio filosofikoei buruz eztabaidatzea bezalakoa da.
Kontua: txanpon beraren bi aldeak
Hauek ez dira istorio bereiziak. Akats sakoneko txanpon beraren bi aldeak dira: oinarrizko segurtasunaren, egonkortasunaren eta erantzukizunaren gainetik abiadura, berritasuna eta hautematen den berrikuntza etengabe lehenetsi dituen teknologia-industria.
AI buruzagiek moteltze bat-bateko deia erreaktibo eta autozerbitzua da ibilbidea zuzentzeko ondoren dagoeneko sistema indartsuak eta gaizki ulertuak basatian askatu dituztenean. "Mugitu azkar eta apurtu gauzak" mantra, mundua alda dezaketen teknologiari aplikatzen zaionean, ez dela arduragabea, arriskutsua baizik onartzea da.
Zero eguneko erasoa, bereziki Defenderren ahultasun kritikoa, oinarrizko IT-ari aplikatutako pentsamolde horren ondorio zuzena eta mingarria da. Segurtasuna, maiz, produktu eta sistema bakoitzaren osagai integral eta negoziaezin gisa hartzen duen kultura baten ondorioa da. Hain lanpetuta gaude hurrengo objektu distiratsuaren atzetik —hurrengo LLMa, hurrengo AI agentea— ezen gure oinen azpiko lurra usteltzen utzi dugula.
CTO eta ingeniaritza arduradunentzat, mezua zorrotza eta berehalakoa da. Utzi zure jarioa zeharkatzen duen AI joera guztien atzetik. Bikoiztu oinarriak. Lehenetsi adabakiak, batez ere, Cisco-n, GitLab-en eta Defender-en iraganeko LPEek erakusten duten mehatxu iraunkorra bezalako ahultasun kritiko eta aktiboetarako. Aringarri sendoak ezartzea. Eskatu zure saltzaileei erantzukizuna beren segurtasun jarreragatik, ez haien ezaugarrien bide-orria soilik.
Merkatuaren erorketa eta konpondu gabeko oinarrizko segurtasun-arazoak ez dira albisteak soilik. Kontu bat dira. Azkarregia den mundu teknologikoa, arduragabeegia eta, azkenik, agerian dagoena. Hazteko garaia da, gure oinarriak ziurtatzeko, eta gero, orduan bakarrik, kontu handiz kontuan hartu hurrengo muga.
Iturriak
[1] Future of Life Institute - Pause Giant AI Experiments: gutun ireki bat - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - AI adituek AI sistema aurreratuen garapenean pausatzea eskatzen dute - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Ustiatutako ahultasun ezagunen katalogoa — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory - Cisco Secure Email and Web Manager, Cisco Email Security Appliance eta Cisco Web Security Appliance ahultasunak - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center - Microsoft Defender tokiko pribilegioak igotzeko ahultasuna - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647