La desacceleració de l'IA és una distracció. La teva casa està en flames.
Siguem sincers: la indústria tecnològica finalment està tenint el moment d'"arribar a Jesús" amb la IA, però sembla menys un penediment genuí i més com un pivot estratègic. De sobte, els mateixos arquitectes d'aquesta cursa vertiginosa d'IA -els investigadors destacats i els financers que van finançar els seus sprints alimentats amb cafeïna- demanen una desacceleració [1]. Parlen de "governança interna", de "marcs ètics" i d'un ritme "més deliberat". I el mercat, sempre el sensible baròmetre, ja ha reaccionat, amb preocupacions sobre la sostenibilitat de les inversions en IA que provoca volatilitat en les accions de xips [2].
Això no és una regulació externa; és una "línia de falla" interna que sorgeix dins del propi ecosistema d'IA. I mentre la C-suite debat sobre les implicacions filosòfiques de les seves futures creacions, el present està cremant activament.
La pausa convenient
Considereu el temps. Durant anys, el mantra ha estat " moure's ràpidament i trencar coses ", o més recentment, " moure't ràpidament i construir AGI ". Ara, amb models potents ja desplegats, amb el panorama competitiu àmpliament definit i amb l'espectre d'una regulació real i significativa, les crides a la precaució sonen una mica buides. Es tracta d'un autèntic despertar dels riscos profunds, o d'una maniobra calculada per consolidar el poder, frenar els competidors i gestionar la percepció pública abans que surtin les forques?
És fàcil predicar la precaució quan ja heu arraconat el mercat amb models informàtics, de talent i bàsics. El sobtat enfocament de la indústria en la "reavaluació dels fulls de ruta del producte, les avaluacions de riscos i la planificació estratègica" sona noble, però també sembla una manera convenient de reajustar els recursos. Això podria frenar les alternatives de codi obert o els jugadors més petits que podrien desafiar els gegants establerts controlant l'accés als recursos essencials o influint en els marcs reguladors. El "marc ètic" és de sobte primordial, no quan els models s'estaven entrenant amb dades rascades, sinó ara que són prou potents per remodelar la societat.
Les preocupacions expressades dins de les comunitats acadèmiques i científiques, advertint que les "solucions" de la IA als problemes oberts podrien amenaçar la integritat dels seus camps [3], són un clar indicador de la profunditat d'aquesta preocupació interna. Però no ho confonguem amb altruisme. No es tracta de l'impacte de la IA en els llocs de treball o la infraestructura; es tracta de control: qui l'exerceix i a quin ritme. El debat és menys sobre "l'hem de construir?" i més sobre "qui decideix amb quina rapidesa el construïm i qui en treu beneficis?"
Mentre debaten sobre el futur, el teu present està compromès
Ara, passem de les preocupacions abstractes i de futur de la fractura interna de l'IA a la crisi tangible i immediata que es desenvolupa a les nostres xarxes ara. Mentre els titans de la IA reflexionen sobre l'ànima de les seves màquines, els vostres equips operatius estan lluitant per contenir una catàstrofe de ciberseguretat en tota regla.
No estem parlant d'amenaces teòriques ni de tendències generals. Estem parlant de vulnerabilitats de dia zero que s'han explotat activament en el programari empresarial bàsic, colpejant la infraestructura crítica amb la força d'un martell.
- Ivanti Connect Secure i Policy Secure (CVE-2023-46805 i CVE-2024-21887): Això no és només un error; és una ferida oberta. Aquestes vulnerabilitats de les solucions d'accés a la xarxa i VPN d'Ivanti s'han explotat activament, permetent als atacants evitar l'autenticació i executar ordres remotes. CISA ha emès múltiples advertències, destacant el risc crític per a les organitzacions que confien en aquests sistemes per a un accés remot segur [4]. La vostra defensa principal de la xarxa, l'únic en què confieu per aturar els dolents a la porta, s'està explotant activament per atorgar als atacants un accés profund a infinitat de xarxes empresarials.
- Interfície d'usuari web Cisco IOS XE (CVE-2023-20198): Gravetat màxima. Explotat activament. Aquesta vulnerabilitat permet als atacants no autenticats crear comptes privilegiats i obtenir el control total dels dispositius Cisco IOS XE afectats. Si un atacant és propietari del pla de gestió de la vostra infraestructura de xarxa, és el propietari de tota la vostra xarxa. Joc acabat [5].
CISA no emet "advertiments" per diversió; estan cridant "foc" en un teatre ple de gent. Aquestes no són només amenaces teòriques; s'estan utilitzant activament per comprometre les defenses bàsiques i els sistemes de gestió a les empreses globals.
La línia de falla real
La ironia és tan gruixuda que podríeu tallar-la amb un ganivet apagat. D'una banda, tenim l'elit de l'IA que debat les implicacions ètiques d'un futur que encara estan construint, demanant una desacceleració després d'anys d'acceleració sense control. D'altra banda, tenim l'amenaça existencial immediata de la nostra tecnologia fonamental actual que s'esfondra activament sota el pes de les vulnerabilitats no abordades i sense pegats.
La veritable "línia de falla" no és només dins de la comunitat d'IA; es troba entre la torre d'ivori de la innovació i les trinxeres de la realitat operativa. Es troba entre les discussions abstractes i centrades en el futur sobre l'"autorregulació" de la IA i la necessitat immediata i concreta de seguretat i estabilitat reals en els sistemes en què confiem avui.
Com a directors de tecnologia i enginyeria, no ens podem permetre el luxe de deixar-nos distreure amb els debats filosòfics de la desacceleració de la IA. Tot i que aquestes discussions són importants a llarg termini, són un luxe quan la teva casa està en flames. La "reavaluació dels fulls de ruta dels productes" hauria de començar per apuntalar els fonaments enfonsats de la nostra infraestructura existent. Les "avaluacions de riscos" han de prioritzar les amenaces immediates i explotades activament que comprometen la continuïtat operativa i la integritat de les dades avui.
Les prioritats del sector estan esbiaixades. Estem construint coses més ràpides i brillants sobre una base que s'està podrint activament. La crida a una desacceleració de la intel·ligència artificial pot ser una conversa necessària, però per als que estem sobre el terreny, tractant amb Ivanti i Cisco zero-days, se sent com debatre sobre el color de les cortines mentre el sostre s'enfonsa. Centra't en el present. El futur pot esperar fins que no estiguem sagnant activament.
Fonts
[1] Una carta oberta per aturar els experiments d'IA gegants: https://futureoflife.org/open-letter-pause-ai-development/ [2] Les accions d'IA s'estan disparant, però alguns inversors es posen nerviosos: https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] La revolució de la IA a la ciència: promeses i perills — https://www.nature.com/articles/d41586-023-03223-y [4] Actors d'amenaça que exploten les vulnerabilitats segures d'Ivanti Connect i les polítiques segures d'Ivanti: https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Actors d'amenaça que exploten la vulnerabilitat de la interfície d'usuari web del programari Cisco IOS XE: https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a