La Malrapidiĝo de AI estas Distro. Via Domo brulas.
Ni estu malakraj: la teknologia industrio finfine havas sian momenton de "veni al Jesuo" kun AI, sed ĝi sentas malpli kiel vera pento kaj pli kiel strategia pivoto. Subite, la arĥitektoj mem de ĉi tiu interrompa AI-raso - la eminentaj esploristoj kaj la financistoj kiuj financis siajn kafein-fuelitajn sprintojn - postulas malrapidiĝon [1]. Ili parolas pri "interna regado", "etikaj kadroj" kaj "pli intenca" ritmo. Kaj la merkato, iam ajn la sentema barometro, jam reagis, kun zorgoj pri la daŭripovo de AI-investoj kaŭzantaj volatilon en blatprovizoj [2].
Ĉi tio ne estas ekstera reguligo; ĝi estas interna "faŭltolinio" eliranta el ene de la AI-ekosistemo mem. Kaj dum la C-serio diskutas la filozofiajn implicojn de siaj estontaj kreaĵoj, la nuntempo aktive brulas.
La Konvena Paŭzo
Konsideru la tempon. Dum jaroj, la mantro estis "movu rapide kaj rompas aferojn", aŭ pli lastatempe, "movu rapide kaj konstruu AGI." Nun, kun potencaj modeloj jam deplojitaj, kun la konkurenciva pejzaĝo plejparte difinita, kaj kun la fantomo de reala, signifoplena reguligo minacanta, la alvokoj al singardo sonas iomete kava. Ĉu ĉi tio estas vera vekiĝo al la profundaj riskoj, aŭ kalkulita manovro por plifirmigi potencon, malrapidigi konkurantojn kaj administri publikan percepton antaŭ ol la forkoj eliros?
Estas facile prediki singardemon kiam vi jam kaptis la merkaton pri komputado, talento kaj fundamentaj modeloj. La subita fokuso de la industrio pri "retaksado de produktaj vojmapoj, riskotaksoj kaj strategia planado" sonas noble, sed ĝi ankaŭ sonas kiel oportuna maniero por reallinii rimedojn. Ĉi tio eble povus malrapidigi malfermfontajn alternativojn aŭ pli malgrandajn ludantojn, kiuj povus defii la establitajn gigantojn kontrolante aliron al esencaj rimedoj aŭ influante reguligajn kadrojn. La "etika kadro" subite estas plej grava, ne kiam la modeloj estis trejnitaj sur skrapitaj datumoj, sed nun kiam ili estas sufiĉe potencaj por vere transformi la socion.
Zorgoj esprimitaj ene de akademiaj kaj sciencaj komunumoj, avertante ke AI "solvoj" al malfermaj problemoj povus minaci la integrecon de iliaj kampoj [3], estas ekstrema indikilo de la profundo de tiu interna zorgo. Sed ni ne konfuzu ĉi tion kun altruismo. Ĉi tio ne temas pri la efiko de AI al laborpostenoj aŭ infrastrukturo; temas pri regado – kiu uzas ĝin, kaj je kiu rapideco. La debato temas malpli pri "ĉu ni konstruu ĝin?" kaj pli pri "kiu povas decidi kiom rapide ni konstruas ĝin, kaj kiu profitas?"
Dum Ili Debatas la Estontecon, Via Donaco estas Kompromita
Nun, ni iru de la abstraktaj, estontecaj zorgoj de la interna rifto de AI al la tuja palpebla krizo disvolviĝanta en niaj retoj nun. Dum la AI-titanoj pripensas la animon de siaj maŝinoj, viaj operaciaj teamoj luktas por enhavi plenan cibersekurecan katastrofon.
Ni ne parolas pri teoriaj minacoj aŭ ĝeneralaj tendencoj. Ni parolas pri aktive ekspluatitaj nultagaj vundeblecoj en fundamenta entreprena programaro, trafante kritikan infrastrukturon per la forto de sledmartelo.
- Ivanti Connect Secure kaj Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ĉi tio ne estas nur cimo; ĝi estas gapa vundo. Ĉi tiuj vundeblecoj en VPN- kaj reto-aliraj solvoj de Ivanti estis aktive ekspluatitaj, permesante al atakantoj preteriri aŭtentikigon kaj ekzekuti forajn komandojn. CISA eligis plurajn avertojn, elstarigante la kritikan riskon al organizoj fidantaj je ĉi tiuj sistemoj por sekura fora aliro [4]. Via ĉefa reta defendo, la sola afero, sur kiu vi fidas por haltigi la malbonulojn ĉe la pordego, estas aktive ekspluatata por doni al atakantoj profundan aliron al sennombraj entreprenaj retoj.
- ** Cisco IOS XE Web UI (CVE-2023-20198):** Maksimuma severeco. Aktive ekspluatata. Ĉi tiu vundebleco permesas neaŭtentikigitajn atakantojn krei privilegiajn kontojn kaj akiri plenan kontrolon de tuŝitaj Cisco IOS XE-aparatoj. Se atakanto posedas la administradaviadilon de via reto-infrastrukturo, ili posedas vian tutan reton. Ludo finita [5].
CISA ne eldonas "avertojn" por amuzo; ili krias "fajro" en plenplena teatro. Ĉi tiuj ne estas nur teoriaj minacoj; ili aktive estas uzataj por kompromiti kernajn defendojn kaj administrajn sistemojn tra tutmondaj entreprenoj.
La Reala Kulpo-Linio
La ironio estas tiel dika, ke oni povus tranĉi ĝin per obtuza tranĉilo. Unuflanke, ni havas la AI-eliton diskutanta la etikajn implicojn de estonteco, kiun ili ankoraŭ konstruas, postulante malrapidiĝon post jaroj da nekontrolita akcelo. Aliflanke, ni havas la tujan, ekzistecan minacon de nia nuna fundamenta teknologio aktive disfalanta sub la pezo de netraktitaj, neflakitaj vundeblecoj.
La vera "faŭlta linio" ne estas nur ene de la AI-komunumo; ĝi estas inter la ebura turo de novigo kaj la tranĉeoj de operacia realeco. Ĝi estas inter la abstraktaj, estontecaj diskutoj pri "memreguligo" por AI kaj la tuja, konkreta bezono de fakta sekureco kaj stabileco en la sistemoj, sur kiuj ni fidas hodiaŭ.
Kiel CTO-oj kaj inĝenieristiko gvidas, ni ne povas permesi al ni distriĝi de la filozofiaj debatoj de la malrapidiĝo de AI. Dum tiuj diskutoj estas gravaj por longtempe, ili estas lukso kiam via domo aktive brulas. La "retaksado de produktaj vojmapoj" devus komenciĝi per apogado de la diseriĝantaj fundamentoj de nia ekzistanta infrastrukturo. La "risktaksoj" devas prioritatigi la tujajn, aktive ekspluatitajn minacojn, kiuj endanĝerigas funkcian kontinuecon kaj datumintegrecon hodiaŭ.
La prioritatoj de la industrio estas misformitaj. Ni konstruas pli rapide, pli brilajn aferojn sur fundamento, kiu aktive putriĝas. La alvoko por malrapidigo de AI povus esti necesa konversacio, sed por tiuj el ni sur la tero, traktante Ivanti kaj Cisco-nul-tagojn, ĝi sentas kiel diskuti la koloron de la kurtenoj dum la tegmento kavernoj enen. Fokuso sur la nuntempo. La estonteco povas atendi ĝis ni ne aktive sangas.
Fontoj
[1] Malferma Letero por Paŭzi Gigantajn AI-Eksperimentojn - https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-akcioj ŝvebas, sed kelkaj investantoj nervoziĝas — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] La AI-revolucio en scienco: promesoj kaj danĝeroj - https://www.nature.com/articles/d41586-023-03223-y [4] Minacaj aktoroj ekspluatantaj Ivanti Connect Secure kaj Ivanti Policy Secure Secure Vulnerabilities — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Minacaj aktoroj ekspluatantaj Cisco IOS XE Programaro Web UI Vulnerability — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a