Tekoälyn hidastuminen on häiriötekijä. Talosi on tulessa.
Olkaamme suoraan sanottuna: teknologiateollisuudella on vihdoinkin "tule Jeesuksen luo" -hetkensä tekoälyn kanssa, mutta se tuntuu vähemmän aidolta katumukselta vaan enemmän strategiselta kierteeltä. Yhtäkkiä tämän räjähdysmäisen tekoälykilpailun arkkitehdit – merkittävät tutkijat ja rahoittajat, jotka rahoittivat heidän kofeiinipitoisia sprinttejään – vaativat hidastumista [1]. He puhuvat "sisäisestä hallinnosta", "eettisistä kehyksistä" ja "tietoisemmasta" tahdista. Ja markkinat, aina herkät barometrit, ovat jo reagoineet huoleen tekoälyinvestointien kestävyydestä, mikä aiheuttaa epävakautta sirujen osakkeissa [2].
Tämä ei ole ulkoista sääntelyä; se on sisäinen "vikaviiva", joka syntyy itse tekoälyn ekosysteemistä. Ja samalla kun C-sarja keskustelee tulevaisuuden luomustensa filosofisista vaikutuksista, nykyisyys palaa aktiivisesti.
Kätevä tauko
Harkitse ajoitusta. Vuosien ajan mantra on ollut "liiku nopeasti ja riko asioita" tai viime aikoina "liiku nopeasti ja rakenna AGI". Nyt kun tehokkaita malleja on jo otettu käyttöön, kilpailuympäristö on pitkälti määritelty ja todellisen, mielekkään säätelyn haamu häämöttää, varovaisuuskutsut ovat hieman tyhjiä. Onko tämä aito herääminen syviin riskeihin vai laskelmoitu liike vallan vahvistamiseksi, kilpailijoiden hidastamiseksi ja yleisön käsityksen hallitsemiseksi ennen kuin haarukat tulevat esiin?
On helppo saarnata varovaisuutta, kun olet jo vallannut laskennan, lahjakkuuden ja perusmallien markkinat. Alan äkillinen keskittyminen "tuotesuunnitelmien uudelleenarviointiin, riskiarviointiin ja strategiseen suunnitteluun" kuulostaa jalolta, mutta se kuulostaa myös kätevältä tavalta kohdistaa resurssit uudelleen. Tämä voisi mahdollisesti hidastaa avoimen lähdekoodin vaihtoehtoja tai pienempiä toimijoita, jotka voivat haastaa vakiintuneet jättiläiset hallitsemalla pääsyä olennaisiin resursseihin tai vaikuttamalla sääntelykehyksiin. "Eettinen kehys" on yhtäkkiä ensiarvoisen tärkeä, ei silloin, kun malleja koulutettiin raaputetun datan perusteella, vaan nyt, kun ne ovat tarpeeksi tehokkaita muokkaamaan todella uudelleen yhteiskuntaa.
Akateemisissa ja tieteellisissä yhteisöissä ilmaistut huolet, jotka varoittavat, että tekoälyn "ratkaisut" avoimiin ongelmiin voivat uhata niiden alojen eheyttä [3], ovat selvä osoitus tämän sisäisen huolen syvyydestä. Mutta älkäämme sekoittako tätä altruismiin. Tässä ei ole kyse tekoälyn vaikutuksesta työpaikkoihin tai infrastruktuuriin; kyse on hallinnasta – kuka sitä käyttää ja millä tahdilla. Keskustelu ei ole niinkään "pitäisikö meidän rakentaa se?" ja lisää aiheesta "kuka saa päättää kuinka nopeasti rakennamme sen ja kuka hyötyy?"
Kun he keskustelevat tulevaisuudesta, nykyisyytesi on vaarassa
Kääntytäänpä nyt abstrakteista, tulevaisuuteen katsovista huolenaiheista tekoälyn sisäisestä repeämisestä välittömään, konkreettiseen kriisiin, joka avautuu verkoissamme * juuri nyt*. Tekoälytitaanien pohtiessa koneittensa sielua, operatiiviset tiimisi pyrkivät hillitsemään täysimittaista kyberturvallisuuskatastrofia.
Emme puhu teoreettisista uhista tai yleisistä suuntauksista. Puhumme aktiivisesti hyödynnetyistä nollapäivän haavoittuvuuksista perustavanlaatuisissa yritysohjelmistoissa, jotka osuvat kriittiseen infrastruktuuriin vasaran voimalla.
- Ivanti Connect Secure ja Policy Secure (CVE-2023-46805 & CVE-2024-21887): Tämä ei ole vain virhe; se on ammottava haava. Näitä Ivantin VPN- ja verkkoyhteysratkaisujen haavoittuvuuksia on hyödynnetty aktiivisesti, minkä ansiosta hyökkääjät voivat ohittaa todennuksen ja suorittaa etäkäskyjä. CISA on antanut useita varoituksia, joissa korostetaan kriittistä riskiä organisaatioille, jotka luottavat näihin järjestelmiin turvallisessa etäkäytössä [4]. Ensisijaista verkkopuolustusjärjestelmääsi, johon luotat estääksesi pahikset portilla, hyödynnetään aktiivisesti antamaan hyökkääjille syvä pääsy lukemattomiin yritysverkkoihin.
- Cisco IOS XE -verkkokäyttöliittymä (CVE-2023-20198): Suurin vakavuus. Aktiivisesti hyväksikäytetty. Tämän haavoittuvuuden ansiosta todentamattomat hyökkääjät voivat luoda etuoikeutettuja tilejä ja saada täyden hallinnan Cisco IOS XE -laitteisiin, joita tämä haavoittuvuus koskee. Jos hyökkääjä omistaa verkkoinfrastruktuurisi hallintatason, hän omistaa koko verkkosi. Peli ohi [5].
CISA ei anna "varoituksia" huvin vuoksi; he huutavat "tulta" tungosta teatterissa. Nämä eivät ole vain teoreettisia uhkia; niitä käytetään aktiivisesti keskeisten puolustus- ja hallintajärjestelmien kompromisseihin maailmanlaajuisissa yrityksissä.
Todellinen vikaviiva
Ironia on niin paksua, että sen voi leikata tylsällä veitsellä. Toisaalta tekoälyeliitti keskustelee edelleen rakentamansa tulevaisuuden eettisistä vaikutuksista ja vaatii hidastumista vuosien hallitsemattoman kiihtymisen jälkeen. Toisaalta meillä on välitön, eksistentiaalinen uhka, että nykyinen perusteknologiamme murenee aktiivisesti käsittelemättömien, korjaamattomien haavoittuvuuksien painon alla.
Todellinen "vikalinja" ei ole vain tekoälyyhteisössä; se on innovaatioiden norsunluutornin ja toiminnallisen todellisuuden hautojen välissä. Se on abstraktien, tulevaisuuteen keskittyvien keskustelujen välillä tekoälyn "itsesääntelystä" ja välittömän, konkreettisen tarpeen todellisesta turvallisuudesta ja vakaudesta järjestelmissä, joihin luotamme nykyään.
Tekniikkajohtajina ja insinöörinä meillä ei ole varaa häiritä tekoälyn hidastumisesta käytävää filosofista keskustelua. Vaikka nämä keskustelut ovat tärkeitä pitkällä aikavälillä, ne ovat luksusta, kun talosi on aktiivisesti tulessa. "Tuotteiden tiekarttojen uudelleenarvioinnin" pitäisi alkaa nykyisen infrastruktuurimme murenevan perustuksen vahvistamisesta. "Riskiarvioinneissa" on priorisoitava välittömät, aktiivisesti hyödynnetyt uhat, jotka vaarantavat toiminnan jatkuvuuden ja tietojen eheyden tänään.
Alan painopisteet ovat vinossa. Rakennamme nopeampia, kiiltävämpiä asioita aktiivisesti mätänevälle perustukselle. Tekoälyn hidastaminen saattaa olla tarpeellinen keskustelu, mutta meistä kentällä oleville, jotka olemme tekemisissä Ivantin ja Ciscon nollapäivien kanssa, tuntuu siltä, että keskustelemme verhojen väreistä, kun katto luhistuu. Keskity nykyhetkeen. Tulevaisuus voi odottaa, kunnes emme vuoda aktiivisesti.
Lähteet
[1] Avoin kirje jättimäisten AI-kokeilujen keskeyttämiseksi – https://futureoflife.org/open-letter-pause-ai-development/ [2] Tekoälyosakkeet nousevat huimasti, mutta jotkut sijoittajat hermostuvat – https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Tekoälyvallankumous tieteessä: lupaukset ja vaarat – https://www.nature.com/articles/d41586-023-03223-y [4] Uhkatoimijat, jotka käyttävät hyväkseen Ivanti Connectin suojattuja ja Ivanti Policy Secure -haavoittuvuuksia – https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Uhkatoimijat, jotka käyttävät hyväkseen Cisco IOS XE -ohjelmiston verkkokäyttöliittymän haavoittuvuutta – https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a