Keisarin uusi tekoäly ja sen alla oleva mätänevä säätiö
Muistatko, kun tekoäly pelasti meidät kaikki? Osoittautuu, että pelastajat pyytävät nyt aikakatkaisua. Juuri äskettäin tekoälyvetoisen tulevaisuutemme arkkitehdit – "reunatutkijat" ja taloudelliset raskaat sarjat - löivät yhdessä jarrua vaatien kehityksen hidastamista "kasvavien turvallisuushuolien" vuoksi [1]. Markkinat, aina tylppä väline, reagoivat yskimällä: sirujen osakkeet ja suuret tekoälypelaajat romahtivat [2]. Peking ennustettavasti nauroi varoituksista, kun taas Soulin sirujättiläiset kieltäytyivät maksamasta ennakkomaksuja tulevia tekoälykehitystä varten [2].
Tämä ei ole vain filosofinen keskustelu norsunluutornista. Tämä on seisminen muutos, alan eliitin piittaamattomuuden julkinen myöntäminen. Ja suoraan sanottuna se on vähän liian kätevä.
Tekoälytauko: altruismi vai valtapeli?
Tehdään selväksi: kun raketin rakentaneet ihmiset yhtäkkiä ymmärtävät unohtaneensa laskuvarjot *laukaisun jälkeen, se ei ole syvällisen eettisen heräämisen hetki. Se on myöhäistä, itseään palvelevaa ryppyä. Nämä eivät ole suurisilmäisiä idealisteja; nämä ovat titaaneja, jotka ovat painaneet poljinta metalliin jahtaen eksponentiaalista kasvua ja markkina-asemaa. Nyt, kun "ennakoimattomien seurausten" haamu uhkaa suuria – ja ehkä kyynisemmin, oivallus, että nykyinen tahti on kestämätön tai että heidän on vahvistettava johtoaan – he vaativat kollektiivista hengitystä.
Markkinoiden reaktio on puhutteleva. Siruosakkeiden notkahdus ei tarkoita vain pelkoa; kyse on mahdollisen hidastumisen välittömistä taloudellisista vaikutuksista. Pekingin takaisku? Selkeä signaali siitä, että kansallinen strateginen etu voittaa abstraktit turvallisuushuolit. Ja Soulin siruvalmistajat kieltäytyvät maksamasta ennakkomaksuja? Se on pääoman ääni, joka kyseenalaistaa yhtäkkiä epävarman tulevaisuuden pitkän aikavälin vakauden ja kannattavuuden.
Meille teknologiajohtajille ja insinöörijohtajille tämä merkitsee suoraan kaoottista maisemaa. Sääntelytoimien odotetaan nopeutuvan, mikä pakottaa tekoälyprojektit priorisoimaan uudelleen. Tekoälyn "move fast and break things" -eetos on virallisesti kuollut, ja se on korvattu kiihkeällä "eettisen tekoälykehityksen" kehyksillä, jotka olisi pitänyt luoda heti ensimmäisestä päivästä lähtien. Investoinnit muuttuvat varovaisemmiksi, strategiat kääntyvät, ja kyllä, työmarkkinat tuntevat kylmyyden, kun kultakuume väistyy harkitummalle ja toivottavasti vastuullisemmalle lähestymistavalle. Mutta älkäämme sekoittako tätä puhtaaksi altruismiksi. Tämä "tauko" koskee yhtä paljon ohjausta ja markkinoiden uudelleenkalibrointia kuin aitoa turvallisuutta.
Kun titaanit väittelevät, säätiö murenee
Nyt, kun tekoälyeliitti kokee eksistentiaalista kriisiään ja keskustelee tulevaisuuden superälyn etiikasta, puhutaanpa hyvin todellisesta, hyvin nykyisestä ja täysin katastrofaalisesta turvallisuuskriisistä, joka kehittyy tällä hetkellä.
Tällä viikolla CISA lisäsi useita uusia CVE:itä tunnettujen hyödynnettyjen haavoittuvuuksien luetteloonsa [3]. Puhumme vahvistetusta juuri-RCE:stä Cisco Secure Email Gatewayssa (CVE-2023-20269) [4], CVSS 10.0 -polun läpikäynnistä GitLabissa (CVE-2023-2825) [3] ja äskettäin korjatusta Chromen nollapäivän (CVE-2023)3, joka vaati välitöntä huomiota [3].
Mutta todellinen isku, jonka pitäisi saada jokainen turvallisuusalan ammattilainen huutamaan tyhjyyteen, on jatkuva uhka perusvirheistä. Harkitse CVE-2021-1647:tä, Microsoft Defenderin haittaohjelmien suojausmoottorin [5] paikallista käyttöoikeuksien eskalaatiohaavoittuvuutta. Tämä ei ollut mikään hämärä vika; sillä oli julkinen Proof-of-Concept, ja sitä hyödynnettiin aktiivisesti luonnossa, mikä korostaa, kuinka digitaalisen puolustusmme tärkeät osat voivat vaarantua ja pysyä haavoittuvina jonkin aikaa.
Anna sen uppoaa. Samalla kun keskustelemme tekoälyn eettisyydestä, juuri ohjelmistossa, joka on suunniteltu suojaamaan päätepisteitämme, digitaalisen puolustusmme peruskerroksena, on osoitettu sisältävän julkisesti tunnettuja, aktiivisesti hyödynnettyjä puutteita, joiden avulla hyökkääjä voi nostaa etuoikeuksia. Se on kuin väittelyä vääntymisen filosofisista vaikutuksista, kun autosi jarrut pettävät ja moottori palaa.
Laskeminen: saman kolikon kaksi puolta
Nämä eivät ole erillisiä tarinoita. Ne ovat saman syvästi puutteellisen kolikon kaksi puolta: teknologiateollisuus, joka on jatkuvasti priorisoinut nopeutta, uutuutta ja havaittua innovaatiota perusturvan, vakauden ja vastuullisuuden edelle.
Tekoälyjohtajien äkillinen pyyntö hidastaa on reaktiivinen, itseään palveleva yritys korjata kurssia sen jälkeen, kun he ovat jo päässeet valloilleen tehokkaita, huonosti ymmärrettyjä järjestelmiä luontoon. Se myöntää, että "liiku nopeasti ja riko asioita" -mantra, kun sitä sovelletaan mahdollisesti maailmaa muuttavaan teknologiaan, ei ole vain vastuutonta, vaan myös vaarallista.
Nollapäivän hyökkäys, erityisesti kriittinen Defender-haavoittuvuus, on suora, tuskallinen seuraus tästä samasta perustavanlaatuiseen IT:hen sovelletusta ajattelutavasta. Se on seurausta kulttuurista, joka käsittelee turvallisuutta usein jälkikäteen, vaatimustenmukaisuuden valintaruuduna tai kustannuspaikkana, eikä jokaisen tuotteen ja järjestelmän kiinteänä, ei-neuvoteltavana osana. Olemme niin kiireisiä seuraavan kiiltävän esineen – seuraavan LLM:n, seuraavan tekoälyagentin – jahtaamisessa, että olemme antaneet maan jalkojemme alla mädäntyä.
Tekniikkajohtajille ja insinöörijohtajille viesti on jyrkkä ja välitön. Lopeta jokaisen syötteesi ylittävän tekoälytrendin jahtaaminen. Tuplaa perusasiat. Aseta korjaukset tärkeysjärjestykseen erityisesti kriittisten, aktiivisesti hyödynnettyjen haavoittuvuuksien, kuten Ciscon ja GitLabin haavoittuvuuksien ja Defenderin aiempien LPE:iden esimerkkinä jatkuvan uhan kohdalla. Toteuta voimakkaita lievennyksiä. Vaadi toimittajiltasi vastuuta heidän turvallisuusasenteestaan, ei vain heidän ominaisuuksien etenemissuunnitelmastaan.
Markkinoiden romahdus ja ratkaisemattomat perusturvaongelmat eivät ole vain uutisia. Ne ovat laskutoimituksia. Teknologiamaailma, joka on liian nopea, liian holtiton ja lopulta liian alttiina. On aika kasvaa aikuiseksi, turvata perustamme ja sitten, vasta sitten, harkita varovasti seuraavaa rajaa.
Lähteet
[1] Future of Life Institute – Pause Giant AI Experiments: An Open Letter – https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC – tekoälyasiantuntijat vaativat keskeyttämään edistyneiden tekoälyjärjestelmien kehittämisen – https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA – Known Exploited Vulnerabilities Catalog – https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory – Cisco Secure Email and Web Manager, Cisco Email Security Appliance ja Cisco Web Security Appliancen haavoittuvuudet – https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-qmaQ-8-rce-uX5 [5] Microsoft Security Response Center – Microsoft Defender Local Privilege Escalation Vulnerability – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647