Az AI lassulása zavaró. Ég a házad.
Legyünk őszinték: a technológiai ipar végre átéli a „Jézushoz jöjjön” pillanatát a mesterséges intelligencia kapcsán, de ez kevésbé tűnik valódi bűnbánatnak, inkább stratégiai irányvonalnak. Hirtelen ennek a nyaktörő mesterséges intelligencia-versenynek az építészei – a prominens kutatók és a finanszírozók, akik finanszírozták koffeinüzemű sprinteiket – lassítást követelnek [1]. „Belső kormányzásról”, „etikai keretekről” és „megfontoltabb” tempóról beszélnek. A piac, amely valaha is érzékeny barométer volt, már reagált az AI-befektetések fenntarthatóságával kapcsolatos aggodalmakra, amelyek ingadozást okoznak a chipkészletekben [2].
Ez nem külső szabályozás; ez egy belső „törésvonal”, amely magából a mesterséges intelligencia ökoszisztémájából ered. És miközben a C-suite jövőbeli alkotásaik filozófiai vonatkozásairól vitatkozik, a jelen aktívan ég.
A kényelmes szünet
Vegye figyelembe az időzítést. Évek óta a mantra a "mozogj gyorsan és törd meg a dolgokat", vagy újabban a "mozogj gyorsan és építs AGI-t". Most, amikor az erőteljes modelleket már bevezették, a versenykörnyezet nagyrészt meghatározott, és a tényleges, értelmes szabályozás kísértete fenyeget, az óvatosságra való felhívások kissé üresen csengenek. Ez egy valódi ráébredés a mélyreható kockázatokra, vagy egy kiszámított manőver a hatalom megszilárdítására, a versenytársak lelassítására és a közvélemény kezelésére, mielőtt a vasvillák megjelennének?
Könnyű elővigyázatosságot hirdetni, ha már sarokba szorította a számítástechnika, a tehetség és az alapmodellek piacát. Nemesnek hangzik, hogy az iparág hirtelen a „termék ütemterveinek újraértékelésére, kockázatértékelésre és stratégiai tervezésre” helyezi a hangsúlyt, de egyben kényelmes módja is az erőforrások újbóli összehangolásának. Ez potenciálisan lelassíthatja a nyílt forráskódú alternatívákat vagy a kisebb szereplőket, akik az alapvető erőforrásokhoz való hozzáférés ellenőrzésével vagy a szabályozási keretek befolyásolásával kihívást jelenthetnek a bevett óriáscégekkel. Az "etikai keret" hirtelen a legfontosabb, nem akkor, amikor a modelleket kikapart adatokon képezték ki, hanem most, amikor elég erősek ahhoz, hogy valóban átalakítsák a társadalmat.
Az akadémiai és tudományos közösségekben hangoztatott aggodalmak, amelyek arra figyelmeztetnek, hogy a nyitott problémákra adott mesterséges intelligencia "megoldásai" veszélyeztethetik területeik integritását [3], egyértelműen jelzik e belső aggodalmat. De ne tévesszük ezt össze az altruizmussal. Itt nem az AI munkahelyekre vagy infrastruktúrára gyakorolt hatásáról van szó; az ellenőrzésről szól – ki és milyen ütemben használja. A vita kevésbé arról szól, hogy "meg kell-e építeni?" és többet arról, hogy "ki dönti el, milyen gyorsan építjük fel, és ki profitál?"
Amíg a jövőről vitatkoznak, a jelened veszélybe kerül
Most térjünk át a mesterséges intelligencia belső szakadásának elvont, jövőbe mutató aggályairól a hálózatainkon most kibontakozó azonnali, kézzelfogható válságra. Miközben az AI-titánok gépeik lelkén töprengenek, az Ön operatív csapatai azon fáradoznak, hogy megfékezzék a teljes kiberbiztonsági katasztrófát.
Nem elméleti fenyegetésekről vagy általános trendekről beszélünk. Az alapvető vállalati szoftverek aktívan kihasznált nulladik napi sebezhetőségeiről beszélünk, amelyek egy kalapács erejével sújtják a kritikus infrastruktúrát.
- Ivanti Connect Secure és Policy Secure (CVE-2023-46805 és CVE-2024-21887): Ez nem csak egy hiba; ez egy tátongó seb. Az Ivanti VPN- és hálózati hozzáférési megoldásainak ezeket a sebezhetőségeit aktívan kihasználták, lehetővé téve a támadók számára a hitelesítés megkerülését és távoli parancsok végrehajtását. A CISA több figyelmeztetést is kiadott, kiemelve a kritikus kockázatot azon szervezetek számára, amelyek biztonságos távoli hozzáférést biztosítanak ezekre a rendszerekre [4]. Az elsődleges hálózati védelmet, amelyre támaszkodik, hogy megállítsa a rosszfiúkat a kapuban, aktívan kihasználják, hogy a támadók számára mély hozzáférést biztosítson számtalan vállalati hálózathoz.
- Cisco IOS XE webes felhasználói felület (CVE-2023-20198): Maximális súlyosság. Aktívan kihasználva. Ez a biztonsági rés lehetővé teszi a nem hitelesített támadók számára, hogy privilegizált fiókokat hozzanak létre, és teljes irányítást szerezzenek az érintett Cisco IOS XE eszközök felett. Ha egy támadó birtokolja a hálózati infrastruktúra felügyeleti síkját, akkor a teljes hálózatot is övé. A játék vége [5].
A CISA nem szórakozásból ad ki "figyelmeztetéseket"; "tüzet" üvöltenek egy zsúfolt színházban. Ezek nem csupán elméleti fenyegetések; aktívan használják az alapvető védelmi és irányítási rendszerek kompromittálására a globális vállalatokban.
Az igazi törésvonal
Az irónia olyan vastag, hogy egy tompa késsel is el lehet vágni. Az egyik oldalon a mesterséges intelligencia elit vitatkozik egy olyan jövő etikai vonatkozásairól, amelyet még mindig építenek, és lassításra szólítanak fel az évekig tartó ellenőrizetlen gyorsulás után. Másrészt az a közvetlen, egzisztenciális fenyegetés, hogy jelenlegi alaptechnológiánk aktívan összeomlik a kezeletlen, javítatlan sebezhetőségek súlya alatt.
Az igazi "törésvonal" nem csak az AI közösségen belül van; az innováció elefántcsonttornya és a működési valóság árkai között van. Ez a mesterséges intelligencia „önszabályozásáról” szóló elvont, jövőre összpontosító viták és a ma támaszkodó rendszerek tényleges biztonságának és stabilitásának azonnali, konkrét igénye között van.
A technológiai igazgatók és a mérnökök vezetésével nem engedhetjük meg magunknak, hogy elvonják a figyelmünket az AI lassulásáról szóló filozófiai viták. Bár ezek a megbeszélések hosszú távon fontosak, luxusnak számítanak, amikor a ház aktívan lángokban áll. A "termék ütemtervének újraértékelését" a meglévő infrastruktúra omladozó alapjainak megerősítésével kell kezdeni. A „kockázatértékeléseknek” prioritást kell adniuk az azonnali, aktívan kihasznált fenyegetéseknek, amelyek ma veszélyeztetik a működési folyamatosságot és az adatok integritását.
Az iparág prioritásai torzak. Gyorsabb, fényesebb dolgokat építünk egy aktívan rothadó alapra. A mesterséges intelligencia lassítására való felszólítás szükséges beszélgetés lehet, de azoknak, akik a földön tartózkodunk, Ivantival és Cisco nulladik nappal foglalkozunk, olyan érzés, mintha a függönyök színéről vitatkoznánk, miközben a tető beomlik. Koncentráljunk a jelenre. A jövő várhat, amíg nem fogunk aktívan vérezni.
Források
[1] Nyílt levél az óriás mesterséges intelligencia-kísérletek szüneteltetéséről – https://futureoflife.org/open-letter-pause-ai-development/ [2] A mesterséges intelligencia részvényei szárnyalnak, de egyes befektetők idegesek – https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] A mesterséges intelligencia forradalma a tudományban: ígéretek és veszélyek – https://www.nature.com/articles/d41586-023-03223-y [4] Az Ivanti Connect biztonságos és az Ivanti Policy Secure sebezhetőségeit kihasználó fenyegetés szereplői – https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] A Cisco IOS XE szoftver webes felhasználói felületének sebezhetőségét kihasználó fenyegetés szereplői – https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a