Az Emperor's New AI, és a Rotting Foundation Beeath It
Emlékszel, amikor az AI mindannyiunkat megmenteni akart? Kiderült, hogy a megmentők most időt kérnek. A közelmúltban mesterséges intelligencia által vezérelt jövőnk építészei – a „felderítő” kutatók és a pénzügyi nehézsúlyúak – együttesen lenyomták a féket, és a fejlesztés lassítását követelték az „egyre erősödő biztonsági aggályok” miatt [1]. A piac, amely valaha is tompa eszköz volt, tüdõköhögéssel válaszolt: a chipkészletek és a nagy mesterségesintelligencia-szereplõk zuhantak [2]. Peking megjósolhatóan gúnyolódott a figyelmeztetéseken, míg a szöuli chip-óriások megtagadták a jövőbeli mesterséges intelligencia fejlesztések előlegét [2].
Ez nem csak egy filozófiai vita az elefántcsonttoronyról. Ez egy szeizmikus váltás, az ipar elitjéből származó meggondolatlanság nyilvános beismerése. És őszintén szólva, ez egy kicsit túl kényelmes.
Az AI szünet: altruizmus vagy erőjáték?
Legyen egyértelmű: amikor a rakétát építő emberek hirtelen rájönnek, hogy elfelejtették az ejtőernyőket a kilövés után, az nem egy mély etikai ébredés pillanata. Ez egy megkésett, öncélú tülekedés. Ezek nem tágra nyílt szemű idealisták; ezek azok a titánok, akik a fémre nyomják a pedált, exponenciális növekedést és piaci dominanciát kergetve. Most, amikor az „előre nem látható következmények” nagyra borulnak – és talán még cinikusabban, a felismerés, hogy a jelenlegi ütem fenntarthatatlan, vagy hogy meg kell szilárdítaniuk vezető szerepüket –, közös lélegzetvételre szólítanak fel.
A piac reakciója sokatmondó. A chips részvények zuhanása nem csak a félelemről szól; egy esetleges lassulás közvetlen pénzügyi következményeiről van szó. Peking visszaszorítása? Egyértelmű jele annak, hogy a nemzeti stratégiai előny felülmúlja az absztrakt biztonsági aggályokat. És a szöuli chipgyártók megtagadják az előlegfizetést? Ez a tőke hangja, amely megkérdőjelezi a hirtelen bizonytalan jövő hosszú távú stabilitását és jövedelmezőségét.
Számunkra, a műszaki igazgatók és a mérnöki vezetők számára ez egyenesen kaotikus tájat jelent. Várhatóan felgyorsulnak a szabályozói beavatkozások, ami az AI-projektek prioritásainak újrarendezését kényszeríti majd ki. A mesterséges intelligencia „mozogj gyorsan és törd meg a dolgokat” szellemisége hivatalosan is halott, helyébe az „etikus mesterségesintelligencia-fejlesztés” keretrendszerek eszeveszett keresése lép, amelyet az első naptól kezdve be kellett volna építeni. A befektetések óvatosabbak lesznek, a stratégiák megfordulnak, és igen, a munkaerőpiacokon meg fog hűlni, ahogy az aranyláz átadja a helyét egy kimért, és remélhetőleg felelősségteljesebb megközelítésnek. De ne tévesszük ezt össze a tiszta altruizmussal. Ez a „szünet” éppúgy az ellenőrzésről és a piaci újrakalibrálásról szól, mint a valódi biztonságról.
Amíg a titánok vitatkoznak, az alapítvány összeomlik
Nos, miközben a mesterséges intelligencia elit éli egzisztenciális válságát, és a jövő szuperintelligencia etikájáról vitatkozik, beszéljünk a nagyon is valós, nagyon jelenlévő és teljesen katasztrofális biztonsági válságról, amely most kibontakozik.
Ezen a héten a CISA több új CVE-t is hozzáadott Ismert kihasznált sebezhetőségi katalógusához [3]. A Cisco Secure Email Gateway (CVE-2023-20269) megerősített gyökér RCE-ről [4], a GitLab CVSS 10.0 útvonalának bejárásáról (CVE-2023-2825) [3] és egy nemrégiben javított Chrome nulladik napról (CVE-2023) [3], amely azonnali figyelmet igényel (CVE-2023) [3].
De az igazi ütés, amely minden biztonsági szakembert az űrbe üvölt, az alaphibák állandó fenyegetése. Vegyük fontolóra a CVE-2021-1647-et, amely a Microsoft Defender Malware Protection Engine-jében található helyi jogosultság-kiterjesztési sebezhetőség [5]. Ez nem valami homályos hiba volt; nyilvános Proof-of-Concept volt, és aktívan kihasználták a vadonban, rávilágítva arra, hogy digitális védelmünk kritikus elemei sérülhetnek, és egy ideig sebezhetőek maradhatnak.
Hagyja, hogy ez besüllyedjen. Miközben az MI-érzékelés etikájáról vitatkozunk, a végpontjaink védelmére tervezett szoftver, amely digitális védelmünk alaprétege, bebizonyosodott, hogy nyilvánosan ismert, aktívan kihasznált hibákat rejt magában, amelyek lehetővé teszik a támadók számára, hogy kiváltságaikat emeljék. Ez olyan, mintha a hajtás filozófiai vonatkozásairól vitatkozna, miközben az autó fékje hibás, a motor pedig ég.
A számonkérés: ugyanannak az éremnek két oldala
Ezek nem külön történetek. Ugyanannak a mélyen hibás éremnek a két oldala: egy technológiai iparág, amely következetesen a gyorsaságot, az újdonságot és az észlelt innovációt helyezi előtérbe az alapvető biztonság, stabilitás és felelősség helyett.
A mesterséges intelligencia vezetőinek hirtelen felszólítása a lassításra egy reaktív, öncélú próbálkozás, hogy helyesbítsék az irányt, miután már hatalmas, rosszul értelmezett rendszereket szabadítottak a vadonba. Elismerés, hogy a „mozogj gyorsan és törd meg a dolgokat” mantra, ha a potenciálisan világot megváltoztató technológiára alkalmazzák, nem csak felelőtlen, de veszélyes is.
A nulladik napi támadás, különösen a Defender kritikus sebezhetősége, ennek az alapvető IT-re vonatkozó gondolkodásmódnak a közvetlen, fájdalmas következménye. Ez annak a kultúrának az eredménye, amely a biztonságot gyakran utólagos gondolatként, megfelelőségi jelölőnégyzetként vagy költséghelyként kezeli, nem pedig minden egyes termék és rendszer szerves, nem megtárgyalható összetevőjeként. Annyira el vagyunk foglalva a következő fényes tárgy – a következő LLM, a következő AI-ügynök – üldözésével, hogy hagytuk, hogy a lábunk alatt a talaj elrohadjon.
A műszaki igazgatók és a vezető mérnökök számára az üzenet éles és azonnali. Ne üldözz minden olyan AI-trendet, amely keresztezi hírfolyamát. Duplázd le az alapokat. Részesítse előnyben a javításokat, különösen az olyan kritikus, aktívan kihasznált sebezhetőségek esetében, mint a Cisco, a GitLab és a Defender korábbi LPE-jeiből származó tartós fenyegetés. Határozott mérséklések végrehajtása. Követeljen elszámoltathatóságot szállítóitól a biztonsági helyzetükért, ne csak a szolgáltatási ütemtervükért.
A piac zuhanása és a kezeletlen alapvető biztonsági problémák nem csak hírek. Ezek egy számvetés. Egy túl gyors, túl vakmerő és végül túlságosan leleplező technológiai világ. Itt az ideje, hogy felnőjünk, biztosítsuk alapjainkat, és akkor, csak akkor, óvatosan fontoljuk meg a következő határt.
Források
[1] Future of Life Institute – Pause Giant AI Experiments: An Open Letter – https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC – A mesterséges intelligencia szakértői a fejlett AI-rendszerek fejlesztésének szüneteltetését kérik – https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA – Known Exploited Vulnerabilities Catalog – https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory – Cisco Secure Email and Web Manager, Cisco Email Security Appliance és Cisco Web Security Appliance sebezhetőségei – https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-uqmaQ-8-sa-uqma [5] Microsoft Security Response Center – Microsoft Defender Local Privilege Escalation Vulnerability – https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647