Hægð gervigreindar er truflun. Húsið þitt logar.
Við skulum vera hreinskilin: Tækniiðnaðurinn hefur loksins „komið til Jesú“ augnabliksins með gervigreind, en það líður minna eins og raunverulegri iðrun og meira eins og stefnumótandi snúningur. Skyndilega kalla sjálfir arkitektar þessa ógnvekjandi gervigreindarkapphlaups – áberandi rannsakendur og fjármálamenn sem fjármögnuðu koffínknúna spretti þeirra – eftir hægagangi [1]. Þeir eru að tala um "innri stjórnarhætti", "siðferðilega ramma" og "vísvitandi" hraða. Og markaðurinn, alltaf viðkvæmur loftvog, hefur þegar brugðist við, með áhyggjum af sjálfbærni gervigreindarfjárfestinga sem veldur sveiflum í flísabirgðum [2].
Þetta er ekki utanaðkomandi reglugerð; það er innri „bilunarlína“ sem kemur fram innan úr gervigreindarvistkerfinu sjálfu. Og á meðan C-svítan deilir um heimspekilegar afleiðingar framtíðarsköpunar þeirra, brennur nútíminn virkan.
Þægilega hléið
Hugleiddu tímasetninguna. Í mörg ár hefur mantran verið "hreyfa sig hratt og brjóta hlutina," eða nýlega, "hreyfa sig hratt og byggja upp AGI." Nú þegar öflugar gerðir hafa verið settar á markað, með samkeppnislandslag að miklu leyti skilgreint, og með vofa raunverulegrar, þýðingarmikillar reglugerðar yfirvofandi, hringja ákall um aðgát svolítið holur. Er þetta ósvikin vakning fyrir djúpstæðri áhættu, eða útreiknuð aðgerð til að treysta völd, hægja á keppinautum og stjórna almennri skynjun áður en kastgafflarnir koma út?
Það er auðvelt að boða varkárni þegar þú ert þegar búinn að koma markaðnum í horn með tölvu-, hæfileika- og grunnlíkönum. Skyndileg áhersla iðnaðarins á "endurmat á vöruleiðum, áhættumati og stefnumótun" hljómar göfugt, en það hljómar líka eins og þægileg leið til að samræma auðlindir aftur. Þetta gæti hugsanlega hægja á opnum valkostum eða smærri leikmönnum sem gætu skorað á stofnaða risa með því að stjórna aðgangi að nauðsynlegum auðlindum eða hafa áhrif á regluverk. „Siðferðileg umgjörð“ er skyndilega í fyrirrúmi, ekki þegar líkönin voru þjálfuð á skrapuðum gögnum, heldur núna þegar þau eru nógu öflug til að sannarlega endurmóta samfélagið.
Áhyggjur sem lýst er yfir innan fræðasamfélaga og vísindasamfélaga og vara við því að „lausnir“ gervigreindar á opnum vandamálum gætu ógnað heilindum sviða þeirra [3], eru áberandi vísbending um dýpt þessa innri áhyggjuefnis. En við skulum ekki misskilja þetta fyrir sjálfræði. Þetta snýst ekki um áhrif gervigreindar á störf eða innviði; þetta snýst um stjórn - hver fer með það og á hvaða hraða. Umræðan snýst minna um "eigum við að byggja það?" og meira um "hver fær að ákveða hversu hratt við byggjum það og hver græðir?"
Á meðan þeir rökræða um framtíðina er nútíð þín í hættu
Nú skulum við snúa okkur frá óhlutbundnum, framtíðarsýnum áhyggjum af innri gjá í gervigreind til hinnar strax, áþreifanlegu kreppu sem þróast á netum okkar núna. Á meðan gervigreindartítanarnir velta fyrir sér sál vélanna sinna, eru rekstrarteymi þín að keppast við að halda aftur af alhliða netöryggisslysi.
Við erum ekki að tala um fræðilegar ógnir eða almennar stefnur. Við erum að tala um virkan nýttan núlldaga veikleika í grunnhugbúnaði fyrirtækja, sem snertir mikilvæga innviði með sleggjukrafti.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): Þetta er ekki bara galla; það er gapandi sár. Þessir veikleikar í VPN og netaðgangslausnum Ivanti hafa verið nýttir á virkan hátt, sem gerir árásarmönnum kleift að komast framhjá auðkenningu og framkvæma fjarskipanir. CISA hefur gefið út margvíslegar viðvaranir og bent á mikilvæga áhættu fyrir stofnanir sem treysta á þessi kerfi fyrir öruggan fjaraðgang [4]. Aðal netvörnin þín, það eina sem þú treystir á til að stöðva vondu krakkana við hliðið, er virkt nýtt til að veita árásarmönnum djúpan aðgang að ótal fyrirtækjanetum.
- Cisco IOS XE vefviðmót (CVE-2023-20198): Hámarks alvarleiki. Virkilega nýtt. Þessi varnarleysi gerir óvottaðum árásarmönnum kleift að búa til forréttindareikninga og ná fullri stjórn á Cisco IOS XE tækjum sem verða fyrir áhrifum. Ef árásarmaður á stjórnunarplan netkerfisins þíns, þá eiga þeir allt netið þitt. Leik lokið [5].
CISA er ekki að gefa út "viðvaranir" sér til skemmtunar; þeir öskra "eldur" í troðfullu leikhúsi. Þetta eru ekki bara fræðilegar hótanir; þeir eru virkir notaðir til að skerða kjarnavarnir og stjórnunarkerfi í alþjóðlegum fyrirtækjum.
Raunverulega bilunarlínan
Kaldhæðnin er svo þykk að þú gætir skorið hana með sljóum hníf. Á annarri hliðinni höfum við gervigreindarelítuna að rökræða um siðferðileg áhrif framtíðar sem þeir eru enn að byggja upp og kallar á hægagang eftir margra ára óhefta hröðun. Á hinn bóginn stöndum við frammi fyrir þeirri tilvistarlegu ógn af núverandi grunntækni okkar sem hrynur á virkan hátt undir þunga ómeðhöndlaðra, óuppfærðra veikleika.
Hin raunverulega "bilunarlína" er ekki bara innan gervigreindarsamfélagsins; það er á milli fílabeinsturns nýsköpunar og skotgrafa rekstrarveruleikans. Það er á milli óhlutbundinna, framtíðarmiðaðra umræðna um „sjálfsstjórnun“ fyrir gervigreind og strax, áþreifanlegrar þörf fyrir raunverulegt öryggi og stöðugleika í kerfunum sem við treystum á í dag.
Sem tæknistjórar og verkfræðingar eru leiðandi, höfum við ekki efni á að vera annars hugar af heimspekilegum umræðum um hægagang gervigreindar. Þó að þessar umræður séu mikilvægar til lengri tíma litið eru þær lúxus þegar húsið þitt er virkur í eldi. "Endurmat á vegakortum vöru" ætti að byrja með því að styrkja hrunna undirstöður núverandi innviða okkar. „Áhættumatið“ þarf að forgangsraða tafarlausum, virkum nýttum ógnum sem eru að skerða rekstrarsamfellu og gagnaheilleika í dag.
Forgangsröðun atvinnugreinarinnar er skökk. Við erum að byggja hraðari og glansandi hluti á grunni sem er að rotna. Ákallið um hægagang á gervigreind gæti verið nauðsynlegt samtal, en fyrir okkur sem eru á jörðu niðri, sem fást við Ivanti og Cisco zero-days, er það eins og að deila um lit gardínanna á meðan þakið hellist inn í. Einbeittu þér að nútímanum. Framtíðin getur beðið þar til okkur blæðir ekki.
Heimildir
[1] Opið bréf til að gera hlé á risastórum gervigreindartilraunum - https://futureoflife.org/open-letter-pause-ai-development/ [2] Hlutabréf gervigreindar eru að hækka, en sumir fjárfestar eru að verða stressaðir — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Gervigreindarbyltingin í vísindum: loforð og hættur — https://www.nature.com/articles/d41586-023-03223-y [4] Ógnaleikarar sem nýta Ivanti Connect Secure og Ivanti Policy Secure Öryggi – https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Ógnaleikarar hagnýta sér varnarleysi Cisco IOS XE hugbúnaðarvefviðmóts — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a