The Emperor's New AI, ati Rotting Foundation Labẹ rẹ
Ranti nigbati AI yoo gba gbogbo wa là? Yipada, awọn olugbala n beere bayi fun akoko isinmi kan. Laipẹ yii, awọn ayaworan ile ti ọjọ iwaju ti AI-iwakọ — awọn oniwadi “aala” ati awọn iwuwo iwuwo inawo — kọlu awọn idaduro lapapọ, n beere idinku ninu idagbasoke nitori “awọn ifiyesi aabo ti n pọ si” [1]. Ọja naa, ohun elo ti ko lewu nigbagbogbo, dahun nipa iwúkọẹjẹ ẹdọfóró kan: awọn akojopo chirún ati awọn oṣere AI pataki ṣubu [2]. Ilu Beijing, ni asọtẹlẹ, ṣe ẹlẹgàn ni awọn ikilọ naa, lakoko ti awọn omiran chirún ti Seoul ṣagbe ni awọn sisanwo iwaju fun awọn ilọsiwaju AI iwaju [2].
Eyi kii ṣe ariyanjiyan imọ-ọrọ nikan fun ile-iṣọ ehin-erin. Eyi jẹ iyipada ile jigijigi, gbigba ni gbangba ti aibikita lati inu awọn olokiki ile-iṣẹ naa. Ati ni otitọ, o rọrun diẹ ju.
Idaduro AI: Altruism tabi Ṣiṣẹ Agbara?
Jẹ ki a ṣe alaye: nigbati awọn eniyan ti o kọ rọkẹti naa lojiji rii pe wọn gbagbe parachutes * lẹhin ifilọlẹ *, kii ṣe akoko kan ti ijidide iwa ti o jinlẹ. O jẹ ohun ijakulẹ ti o ti pẹ to, ti ara ẹni. Awọn wọnyi ni o wa ko jakejado-fojude idealists; awọn wọnyi ni awọn Titani ti o ti n titari efatelese si irin, lepa idagbasoke ti o pọju ati agbara ọja. Ni bayi, pẹlu iwoye ti “awọn abajade airotẹlẹ” ti n lọ si nla-ati boya, diẹ sii ariwisi, riri pe iyara ti isiyi ko le duro tabi pe wọn nilo lati ṣafikun itọsọna wọn — wọn n pe fun ẹmi apapọ.
Idahun ti ọja naa n sọ. A fibọ ni ërún akojopo ni ko o kan nipa iberu; o jẹ nipa awọn iwulo owo lẹsẹkẹsẹ ti idinku ti o pọju. Titari ti Ilu Beijing? Ifihan agbara ti o han gbangba pe anfani ilana ti orilẹ-ede n fa awọn ifiyesi ailewu lainidi. Ati awọn olupilẹṣẹ ti Seoul kọ awọn sisanwo iwaju? Iyẹn ni ohun ti olu bibeere iduroṣinṣin igba pipẹ ati ere ti ọjọ iwaju aidaniloju lojiji.
Fun wa, awọn CTO ati awọn itọsọna imọ-ẹrọ, eyi tumọ taara sinu ala-ilẹ rudurudu kan. Reti awọn ilowosi ilana lati mu yara, fi agbara mu tun-ṣaaju ti awọn iṣẹ akanṣe AI. “Gbe ni iyara ki o fọ awọn nkan” ethos fun AI ti ku ni ifowosi, rọpo nipasẹ wiwa itara fun awọn ilana “idagbasoke AI ti iṣe iṣe” ti o yẹ ki o ti yan lati ọjọ kan. Idoko-owo yoo di iṣọra diẹ sii, awọn ọgbọn yoo ṣe pataki, ati bẹẹni, awọn ọja iṣẹ yoo ni itunnu bi iyara goolu ti n funni ni iwọn diẹ sii, ati ni ireti, iṣeduro diẹ sii, ọna. Ṣugbọn jẹ ki a maṣe ṣina eyi fun altruism mimọ. “Idaduro” yii jẹ pupọ nipa iṣakoso ati isọdọtun ọja bi o ti jẹ nipa aabo tootọ.
Lakoko ti ariyanjiyan Titani, Foundation Crumbles
Ni bayi, lakoko ti awọn Gbajumo AI n ni aawọ ayeraye wọn, jiyàn awọn iṣe ti oye iwaju, jẹ ki a sọrọ nipa gidi gidi, lọwọlọwọ, ati aawọ aabo ajalu nla ti n ṣafihan * ni bayi *.
Ni ọsẹ yii, CISA ṣafikun ọpọlọpọ awọn CVEs tuntun si katalogi Awọn ailagbara ti a mọ ti a mọ [3]. A n sọrọ nipa root RCE ti a fọwọsi ni Sisiko Secure Imeeli Ẹnubodè (CVE-2023-20269) [4], CVSS 10.0 ipa ọna ni GitLab (CVE-2023-2825) [3], ati ki o kan laipe patched Chrome odo-ọjọ (CVE-2023-4863 ti o beere akiyesi lẹsẹkẹsẹ).
Ṣugbọn ikun gidi punch, ọkan ti o yẹ ki o jẹ ki gbogbo awọn alamọja aabo kigbe sinu ofo, jẹ irokeke itẹramọṣẹ ti awọn abawọn ipilẹ. Wo CVE-2021-1647, ailagbara imudara anfani agbegbe ni Ẹrọ Idaabobo Malware Olugbeja ti Microsoft [5]. Eleyi je ko diẹ ninu awọn ibitiopamo abawọn; o ni Ẹri-ti-Erongba ti gbogbo eniyan ati pe a lo ni itara ninu egan, ti n ṣe afihan bii awọn paati pataki ti aabo oni-nọmba wa ṣe le gbogun ati jẹ ipalara fun akoko kan.
Jẹ ki iyẹn rì sinu. Lakoko ti a n ṣe ariyanjiyan awọn ihuwasi ti itara AI, sọfitiwia pupọ ti a ṣe apẹrẹ lati daabobo awọn aaye ipari wa, ipilẹ ipilẹ ti olugbeja oni-nọmba wa, ti han lati abo ni gbangba ti a mọ, awọn abawọn ti o lo nilokulo ti o gba laaye ikọlu lati gbe awọn anfani ga. O dabi jiyàn nipa awọn itumọ ti imọ-jinlẹ ti awakọ ija nigba ti awọn idaduro ọkọ ayọkẹlẹ rẹ kuna ati pe ẹrọ naa wa ni ina.
Iṣiro naa: Apa Meji ti Owo Kanna
Iwọnyi kii ṣe awọn itan lọtọ. Wọn jẹ awọn ẹgbẹ meji ti owo ti o ni abawọn jinna kanna: ile-iṣẹ imọ-ẹrọ kan ti o ti ṣe pataki iyara nigbagbogbo, aratuntun, ati imotuntun ti oye lori aabo ipilẹ, iduroṣinṣin, ati ojuse.
Ipe lojiji ti awọn oludari AI fun idinku jẹ ifaseyin, igbiyanju ti ara ẹni lati ṣe atunṣe-lẹhin * wọn ti tu agbara tẹlẹ, awọn eto oye ti ko dara sinu egan. O jẹ gbigba wọle pe mantra “lọ ni iyara ki o fọ awọn nkan”, nigba lilo si imọ-ẹrọ iyipada-aye, kii ṣe aibikita nikan, ṣugbọn o lewu.
Ipalara ọjọ-odo, ni pataki ailagbara Olugbeja to ṣe pataki, jẹ taara, abajade irora ti ọkan kanna ti a lo si IT ipilẹ. O jẹ abajade ti aṣa ti o ṣe itọju aabo nigbagbogbo bi ironu lẹhin, apoti ifaramọ, tabi ile-iṣẹ idiyele kan, dipo ohun elo, paati ti kii ṣe idunadura ti gbogbo ọja ati eto kan. A n ṣiṣẹ lọwọ pupọ lati lepa ohun didan t’okan — LLM t’o tẹle, aṣoju AI t’o nbọ — debi pe a ti jẹ ki ilẹ ti o wa labẹ ẹsẹ wa jẹrà.
Fun awọn CTOs ati awọn itọsọna imọ-ẹrọ, ifiranṣẹ naa jẹ aapọn ati lẹsẹkẹsẹ. Duro lepa gbogbo aṣa AI ti o kọja kikọ sii rẹ. Lẹẹmeji si isalẹ lori awọn ipilẹ. Ṣe pataki patching, ni pataki fun pataki, awọn ailagbara ti o lo nilokulo bi awọn ti o wa ni Sisiko, GitLab, ati irokeke itẹramọṣẹ ti apẹẹrẹ nipasẹ Awọn LPE Olugbeja ti o kọja. Ṣe awọn idinku to lagbara. Beere jiyin lati ọdọ awọn olutaja rẹ fun iduro aabo wọn, kii ṣe ọna opopona ẹya wọn nikan.
Idarudapọ ọja naa ati awọn ọran aabo ipilẹ ti a ko koju kii ṣe awọn nkan iroyin nikan. Wọn jẹ iṣiro. Aye imọ-ẹrọ ti o yara ju, aibikita, ati nikẹhin, ti o farahan pupọ. O to akoko lati dagba, ni aabo awọn ipilẹ wa, ati lẹhinna, * lẹhinna *, ni iṣọra ronu agbegbe ti o tẹle.
Awọn orisun
[1] Ọjọ iwaju ti Ile-ẹkọ Igbesi aye - Daduro Giant AI Awọn idanwo: Lẹta Ṣii - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - Awọn amoye AI pe fun idaduro ni idagbasoke awọn eto AI to ti ni ilọsiwaju - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - Katalogi ti a mọ nilokulo - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Imọran Aabo Sisiko - Imeeli Aabo Sisiko ati Oluṣakoso wẹẹbu, Ohun elo Aabo Imeeli Sisiko, ati Awọn ipalara Ohun elo Aabo wẹẹbu Cisco - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Ile-iṣẹ Idahun Aabo Microsoft - Ailagbara Imudara Awujọ Agbegbe Microsoft - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647