Imperatora jaunais AI un pūšanas fonds zem tā
Atcerieties, kad AI gatavojās mūs visus izglābt? Izrādās, glābēji tagad lūdz taimautu. Pavisam nesen paši mūsu mākslīgā intelekta vadītās nākotnes arhitekti — "progresīvākie" pētnieki un finanšu smagsvari — kopīgi nospieda bremzes, pieprasot attīstības palēnināšanos "pieaugošo drošības problēmu" dēļ [1]. Tirgus, kas kādreiz bija neass instruments, atbildēja ar klepu: mikroshēmu krājumi un lielākie AI spēlētāji kritās [2]. Pekina, kā paredzams, ņirgājās par brīdinājumiem, savukārt Seulas mikroshēmu giganti atteicās no avansa maksājumiem par turpmākajiem mākslīgā intelekta uzlabojumiem [2].
Šīs nav tikai filozofiskas debates par ziloņkaula torni. Tā ir seismiska maiņa, publiska pārgalvības atzīšana no nozares elites. Un, godīgi sakot, tas ir pārāk ērti.
AI pauze: altruisms vai spēka spēle?
Būsim skaidri: kad cilvēki, kas uzbūvēja raķeti, pēkšņi saprot, ka ir aizmirsuši izpletņus pēc palaišanas, tas nav dziļas ētiskas pamošanās brīdis. Tas ir novēlots, pašmērķīgs motokross. Tie nav ideālisti ar platām acīm; tie ir titāni, kuri ir spieduši pedāli pie metāla, dzenoties pēc eksponenciālas izaugsmes un dominēšanas tirgū. Tagad, kad draud "neparedzētu seku" rēgs — un, iespējams, ciniskāk — apziņa, ka pašreizējais temps nav noturīgs vai ka viņiem ir jānostiprina sava vadība, viņi aicina kolektīvi elpot.
Tirgus reakcija ir pārliecinoša. Kritums mikroshēmu krājumos ir ne tikai bailes; runa ir par iespējamās lejupslīdes tūlītējām finansiālajām sekām. Pekinas atgrūšanās? Skaidrs signāls, ka valsts stratēģiskās priekšrocības pārspēj abstraktas drošības bažas. Un Seulas mikroshēmu ražotāji atsakās no avansa maksājumiem? Tā ir kapitāla skaņa, kas apšauba pēkšņi nenoteiktas nākotnes ilgtermiņa stabilitāti un rentabilitāti.
Mums, tehniskajiem vadītājiem un inženieru vadītājiem, tas nozīmē haotisku ainavu. Gaidāms, ka regulatīvā iejaukšanās paātrināsies, liekot pārkārtot AI projektu prioritātes. AI “pārvietojieties ātri un pārtrauciet lietas” ētika oficiāli ir beigusies, to aizstāj izmisīgi meklējumi pēc "ētiskas AI izstrādes" ietvariem, kuriem vajadzēja būt ieviestiem jau no pirmās dienas. Investīcijas kļūs piesardzīgākas, stratēģijas mainīsies, un jā, darba tirgi jutīs vēsumu, jo zelta drudzis pāries mērenākai un, cerams, atbildīgākai pieejai. Bet nesajauksim to ar tīru altruismu. Šī "pauze" ir saistīta ar kontroli un tirgus atkārtotu kalibrēšanu, kā arī par patiesu drošību.
Kamēr titāni debatē, fonds brūk
Tagad, kamēr mākslīgā intelekta elite piedzīvo savu eksistenciālo krīzi, apspriežot nākotnes superinteliģences ētiku, parunāsim par ļoti reālo, ļoti pašreizējo un pilnīgi katastrofālo drošības krīzi, kas izvēršas pašlaik.
Šonedēļ CISA savam zināmo izmantoto ievainojamību katalogam pievienoja vairākus jaunus CVE [3]. Mēs runājam par apstiprinātu saknes RCE pakalpojumā Cisco Secure Email Gateway (CVE-2023-20269) [4], CVSS 10.0 ceļa šķērsošanu pakalpojumā GitLab (CVE-2023-2825) [3] un nesen labotu Chrome nulles dienas (CVE-2025) [3], kam bija nepieciešama tūlītēja uzmanība [3].
Taču īstais trieciens, kas ikvienam drošības speciālistam ir jākliedz tukšumā, ir pastāvīgie pamatu trūkumu draudi. Apsveriet CVE-2021-1647 — vietējo privilēģiju eskalācijas ievainojamību Microsoft Defender ļaunprātīgās programmatūras aizsardzības programmā [5]. Tas nebija kāds neskaidrs trūkums; tai bija publisks koncepcijas pierādījums, un tas tika aktīvi izmantots savvaļā, uzsverot, kā mūsu digitālās aizsardzības kritiskās sastāvdaļas var tikt apdraudētas un kādu laiku palikt neaizsargātas.
Ļaujiet tai iegrimt. Kamēr mēs apspriežam AI uztveres ētiku, ir pierādīts, ka programmatūra, kas izstrādāta, lai aizsargātu mūsu galapunktus, kas ir mūsu digitālās aizsardzības pamatslānis, satur publiski zināmas, aktīvi izmantotas nepilnības, kas ļauj uzbrucējam paaugstināt privilēģijas. Tas ir tāpat kā strīdēties par velku piedziņas filozofiskajām sekām, kamēr jūsu automašīnas bremzes nedarbojas un dzinējs deg.
Izrēķināšanās: vienas monētas divas puses
Tie nav atsevišķi stāsti. Tās ir vienas un tās pašas dziļi kļūdainās monētas divas puses: tehnoloģiju nozare, kas konsekventi par prioritāti ir izvirzījusi ātrumu, novitāti un uztveres inovāciju, nevis pamata drošību, stabilitāti un atbildību.
AI vadītāju pēkšņais aicinājums palēnināt ir reaģējošs, pašmērķīgs mēģinājums labot kursu *pēc tam, kad viņi jau ir izlaiduši savvaļā spēcīgas, slikti saprotamas sistēmas. Tas ir atzīšana, ka mantra "pārvietojieties ātri un pārtrauciet lietas", ja to piemēro tehnoloģijām, kas potenciāli mainīs pasauli, ir ne tikai bezatbildīga, bet arī bīstama.
Nulles dienas uzbrukums, jo īpaši kritiskā Defender ievainojamība, ir tiešas, sāpīgas sekas tam pašam domāšanas veidam, kas tiek piemērots pamata IT. Tas ir kultūras rezultāts, kurā drošība bieži tiek uzskatīta par pārdomām, atbilstības izvēles rūtiņu vai izmaksu centru, nevis kā katra produkta un sistēmas neatņemamu, neapspriežamu sastāvdaļu. Mēs esam tik aizņemti, dzenoties pēc nākamā spīdīgā objekta — nākamā LLM, nākamā AI aģenta —, ka esam ļāvuši sapūt zemei zem kājām.
Tehnoloģiju vadītājiem un vadošajiem inženieriem vēstījums ir skarbs un tūlītējs. Pārtrauciet dzīties pēc katras AI tendences, kas šķērso jūsu plūsmu. Divkāršojiet pamatus. Piešķiriet prioritāti ielāpu veikšanai, jo īpaši attiecībā uz kritiskām, aktīvi izmantotām ievainojamībām, piemēram, Cisco, GitLab, un pastāvīgajiem draudiem, par ko liecina Defender iepriekšējie LPE. Ieviesiet stingrus mazināšanas pasākumus. Pieprasiet no saviem pārdevējiem atbildību par viņu drošības nostāju, nevis tikai par funkciju ceļvedi.
Tirgus satricinājumi un neatrisinātās pamata drošības problēmas nav tikai ziņas. Tie ir izrēķināšanās. Tehnoloģiju pasaule, kas ir pārāk ātra, pārāk neapdomīga un, visbeidzot, pārāk atklāta. Ir pienācis laiks izaugt, nodrošināt savus pamatus un tad, tikai tad, piesardzīgi apsvērt nākamo robežu.
Avoti
[1] Future of Life institūts — Pause Giant AI Experiments: An Open Letter — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI eksperti aicina apturēt progresīvu AI sistēmu izstrādi — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — zināmo izmantoto ievainojamību katalogs — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance un Cisco Web Security Appliance ievainojamības — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-qmaQ-8-esa-qma [5] Microsoft drošības reaģēšanas centrs — Microsoft Defender vietējo privilēģiju eskalācijas ievainojamība — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647