Новы штучны інтэлект імператара і гніючая аснова пад ім
Памятаеце, калі ІІ збіраўся выратаваць нас усіх? Аказваецца, зараз выратавальнікі просяць тайм-аўт. Зусім нядаўна самі архітэктары нашай будучыні, кіраванай штучным інтэлектам, — «памежныя» даследчыкі і фінансавыя цяжкавагавікі — калектыўна націснулі на тармазы, патрабуючы запаволення развіцця з-за «ўзмацнення праблем бяспекі» [1]. Рынак, які заўсёды быў тупым інструментам, адрэагаваў лёгкім кашлем: акцыі чыпаў і асноўныя гульцы AI паваліліся [2]. Пекін, як і было прадказальна, высмеяў папярэджанні, у той час як сеульскія гіганты чыпаў адмовіліся ад авансавых плацяжоў за будучыя дасягненні ІІ [2].
Гэта не проста філасофская спрэчка пра вежу са слановай косці. Гэта сейсмічны зрух, публічнае прызнанне неразважлівасці з боку эліты галіны. І, шчыра кажучы, гэта занадта зручна.
Паўза штучнага інтэлекту: альтруізм ці ўлада?
Давайце растлумачым: калі людзі, якія пабудавалі ракету, раптам разумеюць, што забыліся пра парашуты пасля запуску, гэта не момант глыбокага этычнага абуджэння. Гэта запозненая, самакарыслівая сутычка. Гэта не ідэалісты з шырока расплюшчанымі вачыма; гэта тытаны, якія націскалі педаль да канца, дамагаючыся экспанентнага росту і дамінавання на рынку. Цяпер, калі надыходзіць прывід «непрадбачаных наступстваў» — і, магчыма, што больш цынічна, усведамленне таго, што цяперашняя хуткасць няўстойлівая або што ім трэба ўмацаваць сваё лідэрства, — яны заклікаюць да калектыўнага дыхання.
Рэакцыя рынку паказальная. Падзенне акцый фішак - гэта не толькі страх; гаворка ідзе пра непасрэдныя фінансавыя наступствы патэнцыйнага запаволення. Адпор Пекіна? Ясны сігнал таго, што нацыянальная стратэгічная перавага пераўзыходзіць абстрактныя праблемы бяспекі. А сеульскія вытворцы чыпаў адмаўляюцца ад авансавых плацяжоў? Гэта гук капіталу, які ставіць пад сумнеў доўгатэрміновую стабільнасць і прыбытковасць раптоўна нявызначанай будучыні.
Для нас, тэхнічных дырэктараў і інжынерных кіраўнікоў, гэта непасрэдна ператвараецца ў хаатычны ландшафт. Чакайце, што рэгулятарныя ўмяшанні паскорацца, што прымусіць змяніць прыярытэты праектаў штучнага інтэлекту. Ідэя штучнага інтэлекту «рухацца хутка і ламаць рэчы» афіцыйна мёртвая, замененая шалёным пошукам рамак «этычнай распрацоўкі штучнага інтэлекту», якія павінны былі быць укаранёны з першага дня. Інвестыцыі стануць больш асцярожнымі, стратэгіі зменяцца, і так, рынкі працы адчуюць пахаладанне, калі залатая ліхаманка саступіць месца больш узважанаму і, спадзяюся, больш адказнаму падыходу. Але не будзем прымаць гэта за чысты альтруізм. Гэтая "паўза" датычыцца кантролю і перакаліброўкі рынку, як і сапраўднай бяспекі.
Пакуль тытаны спрачаюцца, падмурак разбураецца
Зараз, пакуль эліта штучнага інтэлекту перажывае свой экзістэнцыяльны крызіс, абмяркоўваючы этыку будучага звышінтэлекту, давайце пагаворым пра вельмі рэальны, вельмі сучасны і цалкам катастрафічны крызіс бяспекі, які разгортваецца прама цяпер.
На гэтым тыдні CISA дадала некалькі новых CVE ў свой каталог вядомых уразлівасцяў [3]. Мы гаворым пра пацверджаны каранёвы RCE у Cisco Secure Email Gateway (CVE-2023-20269) [4], праходжанне шляху CVSS 10.0 у GitLab (CVE-2023-2825) [3] і нядаўна выпраўлены Chrome zero-day (CVE-2023-4863) [3], які патрабаваў неадкладнай увагі.
Але сапраўдны ўдар, які павінен прымусіць кожнага прафесіянала бяспекі крычаць у пустэчу, - гэта пастаянная пагроза асноўных недахопаў. Разгледзім CVE-2021-1647, уразлівасць лакальнай эскалацыі прывілеяў у механізме абароны ад шкоднасных праграм Microsoft Defender [5]. Гэта не быў нейкі незразумелы недахоп; ён меў публічнае пацверджанне канцэпцыі і актыўна выкарыстоўваўся ў дзікай прыродзе, падкрэсліваючы, як важныя кампаненты нашай лічбавай абароны могуць быць скампраметаваны і заставацца ўразлівымі на працягу пэўнага перыяду.
Пакуль мы абмяркоўваем этыку разумення штучнага інтэлекту, было паказана, што само праграмнае забеспячэнне, прызначанае для абароны нашых канчатковых кропак, асноватворнага ўзроўню нашай лічбавай абароны, утрымлівае агульнавядомыя, актыўна выкарыстоўваюцца недахопы, якія дазваляюць зламысніку павышаць прывілеі. Гэта ўсё роўна, што спрачацца пра філасофскія наступствы варп-прывада, калі ў вашай машыны адмаўляюць тармазы і гарыць рухавік.
Расплата: два бакі адной медалі
Гэта не асобныя гісторыі. Гэта два бакі адной медалі з вялікімі недахопамі: тэхналагічная індустрыя, якая паслядоўна аддае прыярытэт хуткасці, навізне і ўяўным інавацыям перад фундаментальнай бяспекай, стабільнасцю і адказнасцю.
Раптоўны заклік лідэраў штучнага інтэлекту да запаволення з'яўляецца рэактыўнай, карыслівай спробай выправіць курс пасля таго, як яны ўжо выпусцілі магутныя, дрэнна зразумелыя сістэмы ў дзікую прыроду. Гэта прызнанне таго, што мантра "рухайся хутка і ламай рэчы" ў дачыненні да тэхналогій, якія патэнцыйна могуць змяніць свет, не проста безадказная, але і небяспечная.
Націск нулявога дня, асабліва крытычная ўразлівасць Defender, з'яўляецца прамым, балючым наступствам таго ж мыслення, прымененага да асноўных ІТ. Гэта вынік культуры, якая часта разглядае бяспеку як заднюю думку, сцяжок адпаведнасці або цэнтр выдаткаў, а не як неад'емны кампанент кожнага прадукту і сістэмы, які не падлягае абмеркаванню. Мы настолькі занятыя пагоняй за наступным бліскучым аб'ектам — наступным магістрам права, наступным агентам штучнага інтэлекту, — што мы дазволілі самой зямлі пад нашымі нагамі гніць.
Для тэхнічных дырэктараў і вядучых інжынераў паведамленне відавочнае і неадкладнае. Спыніце гнацца за кожнай тэндэнцыяй штучнага інтэлекту, якая перасякае вашу стужку. Падвоіць асновы. Аддавайце прыярытэт выпраўленню, асабліва крытычным, актыўна выкарыстоўваным уразлівасцям, такім як у Cisco, GitLab, і пастаяннай пагрозе, прыкладам якой з'яўляюцца мінулыя LPE Defender. Укараніць надзейныя меры змякчэння. Патрабуйце ад пастаўшчыкоў адказнасці за іх стан бяспекі, а не толькі за план функцый.
Падзенне рынку і неразгледжаныя фундаментальныя праблемы бяспекі - гэта не проста навіны. Яны - расплата. Свет тэхналогій занадта хуткі, занадта безразважны і, нарэшце, занадта адкрыты. Прыйшоў час пасталець, замацаваць нашы асновы і тады, толькі, асцярожна разгледзець наступны рубеж.
Крыніцы
[1] Інстытут будучыні жыцця — прыпыніць гіганцкія эксперыменты штучнага інтэлекту: адкрыты ліст — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — Эксперты па AI заклікаюць прыпыніць распрацоўку перадавых сістэм AI — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Каталог вядомых выкарыстаных уразлівасцей — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Рэкамендацыі па бяспецы Cisco — уразлівасці Cisco Secure Email and Web Manager, Cisco Email Security Appliance і Cisco Web Security Appliance — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647