Запаволенне AI адцягвае ўвагу. Ваш дом гарыць.
Скажам прама: тэхналагічная індустрыя, нарэшце, перажывае момант «прыходу да Ісуса» з ІІ, але гэта менш падобна на сапраўднае пакаянне, а больш падобна на стратэгічны паварот. Раптам самі архітэктары гэтай галаваломнай гонкі штучнага інтэлекту - вядомыя даследчыкі і фінансісты, якія фінансавалі іх спрынты на кафеіне - заклікаюць да запаволення [1]. Яны гавораць пра «ўнутранае кіраванне», «этычныя рамкі» і «больш прадуманы» тэмп. І рынак, заўсёды адчувальны барометр, ужо адрэагаваў, выказваючы заклапочанасць адносна ўстойлівасці інвестыцый у штучны інтэлект, выклікаючы валацільнасць акцый мікрасхем [2].
Гэта не знешняе рэгуляванне; гэта ўнутраная "лінія разлому", якая ўзнікае з самой экасістэмы штучнага інтэлекту. І пакуль кіраўнік дэбатуе пра філасофскія падтэксты сваіх будучых тварэнняў, сучаснасць актыўна гарыць.
Зручная паўза
Улічвайце тэрміны. На працягу многіх гадоў мантра была «рухайцеся хутка і ламайце рэчы», або зусім нядаўна «рухайцеся хутка і стварайце AGI». Цяпер, калі магутныя мадэлі ўжо разгорнуты, канкурэнтны ландшафт у значнай ступені вызначаны, і прывід рэальнага, значнага рэгулявання набліжаецца, заклікі да асцярожнасці гучаць крыху пуста. Гэта сапраўднае ўсведамленне сур'ёзных рызык ці разлічаны манеўр для ўмацавання ўлады, запаволення канкурэнтаў і кіравання грамадскім успрыманнем да таго, як выйдуць вілы?
Лёгка прапаведаваць асцярожнасць, калі вы ўжо загналі рынак вылічальнай тэхнікі, талентаў і базавых мадэляў. Раптоўная ўвага індустрыі да "пераацэнкі дарожных карт прадукту, ацэнкі рызыкі і стратэгічнага планавання" гучыць высакародна, але гэта таксама гучыць як зручны спосаб перагрупаваць рэсурсы. Гэта патэнцыйна можа запаволіць альтэрнатывы з адкрытым зыходным кодам або меншых гульцоў, якія могуць кінуць выклік вядомым гігантам, кантралюючы доступ да асноўных рэсурсаў або ўплываючы на нарматыўныя рамкі. «Этычныя асновы» раптам становяцца галоўнымі не тады, калі мадэлі навучаліся на скрабаваных дадзеных, а цяпер, калі яны дастаткова магутныя, каб па-сапраўднаму змяніць грамадства.
Асцярогі, якія выказваюцца ў акадэмічных і навуковых супольнасцях, папярэджваючы, што «рашэнні» адкрытых праблем штучнага інтэлекту могуць пагражаць цэласнасці іх галін [3], з'яўляюцца яскравым паказчыкам глыбіні гэтай унутранай занепакоенасці. Але не будзем прымаць гэта за альтруізм. Гаворка ідзе не пра ўплыў ІІ на працоўныя месцы або інфраструктуру; справа ў кантролі – хто ім валодае і з якой хуткасцю. Дэбаты менш пра тое, "ці варта будаваць?" і больш пра тое, "хто можа вырашаць, як хутка мы гэта пабудуем і хто атрымлівае прыбытак?"
Пакуль яны абмяркоўваюць будучыню, ваша сучаснасць знаходзіцца пад пагрозай
А цяпер давайце пяройдзем ад абстрактных праблем унутранага расколу штучнага інтэлекту, якія глядзяць у будучыню, да непасрэднага, адчувальнага крызісу, які разгортваецца ў нашых сетках прама цяпер. У той час як тытаны штучнага інтэлекту разважаюць пра душу сваіх машын, вашыя аператыўныя групы спрабуюць стрымаць поўнамаштабную катастрофу кібербяспекі.
Мы не гаворым пра тэарэтычныя пагрозы або агульныя тэндэнцыі. Мы гаворым пра актыўна выкарыстоўваныя ўразлівасці нулявога дня ў базавым карпаратыўным праграмным забеспячэнні, якія б'юць па крытычнай інфраструктуры з сілай кувалды.
- Ivanti Connect Secure і Policy Secure (CVE-2023-46805 і CVE-2024-21887): Гэта не проста памылка; гэта зияючая рана. Гэтыя ўразлівасці ў рашэннях VPN і доступу да сеткі Ivanti актыўна выкарыстоўваліся, дазваляючы зламыснікам абыходзіць аўтэнтыфікацыю і выконваць аддаленыя каманды. CISA выпусціла некалькі папярэджанняў, падкрэсліваючы крытычны рызыка для арганізацый, якія спадзяюцца на гэтыя сістэмы для бяспечнага аддаленага доступу [4]. Ваша асноўная сеткавая абарона, адзіная рэч, на якую вы разлічваеце, каб спыніць зладзеяў у варотах, актыўна выкарыстоўваецца для прадастаўлення зламыснікам глыбокага доступу да незлічоных карпаратыўных сетак.
- Cisco IOS XE Web UI (CVE-2023-20198): Максімальны ўзровень сур'ёзнасці. Актыўна эксплуатуецца. Гэтая ўразлівасць дазваляе неаўтэнтыфікаваным зламыснікам ствараць прывілеяваныя ўліковыя запісы і атрымліваць поўны кантроль над закранутымі прыладамі Cisco IOS XE. Калі зламыснік валодае плоскасцю кіравання вашай сеткавай інфраструктурай, ён валодае ўсёй вашай сеткай. Гульня скончана [5].
CISA не выдае "папярэджанні" для забавы; яны крычаць "пажар" у перапоўненым тэатры. Гэта не проста тэарэтычныя пагрозы; яны актыўна выкарыстоўваюцца для ўзлому асноўных сістэм абароны і кіравання на глабальных прадпрыемствах.
Сапраўдная лінія разлому
Іронія настолькі густая, што яе можна было разрэзаць тупым нажом. З аднаго боку, у нас ёсць эліта штучнага інтэлекту, якая абмяркоўвае этычныя наступствы будучыні, якую яны ўсё яшчэ будуюць, заклікаючы да запаволення пасля гадоў бескантрольнага паскарэння. З іншага боку, мы маем непасрэдную, экзістэнцыяльную пагрозу нашай бягучай асноватворнай тэхналогіі, якая актыўна разбураецца пад цяжарам неразгледжаных, невыпраўленых уразлівасцяў.
Сапраўдная «лінія разлому» знаходзіцца не толькі ў супольнасці штучнага інтэлекту; гэта паміж вежай са слановай косці інавацый і траншэямі аператыўнай рэальнасці. Гэта паміж абстрактнымі, засяроджанымі на будучыні дыскусіямі аб «самарэгуляванні» штучнага інтэлекту і непасрэднай, канкрэтнай патрэбай у сапраўднай бяспецы і стабільнасці ў сістэмах, на якія мы разлічваем сёння.
Мы як тэхнічныя дырэктары і інжынерныя кіраўнікі не можам дазволіць сабе адцягвацца на філасофскія дэбаты аб запаволенні ІІ. Хоць гэтыя абмеркаванні важныя ў доўгатэрміновай перспектыве, яны з'яўляюцца раскошай, калі ваш дом актыўна гарыць. «Паўторная ацэнка дарожных карт прадукту» павінна пачацца з умацавання разбураных асноў нашай існуючай інфраструктуры. «Ацэнкі рызык» павінны вызначаць прыярытэты непасрэдных, актыўна выкарыстоўваюцца пагроз, якія парушаюць бесперапыннасць працы і цэласнасць даных сёння.
Прыярытэты галіны скажоныя. Мы будуем больш хуткія і бліскучыя рэчы на падмурку, які актыўна гніе. Заклік да запаволення штучнага інтэлекту можа быць неабходнай размовай, але для тых з нас, хто мае справу з нулявымі днямі Ivanti і Cisco, здаецца, што абмяркоўваць колер фіранак, пакуль дах абвальваецца. Засяродзьцеся на сучаснасці. Будучыня можа пачакаць, пакуль мы не перастанем актыўна сыходзіць крывёй.
Крыніцы
[1] Адкрыты ліст аб прыпыненні гіганцкіх эксперыментаў штучнага інтэлекту — https://futureoflife.org/open-letter-pause-ai-development/ [2] Акцыі штучнага інтэлекту імкліва растуць, але некаторыя інвестары нервуюцца — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Рэвалюцыя штучнага інтэлекту ў навуцы: абяцанні і небяспекі — https://www.nature.com/articles/d41586-023-03223-y [4] Суб'екты пагрозы выкарыстоўваюць уразлівасці Ivanti Connect Secure і Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Суб'екты пагрозы выкарыстоўваюць уразлівасць вэб-інтэрфейсу праграмнага забеспячэння Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a