Царева нова вештачка интелигенција и трула фондација испод ње
Сећате се када је вештачка интелигенција требало да нас све спаси? Испоставило се да спасиоци сада траже тајм-аут. Управо недавно, сами архитекти наше будућности вођене вештачком интелигенцијом — истраживачи „граничних“ и финансијски тешкаши — заједно су притиснули кочнице, захтевајући успоравање развоја због „ескалације забринутости за безбедност“ [1]. Тржиште, увек туп инструмент, одговорило је искашљавањем плућа: акције чипова и главни играчи вештачке интелигенције су пали [2]. Пекинг се, што се могло и предвидети, подсмевао упозорењима, док су сеулски гиганти чипова противили унапред уплатама за будућа унапређења вештачке интелигенције [2].
Ово није само филозофска расправа о кули од слоноваче. Ово је сеизмичка промена, јавно признање непромишљености унутар елите индустрије. И искрено, мало је превише згодно.
Пауза АИ: алтруизам или моћна игра?
Да будемо јасни: када људи који су направили ракету изненада схвате да су заборавили падобране после лансирања, то није тренутак дубоког етичког буђења. То је закаснела, себична стрка. Ово нису идеалисти широм отворених очију; ово су титани који гурају педалу до метала, јурећи експоненцијални раст и доминацију на тржишту. Сада, са баук „непредвиђених последица“ који се назире великим – и можда, што је још цинично, спознајом да је тренутни темпо неодржив или да треба да консолидују своје вођство – они позивају на колективни дах.
Реакција тржишта говори. Пад залиха чипова није само страх; ради се о непосредним финансијским импликацијама потенцијалног успоравања. Одбијање Пекинга? Јасан сигнал да национална стратешка предност надмашује апстрактне бриге о безбедности. А произвођачи чипова у Сеулу одбијају плаћање унапред? То је звук капитала који доводи у питање дугорочну стабилност и профитабилност изненада неизвесне будућности.
За нас, техничке директоре и инжењере, ово се директно претвара у хаотичан пејзаж. Очекујте да се регулаторне интервенције убрзају, приморавајући да поново одредите приоритете пројеката вештачке интелигенције. Етос „брзо се крећи и разбијај ствари“ за вештачку интелигенцију је званично мртав, замењен бјесомучном потрагом за оквирима „етичког развоја вештачке интелигенције“ који је требало да буду испечени од првог дана. Инвестиције ће постати опрезније, стратегије ће се окретати, и да, тржишта рада ће осетити хладноћу јер златна грозница буде уступила место одмеренијем и, надамо се, одговорнијем приступу. Али немојмо ово заменити за чисти алтруизам. Ова „пауза“ се односи колико на контролу и рекалибрацију тржишта, тако и на стварну безбедност.
Док се Титани расправљају, Фондација се руши
Сада, док АИ елита има своју егзистенцијалну кризу, расправљајући о етици будуће суперинтелигенције, хајде да причамо о веома стварној, веома садашњој и крајње катастрофалној безбедносној кризи која се одвија управо сада.
Ове недеље, ЦИСА је додала више нових ЦВЕ-а у свој каталог познатих експлоатисаних рањивости [3]. Говоримо о потврђеном роот РЦЕ-у у Цисцо Сецуре Емаил Гатеваи-у (ЦВЕ-2023-20269) [4], ЦВСС 10.0 преласку путање у ГитЛаб-у (ЦВЕ-2023-2825) [3] и недавно закрпљеном Цхроме-у зеро-даи (ЦВЕ-2023-20269) који захтева пажњу медија. [3]
Али прави удар у стомак, онај који би требало да натера сваког професионалца за безбедност да вришти у празнину, јесте стална претња темељним недостацима. Размотрите ЦВЕ-2021-1647, рањивост локалне ескалације привилегија у механизму заштите од малвера Мицрософт Дефендер-а [5]. Ово није била нека опскурна мана; имао је јавни доказ концепта и био је активно експлоатисан у дивљини, наглашавајући како критичне компоненте наше дигиталне одбране могу бити угрожене и остати рањиве неко време.
Пустите то да уђе у воду. Док расправљамо о етици осећаја вештачке интелигенције, показало се да сам софтвер дизајниран да заштити наше крајње тачке, темељни слој наше дигиталне одбране, има јавно познате, активно искоришћене недостатке које омогућавају нападачу да подигне привилегије. То је као да се расправљате о филозофским импликацијама варп погона док кочнице вашег аутомобила отказују и мотор гори.
Обрачун: две стране истог новчића
Ово нису одвојене приче. То су две стране истог новчића са дубоким недостацима: технолошка индустрија која доследно даје приоритет брзини, новости и уоченим иновацијама у односу на фундаменталну безбедност, стабилност и одговорност.
Изненадни позив вођа вештачке интелигенције на успоравање је реактиван, себичан покушај да се исправи курс *након што су већ пустили моћне, слабо схваћене системе у дивљину. Признање је да мантра „брзо се крећи и разбијај ствари“, када се примени на технологију која потенцијално мења свет, није само неодговорна, већ и опасна.
Напад нултог дана, посебно критична рањивост Дефендер-а, је директна, болна последица овог истог начина размишљања примењеног на основну ИТ. То је резултат културе која безбедност често третира као накнадну мисао, поље за потврду усклађености или центар трошкова, а не као интегралну компоненту сваког појединачног производа и система о којој се не може преговарати. Толико смо заузети потером за следећим сјајним објектом — следећим ЛЛМ, следећим АИ агентом — да смо пустили да нам иструне само тло под ногама.
За техничке директоре и инжењере, порука је оштра и тренутна. Престаните да јурите сваки тренд вештачке интелигенције који прелази у ваш фид. Удвостручите основе. Дајте приоритет закрпању, посебно за критичне, активно експлоатисане рањивости попут оних у Цисцо-у, ГитЛаб-у и упорне претње коју су примери прошлих Дефендер-ових ЛПЕ-ова. Примените снажна ублажавања. Захтевајте одговорност од својих добављача за њихов безбедносни став, а не само за мапу пута.
Пад тржишта и нерешена основна безбедносна питања нису само вести. Они су обрачун. Технолошки свет који је пребрз, превише непромишљен, и коначно, превише изложен. Време је да одрастемо, обезбедимо своје темеље, а затим, тек тада, опрезно размотримо следећу границу.
Извори
[1] Институт за будућност живота — Паузирајте експерименте Гиант АИ: отворено писмо — хттпс://футуреофлифе.орг/опен-леттер/паусе-гиант-аи-екпериментс/ [2] ЦНБЦ — Стручњаци за вештачку интелигенцију позивају на паузу у развоју напредних АИ система — хттпс://ввв.цнбц.цом/2023/03/29/аи-екпертс-цалл-фор-паусе-ин-девелопмент-оф-адванцед-аи-системс.хтмл [3] ЦИСА — Каталог познатих искоришћених рањивости — хттпс://ввв.циса.гов/кновн-екплоитед-вулнерабилитиес-цаталог [4] Цисцо Сецурити Адвисори — Цисцо Сецуре Емаил и Веб Манагер, Цисцо Емаил Сецурити Апплианце и Цисцо Веб Сецурити Апплианце рањивости — хттпс://сец.цлоудаппс.цисцо.цом/сецурити/центер/цонтент/ЦисцоСецуритиАдвисори/цисцо-са-еса-сма-рце-к5К8С [5] Мицрософт центар за безбедносни одговор — Рањивост ескалације локалних привилегија Мицрософт Дефендер — хттпс://мсрц.мицрософт.цом/упдате-гуиде/вулнерабилити/ЦВЕ-2021-1647