Успоравање вештачке интелигенције одвлачи пажњу. Ваша кућа је у пламену.
Будимо отворени: технолошка индустрија коначно има свој тренутак „дођи до Исуса“ са вештачком интелигенцијом, али мање личи на истинско покајање, а више као на стратешки заокрет. Одједном, сами архитекти ове вртоглаве трке вештачке интелигенције – истакнути истраживачи и финансијери који су финансирали њихове спринтове на бази кофеина – позивају на успоравање [1]. Они говоре о „унутрашњем управљању“, „етичким оквирима“ и „смишљенијем“ темпу. А тржиште, увек осетљиви барометар, већ је реаговало, забринуто због одрживости улагања у вештачку интелигенцију, што је изазвало волатилност залиха чипова [2].
Ово није спољна регулатива; то је унутрашња „линија грешке“ која излази из самог АИ екосистема. И док Ц-суита расправља о филозофским импликацијама њихових будућих креација, садашњост активно гори.
Погодна пауза
Узмите у обзир тајминг. Годинама је мантра била „крећи се брзо и разбијај ствари“, или у скорије време, „крећи се брзо и гради АГИ“. Сада, са снажним моделима који су већ коришћени, са конкурентским пејзажом у великој мери дефинисаним, и са баук стварне, смислене регулације која се назире, позиви на опрез звуче помало шупљи. Да ли је ово истинско буђење за дубоке ризике, или прорачунати маневар за консолидацију моћи, успоравање конкурената и управљање перцепцијом јавности пре него што виле изађу?
Лако је проповедати опрез када сте већ савладали тржиште на рачунима, талентима и основним моделима. Изненадни фокус индустрије на „поновну евалуацију мапа пута производа, процене ризика и стратешког планирања“ звучи племенито, али такође звучи као згодан начин за поновно усклађивање ресурса. Ово би потенцијално могло успорити алтернативе отвореног кода или мање играче који би могли да изазову успостављене гиганте контролисањем приступа основним ресурсима или утицајем на регулаторне оквире. „Етички оквир“ је одједном најважнији, не када су модели обучавани на бази података, већ сада када су довољно моћни да истински преобликују друштво.
Забринутост изражена у академским и научним заједницама, упозоравајући да би „решења“ вештачке интелигенције за отворене проблеме могла угрозити интегритет њихових области [3], су оштар показатељ дубине ове унутрашње забринутости. Али немојмо ово заменити за алтруизам. Овде се не ради о утицају вештачке интелигенције на радна места или инфраструктуру; ради се о контроли – ко је користи и којим темпом. Дебата је мање о томе "да ли треба да га изградимо?" и више о томе "ко одлучује колико брзо ћемо га изградити и ко профитира?"
Док расправљају о будућности, ваша садашњост је угрожена
Сада, хајде да се окренемо са апстрактних забринутости за будућност унутрашњег расцепа вештачке интелигенције на непосредну, опипљиву кризу која се одвија на нашим мрежама управо сада. Док АИ титани размишљају о души својих машина, ваши оперативни тимови се боре да обуздају потпуну катастрофу сајбер безбедности.
Не говоримо о теоријским претњама или општим трендовима. Говоримо о активно искоришћеним рањивостима нултог дана у основном пословном софтверу, ударајући критичну инфраструктуру снагом чекића.
- Иванти Цоннецт безбедан и безбедан по правилима (ЦВЕ-2023-46805 & ЦВЕ-2024-21887): Ово није само грешка; то је зјапећа рана. Ове рањивости у Иванти-јевим ВПН решењима и решењима за приступ мрежи су активно искоришћени, омогућавајући нападачима да заобиђу аутентификацију и изврше даљинске команде. ЦИСА је издала више упозорења, наглашавајући критични ризик за организације које се ослањају на ове системе за сигуран даљински приступ [4]. Ваша примарна мрежна одбрана, једина ствар на коју се ослањате да зауставите лоше момке на капији, активно се искориштава да би се нападачима омогућио дубок приступ безбројним мрежама предузећа.
- Цисцо ИОС КСЕ Веб УИ (ЦВЕ-2023-20198): Максимална озбиљност. Активно експлоатисано. Ова рањивост омогућава нападачима без аутентификације да креирају привилеговане налоге и стекну потпуну контролу над погођеним Цисцо ИОС КСЕ уређајима. Ако нападач поседује ниво управљања вашом мрежном инфраструктуром, он поседује целу вашу мрежу. Игра завршена [5].
ЦИСА не издаје „упозорења“ из забаве; вриште „ватра” у препуном позоришту. Ово нису само теоријске претње; они се активно користе за компромитовање основних система одбране и управљања широм глобалних предузећа.
Права линија грешке
Иронија је толико дебела да бисте је могли исећи тупим ножем. С једне стране, имамо АИ елиту која расправља о етичким импликацијама будућности коју још граде, позивајући на успоравање након година неконтролисаног убрзања. С друге стране, имамо непосредну, егзистенцијалну претњу наше тренутне основне технологије која се активно распада под теретом нерешених, незакрпљених рањивости.
Права „линија грешке“ није само унутар заједнице АИ; то је између куле од слоноваче иновације и ровова оперативне стварности. То је између апстрактних, фокусираних на будућност дискусија о „саморегулацији“ за АИ и непосредне, конкретне потребе за стварном сигурношћу и стабилношћу у системима на које се данас ослањамо.
Као технички директори и инжењери, не можемо да дозволимо да нас ометају филозофске расправе о успоравању АИ. Иако су ти разговори важни на дужи рок, они су луксуз када ваша кућа активно гори. „Поновна евалуација мапа пута производа“ би требало да почне са учвршћивањем урушених темеља наше постојеће инфраструктуре. „Процене ризика“ треба да дају приоритет непосредним, активно искоришћеним претњама које угрожавају оперативни континуитет и интегритет података данас.
Приоритети индустрије су искривљени. Градимо брже, сјајније ствари на темељу који активно трули. Позив на успоравање вештачке интелигенције може бити неопходан разговор, али за оне од нас на терену, који се бавимо Ивантијем и Цисцо нултим данима, то је као да расправљамо о боји завеса док се кров урушава. Фокусирајте се на садашњост. Будућност може сачекати док не будемо активно крварили.
Извори
[1] Отворено писмо за паузирање огромних АИ експеримената — хттпс://футуреофлифе.орг/опен-леттер-паусе-аи-девелопмент/ [2] Акције вештачке интелигенције расту, али неки инвеститори постају нервозни — хттпс://едитион.цнн.цом/2024/03/07/инвестинг/аи-стоцкс-нвидиа-буббле/индек.хтмл [3] Револуција вештачке интелигенције у науци: обећања и опасности — хттпс://ввв.натуре.цом/артицлес/д41586-023-03223-и [4] Актери претњи који искориштавају рањивости Иванти Цоннецт Сецуре и Иванти Полици Сецуре — хттпс://ввв.циса.гов/невс-евентс/циберсецурити-адвисориес/аа24-014а [5] Актери претњи искоришћавају рањивост веб корисничког интерфејса софтвера Цисцо ИОС КСЕ — хттпс://ввв.циса.гов/невс-евентс/циберсецурити-адвисориес/аа23-287а