Забавувањето на вештачката интелигенција го одвлекува вниманието. Вашата куќа е во пламен.
Да бидеме отворени: технолошката индустрија конечно го доживува моментот „дојди кај Исус“ со вештачката интелигенција, но се чувствува помалку како вистинско покајание, а повеќе како стратешка стожер. Одеднаш, самите архитекти на оваа опасна трка со вештачка интелигенција – истакнатите истражувачи и финансиери кои ги финансираа нивните спринтови хранети со кофеин – повикуваат на забавување [1]. Тие зборуваат за „внатрешно управување“, „етички рамки“ и „понамерно“ темпо. И пазарот, секогаш чувствителниот барометар, веќе реагираше, со загриженост за одржливоста на инвестициите во вештачка интелигенција што предизвикува нестабилност во акциите на чипови [2].
Ова не е надворешна регулатива; тоа е внатрешна „грешка“ која произлегува од самиот екосистем на вештачка интелигенција. И додека C-suite дебатира за филозофските импликации на нивните идни креации, сегашноста активно гори.
Практична пауза
Размислете за времето. Со години, мантрата е „движете се брзо и кршете ги работите“, или од неодамна „движете се брзо и изградете AGI“. Сега, со веќе распоредени моќни модели, со конкурентен пејзаж во голема мера дефиниран, и со сеништето на вистинската, значајна регулација се наѕира, повиците за претпазливост ѕвонат малку шупливи. Дали е ова вистинско будење за длабоките ризици или пресметан маневар за консолидирање на моќта, забавување на конкурентите и управување со јавната перцепција пред да се појават вили?
Лесно е да се проповеда претпазливост кога веќе сте го заглавиле пазарот на компјутери, таленти и основни модели. Ненадејниот фокус на индустријата на „повторна евалуација на патоказите на производите, проценките на ризикот и стратешкото планирање“ звучи благородно, но исто така звучи како пригоден начин за повторно усогласување на ресурсите. Ова потенцијално би можело да ги забави алтернативите со отворен код или помалите играчи кои би можеле да ги предизвикаат етаблираните гиганти со контролирање на пристапот до основните ресурси или со влијание врз регулаторните рамки. „Етичката рамка“ е наеднаш најважна, не кога моделите се обучуваа на избришани податоци, туку сега кога тие се доволно моќни за вистински да го преобликуваат општеството.
Загриженоста изразена во академските и научните заедници, предупредувајќи дека „решенијата“ на вештачката интелигенција за отворените проблеми може да го загрозат интегритетот на нивните области [3], се остар показател за длабочината на оваа внатрешна грижа. Но, да не го погрешиме ова со алтруизам. Не станува збор за влијанието на ВИ врз работните места или инфраструктурата; се работи за контрола – кој ја користи и со кое темпо. Дебатата е помалку за „да го изградиме? и повеќе за "кој ќе одлучи колку брзо ќе го изградиме и кој профитира?"
Додека тие дебатираат за иднината, вашата сегашност е компромитирана
Сега, ајде да се свртиме од апстрактните, размислувања за иднината за внатрешниот јаз на вештачката интелигенција кон непосредната, опиплива криза што се развива на нашите мрежи во моментов. Додека титаните на вештачката интелигенција размислуваат за душата на нивните машини, вашите оперативни тимови се обидуваат да спречат целосна катастрофа на сајбер безбедноста.
Не зборуваме за теоретски закани или општи трендови. Зборуваме за активно искористени нула-ден пропусти во основниот софтвер на претпријатијата, кои ја погодуваат критичната инфраструктура со силата на чекан.
- Ivanti Connect Secure и Policy Secure (CVE-2023-46805 & CVE-2024-21887): Ова не е само грешка; тоа е отворена рана. Овие пропусти во VPN и решенијата за пристап до мрежата на Ivanti се активно искористени, дозволувајќи им на напаѓачите да ја заобиколат автентикацијата и да извршуваат команди од далечина. CISA издаде повеќе предупредувања, нагласувајќи го критичниот ризик за организациите кои се потпираат на овие системи за безбеден далечински пристап [4]. Вашата примарна мрежна одбрана, единствената работа на која се потпирате за да ги спречите лошите момци на портата, активно се искористува за да им овозможи на напаѓачите длабок пристап до безброј мрежи на претпријатија.
- ** Cisco IOS XE Web UI (CVE-2023-20198):** Максимална сериозност. Активно експлоатирани. Оваа ранливост им овозможува на неавтентицираните напаѓачи да креираат привилегирани сметки и да добијат целосна контрола врз погодените Cisco IOS XE уреди. Ако напаѓачот го поседува авионот за управување со вашата мрежна инфраструктура, тој ја поседува целата ваша мрежа. Играта е завршена [5].
CISA не издава „предупредувања“ за забава; тие врескаат „оган“ во преполн театар. Ова не се само теоретски закани; тие активно се користат за компромитирање на основните одбранбени системи и системи за управување низ глобалните претпријатија.
Вистинската линија на грешка
Иронијата е толку густа што можете да ја исечете со тап нож. Од една страна, ја имаме елитата на вештачката интелигенција која дебатира за етичките импликации на иднината што сè уште ја градат, повикувајќи на забавување по години на неконтролирано забрзување. Од друга страна, имаме непосредна, егзистенцијална закана дека нашата тековна основна технологија активно се распаѓа под тежината на нерешени, незакрпени ранливости.
Вистинската „грешка“ не е само во заедницата на вештачката интелигенција; тоа е помеѓу кулата од слонова коска на иновациите и рововите на оперативната реалност. Тоа е помеѓу апстрактните, фокусирани на иднината дискусии за „саморегулација“ за вештачката интелигенција и непосредната, конкретна потреба за реална безбедност и стабилност во системите на кои се потпираме денес.
Како што предводат CTO и инженерството, не можеме да си дозволиме да бидеме одвлечени од филозофските дебати за забавувањето на вештачката интелигенција. Иако тие дискусии се важни долгорочно, тие се луксуз кога вашата куќа активно гори. „Повторната евалуација на патоказите на производите“ треба да започне со поткрепување на распаднатите основи на нашата постоечка инфраструктура. „Проценките на ризикот“ треба да дадат приоритет на непосредните, активно искористени закани кои го загрозуваат оперативниот континуитет и интегритетот на податоците денес.
Приоритетите на индустријата се искривени. Градиме побрзи, посјајни работи на основа што активно гние. Повикот за забавување на вештачката интелигенција може да биде неопходен разговор, но за оние од нас на терен, кои се занимаваме со нулти денови на Иванти и Cisco, се чувствуваме како да се расправаме за бојата на завесите додека покривот се спушта. Фокусирајте се на сегашноста. Иднината може да почека додека не крвавиме активно.
Извори
[1] Отворено писмо за паузирање на експерименти со џиновска вештачка интелигенција - https://futureoflife.org/open-letter-pause-ai-development/ [2] Акциите на вештачката интелигенција растат, но некои инвеститори стануваат нервозни - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Револуцијата на вештачката интелигенција во науката: ветувања и опасности - https://www.nature.com/articles/d41586-023-03223-y [4] Актерите за закана што ги искористуваат ранливостите на безбедните точки на Ivanti Connect Secure и Ivanti Policy — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Актери за закана што ја искористуваат ранливоста на веб-интерфејсот на софтверот Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a