Забавянето на AI е разсейване. Къщата ви гори.
Нека бъдем откровени: технологичната индустрия най-накрая преживя своя момент на „дойде при Исус“ с ИИ, но се чувства по-малко като истинско покаяние, а повече като стратегически център. Изведнъж самите архитекти на тази главоломна надпревара с изкуствен интелект – видните изследователи и финансистите, които финансираха техните подхранвани с кофеин спринтове – призовават за забавяне [1]. Те говорят за „вътрешно управление“, „етични рамки“ и „по-съзнателно“ темпо. И пазарът, винаги чувствителният барометър, вече реагира, като опасенията относно устойчивостта на инвестициите в ИИ причиняват нестабилност в запасите от чипове [2].
Това не е външно регулиране; това е вътрешна „линия на грешка“, възникваща от самата AI екосистема. И докато C-suite обсъжда философските последици от бъдещите си творения, настоящето активно гори.
Удобната пауза
Помислете за времето. Години наред мантрата е „движи се бързо и разбивай нещата“ или по-скоро „движи се бързо и изграждай AGI“. Сега, с вече внедрени мощни модели, с до голяма степен дефинирана конкурентна среда и с призрака на реално, смислено регулиране, призивите за предпазливост звучат малко кухо. Дали това е истинско събуждане за дълбоките рискове или пресметната маневра за консолидиране на властта, забавяне на конкурентите и управление на общественото възприятие, преди вилите да излязат наяве?
Лесно е да проповядвате предпазливост, когато вече сте завладяли пазара на изчисления, таланти и основни модели. Внезапното фокусиране на индустрията върху „преоценка на продуктовите пътни карти, оценки на риска и стратегическо планиране“ звучи благородно, но също така звучи като удобен начин за пренасочване на ресурсите. Това потенциално може да забави алтернативите с отворен код или по-малките играчи, които биха могли да предизвикат установените гиганти, като контролират достъпа до основни ресурси или оказват влияние върху регулаторните рамки. „Етичната рамка“ внезапно е от първостепенно значение, не когато моделите са били обучавани върху изчерпани данни, а сега, когато са достатъчно мощни, за да прекроят обществото наистина.
Притесненията, изразени в академичните и научни общности, предупреждаващи, че AI „решенията“ на отворени проблеми могат да застрашат целостта на техните области [3], са ярък индикатор за дълбочината на тази вътрешна загриженост. Но нека не бъркаме това с алтруизъм. Тук не става въпрос за въздействието на AI върху работните места или инфраструктурата; става въпрос за контрол – кой го владее и с какво темпо. Дебатът е по-малко за това "трябва ли да го построим?" и повече за това "кой решава колко бързо да го изградим и кой печели?"
Докато те обсъждат бъдещето, вашето настояще е компрометирано
Сега, нека се насочим от абстрактните, взрени в бъдещето опасения за вътрешния разрив на ИИ към непосредствената, осезаема криза, разгръщаща се в нашите мрежи точно сега. Докато AI титаните размишляват върху душата на своите машини, вашите оперативни екипи се борят да овладеят пълна катастрофа в киберсигурността.
Не говорим за теоретични заплахи или общи тенденции. Говорим за активно експлоатирани уязвимости от нулевия ден в основния корпоративен софтуер, удрящи критична инфраструктура със силата на ковашки чук.
- Ivanti Connect Secure и Policy Secure (CVE-2023-46805 & CVE-2024-21887): Това не е просто грешка; това е зейнала рана. Тези уязвимости в решенията за VPN и мрежов достъп на Ivanti са били активно експлоатирани, позволявайки на нападателите да заобикалят удостоверяването и да изпълняват отдалечени команди. CISA издаде множество предупреждения, подчертавайки критичния риск за организациите, разчитащи на тези системи за защитен отдалечен достъп [4]. Вашата основна мрежова защита, единственото нещо, на което разчитате, за да спрете лошите на вратата, се използва активно, за да предостави на нападателите дълбок достъп до безброй корпоративни мрежи.
- Cisco IOS XE Web UI (CVE-2023-20198): Максимална сериозност. Активно експлоатиран. Тази уязвимост позволява на неавтентифицирани нападатели да създават привилегировани акаунти и да получат пълен контрол върху засегнатите Cisco IOS XE устройства. Ако нападател притежава равнината за управление на вашата мрежова инфраструктура, той притежава цялата ви мрежа. Играта приключи [5].
CISA не издава "предупреждения" за забавление; те крещят "пожар" в претъпкан театър. Това не са само теоретични заплахи; те се използват активно за компрометиране на основните защити и системи за управление в глобалните предприятия.
Истинската разломна линия
Иронията е толкова дебела, че можеш да я отрежеш с тъп нож. От една страна, имаме елита на ИИ, който обсъжда етичните последици от бъдещето, което те все още изграждат, призовавайки за забавяне след години на неконтролирано ускорение. От друга страна, имаме непосредствената, екзистенциална заплаха от нашата настояща основна технология, която активно се разпада под тежестта на нерешени, неотстранени уязвимости.
Истинската „линия на грешка“ не е само в общността на AI; това е между кулата от слонова кост на иновациите и окопите на оперативната реалност. Това е между абстрактните, фокусирани върху бъдещето дискусии за „саморегулиране“ за AI и непосредствената, конкретна нужда от действителна сигурност и стабилност в системите, на които разчитаме днес.
Като технически директори и инженерни ръководители, не можем да си позволим да бъдем разсейвани от философските дебати за забавянето на ИИ. Докато тези дискусии са важни в дългосрочен план, те са лукс, когато къщата ви гори активно. „Преоценката на продуктовите пътни карти“ трябва да започне с укрепването на разпадащите се основи на нашата съществуваща инфраструктура. „Оценките на риска“ трябва да приоритизират непосредствените, активно експлоатирани заплахи, които компрометират оперативната непрекъснатост и целостта на данните днес.
Приоритетите на индустрията са изкривени. Ние изграждаме по-бързи, по-лъскави неща върху основа, която активно гние. Призивът за забавяне на ИИ може да е необходим разговор, но за тези от нас на място, занимаващи се с Иванти и Cisco zero-day, се чувства като обсъждане на цвета на завесите, докато покривът пропада. Фокусирайте се върху настоящето. Бъдещето може да почака, докато не започнем активно да кървим.
Източници
[1] Отворено писмо за спиране на гигантски AI експерименти — https://futureoflife.org/open-letter-pause-ai-development/ [2] Акциите на ИИ растат, но някои инвеститори стават нервни — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Революцията на ИИ в науката: обещания и опасности — https://www.nature.com/articles/d41586-023-03223-y [4] Актьори на заплахи, експлоатиращи уязвимостите на Ivanti Connect Secure и Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Актьори на заплахи, експлоатиращи уязвимост на уеб интерфейса на софтуера Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a