Замедление ИИ отвлекает. Ваш дом горит.
Давайте будем откровенны: технологическая индустрия наконец-то переживает момент «прихода к Иисусу» с ИИ, но это больше похоже не на искреннее покаяние, а на стратегический поворот. Внезапно сами архитекторы этой головокружительной гонки ИИ – выдающиеся исследователи и финансисты, которые финансировали их спринты, питаемые кофеином, – призывают к замедлению [1]. Они говорят о «внутреннем управлении», «этических рамках» и «более продуманном» темпе. И рынок, всегда чувствительный барометр, уже отреагировал, выразив опасения по поводу устойчивости инвестиций в ИИ, что вызвало волатильность акций чипов [2].
Это не внешнее регулирование; это внутренняя «линия разлома», возникающая внутри самой экосистемы ИИ. И пока высшее руководство обсуждает философские последствия своих будущих творений, настоящее активно пылает.
Удобная пауза
Учитывайте время. В течение многих лет мантрой было «Двигайся быстро и ломай вещи», а в последнее время — «Действуй быстро и создавай AGI». Сегодня, когда уже внедрены мощные модели, когда конкурентная среда в значительной степени определена, а также с надвигающимся призраком реального, значимого регулирования, призывы к осторожности звучат несколько пусто. Является ли это подлинным осознанием серьезных рисков или расчетливым маневром, направленным на консолидацию власти, замедление конкурентов и управление общественным мнением до того, как выйдут вилы?
Легко проповедовать осторожность, когда вы уже монополизировали рынок вычислений, талантов и фундаментальных моделей. Внезапный акцент отрасли на «переоценке планов развития продуктов, оценке рисков и стратегическом планировании» звучит благородно, но также кажется удобным способом перераспределения ресурсов. Это потенциально может замедлить развитие альтернатив с открытым исходным кодом или более мелких игроков, которые могут бросить вызов авторитетным гигантам, контролируя доступ к важным ресурсам или влияя на нормативно-правовую базу. «Этическая основа» внезапно стала иметь первостепенное значение, не тогда, когда модели обучались на собранных данных, а теперь, когда они стали достаточно мощными, чтобы по-настоящему изменить общество.
Обеспокоенность, высказанная в академических и научных сообществах, предупреждающая, что «решения» ИИ для открытых проблем могут поставить под угрозу целостность их областей [3], являются ярким показателем глубины этой внутренней озабоченности. Но давайте не будем путать это с альтруизмом. Речь идет не о влиянии ИИ на рабочие места или инфраструктуру; речь идет о контроле – кто им владеет и в каком темпе. Дебаты ведутся не столько о том, «должны ли мы это построить?» и еще о том, «кто будет решать, как быстро мы это построим, и кто получит прибыль?»
Пока они обсуждают будущее, ваше настоящее находится под угрозой
Теперь давайте перейдем от абстрактных, перспективных проблем внутреннего раскола ИИ к непосредственному, осязаемому кризису, разворачивающемуся в наших сетях прямо сейчас. Пока титаны искусственного интеллекта размышляют о душе своих машин, ваши оперативные группы изо всех сил пытаются сдержать полномасштабную катастрофу кибербезопасности.
Мы не говорим о теоретических угрозах или общих тенденциях. Мы говорим об активно эксплуатируемых уязвимостях нулевого дня в базовом корпоративном программном обеспечении, наносящих удары по критической инфраструктуре с силой кувалды.
- Ivanti Connect Secure и Policy Secure (CVE-2023-46805 и CVE-2024-21887): Это не просто ошибка; это зияющая рана. Эти уязвимости в решениях Ivanti для VPN и доступа к сети активно использовались, позволяя злоумышленникам обходить аутентификацию и выполнять удаленные команды. CISA выпустила несколько предупреждений, подчеркнув критический риск для организаций, использующих эти системы для безопасного удаленного доступа [4]. Ваша основная защита сети, единственное, на что вы полагаетесь, чтобы остановить злоумышленников у ворот, активно используется для предоставления злоумышленникам глубокого доступа к бесчисленным корпоративным сетям.
- Веб-интерфейс Cisco IOS XE (CVE-2023-20198): Максимальная серьезность. Активно эксплуатируется. Эта уязвимость позволяет злоумышленникам, не прошедшим проверку подлинности, создавать привилегированные учетные записи и получать полный контроль над затронутыми устройствами Cisco IOS XE. Если злоумышленник владеет плоскостью управления вашей сетевой инфраструктурой, он будет владеть всей вашей сетью. Игра окончена [5].
CISA не выдает «предупреждения» ради развлечения; они кричат «пожар» в переполненном театре. Это не просто теоретические угрозы; они активно используются для компрометации основных систем защиты и управления на глобальных предприятиях.
Настоящая линия разлома
Ирония настолько глубока, что ее можно разрезать тупым ножом. С одной стороны, у нас есть элита ИИ, обсуждающая этические последствия будущего, которое они все еще строят, призывая к замедлению после многих лет бесконтрольного ускорения. С другой стороны, у нас есть непосредственная, экзистенциальная угроза того, что наша нынешняя основополагающая технология активно разрушается под тяжестью неустраненных, неисправленных уязвимостей.
Настоящая «линия разлома» находится не только внутри сообщества ИИ; это между башней инноваций из слоновой кости и траншеями оперативной реальности. Это между абстрактными, ориентированными на будущее дискуссиями о «саморегулировании» ИИ и насущной, конкретной необходимостью реальной безопасности и стабильности в системах, на которые мы полагаемся сегодня.
Как технические директора и технические специалисты, мы не можем позволить себе отвлекаться на философские дебаты о замедлении развития ИИ. Хотя эти обсуждения важны в долгосрочной перспективе, они являются роскошью, когда ваш дом активно горит. «Переоценку планов развития продуктов» следует начать с укрепления разрушающегося фундамента нашей существующей инфраструктуры. «Оценки рисков» должны определять приоритет непосредственных, активно используемых угроз, которые ставят под угрозу непрерывность работы и целостность данных сегодня.
Приоритеты отрасли искажены. Мы строим более быстрые и блестящие вещи на фундаменте, который активно гниет. Призыв к замедлению развития искусственного интеллекта может быть необходимым разговором, но для тех из нас, кто имеет дело с «нулевыми днями» Ivanti и Cisco, это похоже на обсуждение цвета штор, пока крыша обрушивается. Сосредоточьтесь на настоящем. Будущее может подождать, пока мы не перестанем активно кровоточить.
Источники
[1] Открытое письмо с призывом приостановить гигантские эксперименты с искусственным интеллектом — https://futureoflife.org/open-letter-pause-ai-development/ [2] Акции ИИ растут, но некоторые инвесторы нервничают — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Революция искусственного интеллекта в науке: обещания и опасности — https://www.nature.com/articles/d41586-023-03223-y [4] Злоумышленники, эксплуатирующие уязвимости Ivanti Connect Secure и Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Злоумышленники используют уязвимость веб-интерфейса программного обеспечения Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a