Новая защитная одежда императора с искусственным интеллектом: пока мы смотрим на Muse, фундамент рушится
Давайте будем откровенны: у технологической индустрии появилась новая навязчивая идея, и она называется «безопасность ИИ». Ожидается, что мы все сосредоточимся на быстром внедрении, отравлении моделей и извлечении данных из больших языковых моделей. Тем временем реальная, физическая, цифровая инфраструктура, объединяющая наши предприятия, активно поджигается беспощадным шквалом нулевых дней. Недавний инцидент с крупной платформой искусственного интеллекта, иллюстрирующий более широкие проблемы в обеспечении безопасности инфраструктуры искусственного интеллекта, подчеркивает эту опасную дихотомию [1].
Компания Meta, известная своим принципом «двигайся быстро и ломай вещи», столкнулась с критикой из-за недостатков безопасности в своих платформах искусственного интеллекта. Например, программа вознаграждения за обнаружение ошибок обнаружила существенную ошибку, подвергающую опасности виртуальные машины пользователей. Это была не тонкая утечка данных или хитрый обход подсказки, а фундаментальная ошибка на уровне инфраструктуры, которая открыла пользовательские виртуальные машины. Это не какая-то эзотерическая уязвимость, специфичная для ИИ; это базовая изоляция виртуальных машин, проблема, которую мы считали решенной десять лет назад. Это представляет собой критическое нарушение конфиденциальности и целостности данных, напрямую затрагивающее пользователей и, возможно, корпоративных клиентов, использующих такую инфраструктуру искусственного интеллекта.
Этот тип уязвимости, хотя и действительно впечатляющий, больше похож не на новую проблему «безопасности ИИ», а на классический сбой инфраструктуры в шляпе ИИ. Это напоминание о том, что даже самые передовые платформы искусственного интеллекта построены на уровнях традиционных вычислений, сетей и виртуализации. Если эти фундаментальные слои пронизаны дырами, не имеет значения, насколько сложна ваша модель ИИ; вся система остается уязвимой. Аспект «ИИ» в этой истории — это почти отвлечение, неверное направление, которое отвлекает наш взгляд от гниющих бревен под полированными половицами.
KEV Barrage от CISA: критический показатель
Пока мы заняты обсуждением этических последствий использования разумных чат-ботов и нюансов безопасности ИИ, CISA добавляет беспрецедентное количество активно эксплуатируемых уязвимостей в свой каталог известных эксплуатируемых уязвимостей (KEV). Это не теоретическое упражнение. Это не список «патчей когда-нибудь». Это срочный список «ваш дом горит прямо сейчас».
За последние недели CISA добавила множество записей, в результате чего общее количество активно эксплуатируемых уязвимостей за короткий период достигло ошеломляющего числа [2]. Это не просто «безопасность — это плохо»; Это системный, нарастающий кризис, затрагивающий очень важное корпоративное программное обеспечение, которое управляет нашим миром.
Рассмотрим последние дополнения в каталоге КЕВ:
- CVE-2023-46214: Уязвимость удаленного выполнения кода Splunk Enterprise (CVSS 9.8) со сроком исправления CISA, что делает неисправленные системы очень уязвимыми.
- CVE-2023-29357: Уязвимость Microsoft SharePoint Server, связанная с повышением привилегий, затрагивающая магистраль бесчисленных корпоративных интрасетей.
- CVE-2023-42824: Уязвимость ядра Apple iOS/iPadOS, которая уже используется в целевых атаках и демонстрирует, что даже контролируемые экосистемы не являются неуязвимыми.
- CVE-2023-30799: Ошибка удаленного выполнения кода MikroTik RouterOS, влияющая на маршрутизаторы, которые соединяют все между собой, часто остается неисправленной в самых глубоких уголках сети.
Это стремительное добавление активно используемых нулевых дней крупными поставщиками — Microsoft, Apple, Splunk, MikroTik, Linux, JFrog — требует немедленного и безумного внимания. Это не общее предупреждение; это сирена, ревящая прямо в каждую команду ИТ и безопасности. Список KEV CISA — это не просто предложение для федеральных агентств; это критическое предупреждение для всех организаций. Игнорируйте это на свой страх и риск.
Иллюзия «безопасности ИИ» и цена отвлечения внимания
Вот неприятная правда: фундаментальные недостатки платформ искусственного интеллекта и шквал CISA KEV — это взаимосвязанные аспекты одной и той же проблемы. Они оба кричат о фундаментальном провале в безопасности программного обеспечения, но коллективный взгляд нашей отрасли опасно смещен. Мы настолько очарованы перспективами и опасностями «ИИ», что позволяем базовой цифровой инфраструктуре гнить.
«Безопасность искусственного интеллекта» стала модным словом, новым рубежом для консультантов и менеджеров по продуктам. Но что это такое на самом деле? Часто это просто безопасность, применяемая к системам искусственного интеллекта. Да, ИИ создает новые векторы атак и уникальные проблемы, но значительная часть «безопасности ИИ» — это просто надежная инженерия, методы безопасного кодирования и тщательное исправление — то же самое, с чем мы терпели неудачу на протяжении десятилетий. Упомянутая ранее проблема изоляции виртуальных машин является прекрасным примером: классическая уязвимость, усугубляемая сложностью платформы искусственного интеллекта.
Мы строим невероятно сложные системы искусственного интеллекта на основе все более хрупкой и активно эксплуатируемой основы. Это похоже на тщательную разработку беспилотного автомобиля с продвинутой навигацией на базе искусственного интеллекта, в то время как колеса отваливаются, а двигатель глохнет. Сосредоточение внимания на «безопасности ИИ» часто кажется отвлекающим фактором, отвлекающим ресурсы и внимание от обыденной, непривлекательной, но абсолютно важной работы по обеспечению безопасности существующей инфраструктуры.
Неужели мы настолько заняты погоней за следующей большой вещью, что позволяем нынешним большим событиям сгореть? Огромный объем и широта угроз KEV указывают на системный и неотложный вызов базовой цифровой инфраструктуре, в отличие от предыдущих дискуссий о нулевом дне, ориентированных на искусственный интеллект. Речь идет не о будущем ИИ; речь идет о нынешнем состоянии нашего цифрового существования.
Что теперь, технические директора?
Для технических руководителей и технических директоров сообщение является четким и немедленным:
- Расставьте приоритеты в списке KEV: Отбросьте все. Исправьте эти уязвимости. Уполномочивайте это. Обеспечьте это. Это не является обязательным.
- Не поддавайтесь шумихе о «безопасности ИИ» в ущерб основам: Да, понимайте уникальные риски ИИ, но помните, что надежное проектирование, безопасные жизненные циклы разработки и тщательное внесение исправлений по-прежнему являются вашей лучшей защитой. Причудливая модель искусственного интеллекта не спасет вас, если злоумышленник владеет вашей виртуальной машиной или сервером SharePoint.
- Инвестируйте в базовую безопасность. Это означает больше, чем просто покупка еще одного инструмента безопасности. Это означает инвестирование в людей, процессы и культуру, в которой безопасность ценится как основная инженерная дисциплина, а не второстепенная мысль. Программы Bug Bounty превосходны, но они должны быть защитой, а не вашей основной стратегией безопасности.
Инцидент, связанный с инфраструктурой платформы искусственного интеллекта, является тревожным сигналом, но список CISA KEV является срочной тревогой. Нам нужно перестать восхищаться последними инициативами в области безопасности искусственного интеллекта и начать латать дыры в нашей реальной защите. Будущее искусственного интеллекта является захватывающим, но нынешнее состояние нашей безопасности устрашает.
Источники
[1] Безопасность ИИ — это беспорядок, и ситуация будет ухудшаться — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Каталог известных эксплуатируемых уязвимостей — https://www.cisa.gov/known-exploited-vulnerabilities-catalog.