Новий AI-захисний одяг Імператора: поки ми дивимося на Muse, фундамент руйнується
Давайте будемо прямими: у індустрії технологій є нова одержимість, і вона називається «безпека ШІ». Очікується, що ми всі зосереджуватимемося на швидкому введенні, отруєнні моделі та викраденні даних із великих мовних моделей. Тим часом фактична, фізична, цифрова інфраструктура, що утримує наші підприємства разом, активно підпалюється невпинним шквалом нульових днів. Нещодавній інцидент із великою платформою штучного інтелекту, який є ілюстрацією ширших проблем у забезпеченні безпеки інфраструктури штучного інтелекту, підкреслює цю небезпечну дихотомію [1].
Meta, компанія, відома своїм духом «рухайся швидко і ламай речі», зіткнулася з перевіркою через недоліки безпеки в своїх платформах ШІ. Наприклад, програма винагороди за помилки виявила суттєву ваду, яка викривала віртуальні машини користувача. Це був не витончений витік даних чи хитрий обхід підказки, а фундаментальна помилка на рівні інфраструктури, яка виявила користувацькі віртуальні машини. Це не якась езотерична специфічна вразливість ШІ; це базова ізоляція віртуальної машини, проблема, яку ми здебільшого вважали приборканою десять років тому. Це є критичним порушенням конфіденційності та цілісності даних, що безпосередньо впливає на користувачів і потенційно корпоративних клієнтів, які використовують таку інфраструктуру ШІ.
Цей тип недоліку, хоч і справді вражаючий, виглядає не так як нова проблема безпеки ШІ, а більше як класичний збій інфраструктури в капелюсі ШІ. Це нагадування, що навіть найдосконаліші платформи ШІ побудовані на рівнях звичайних обчислень, мереж і віртуалізації. Якщо ці фундаментальні шари пронизані дірками, не має значення, наскільки складною є ваша модель ШІ; вся система залишається вразливою. Аспект «ШІ» цієї історії — це майже відволікання, неправильне спрямування, яке відволікає наш погляд від гнилої деревини під полірованими дошками підлоги.
Загородження KEV CISA: критичний показник
Поки ми зайняті обговоренням етичних наслідків розумних чат-ботів і нюансів безпеки штучного інтелекту, CISA скидає безпрецедентну кількість активно використовуваних уразливостей у свій каталог Known Exploited Vulnerabilities (KEV). Це не теоретична вправа. Це не список «колись виправити». Це терміновий список «ваш будинок горить зараз».
Останніми тижнями CISA додала численні записи, завдяки чому загальна кількість активно використовуваних уразливостей за короткий період досягла приголомшливої кількості [2]. Це не просто «безпека погана»; це системна ескалація кризи, що впливає на дуже важливе корпоративне програмне забезпечення, яке керує нашим світом.
Розглянемо останні доповнення до каталогу KEV:
- CVE-2023-46214: Уразливість віддаленого виконання коду Splunk Enterprise (CVSS 9.8) із кінцевим терміном виправлення CISA, що робить системи без виправлень дуже вразливими.
- CVE-2023-29357: Уразливість підвищення привілеїв Microsoft SharePoint Server, що впливає на магістраль незліченних корпоративних інтрамереж.
- CVE-2023-42824: Уразливість ядра Apple iOS/iPadOS, яка вже використовується в цілеспрямованих атаках, демонструючи, що навіть контрольовані екосистеми не є непроникними.
- CVE-2023-30799: Помилка віддаленого виконання коду MikroTik RouterOS, що впливає на маршрутизатори, які з’єднують все, часто залишаються невиправленими в найглибших куточках мережі.
Це стрімке доповнення активно використовуваних нульових днів серед основних постачальників – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – вимагає негайної, шаленої уваги. Це не загальне попередження; це сирена, яка реве прямо в кожну групу ІТ і безпеки. Список KEV від CISA – це не просто пропозиція для федеральних агентств; це важливе попередження для всіх організацій. Ігноруйте це на свій страх і ризик.
Ілюзія "безпеки ШІ" та ціна відволікання
Ось незручна правда: фундаментальні недоліки платформ ШІ та загородження CISA KEV є взаємопов’язаними аспектами однієї проблеми. Вони обидва кричать про фундаментальний збій у безпеці програмного забезпечення, але колективний погляд нашої галузі небезпечно зміщений. Ми настільки захоплені перспективами та небезпекою «ШІ», що дозволяємо базовій цифровій інфраструктурі згнити.
«Безпека ШІ» стала модним словом, новим рубежем для консультантів і менеджерів із продуктів. Але що це насправді? Часто це просто безпека, що застосовується до систем ШІ. Так, штучний інтелект представляє нові вектори атак і унікальні виклики, але значна частина «безпеки штучного інтелекту» — це просто надійна розробка, безпечні методи кодування та ретельне встановлення виправлень — те саме, що нам не вдавалося десятиліттями. Проблема ізоляції віртуальної машини, згадана раніше, є чудовим прикладом: класична вразливість, посилена складністю платформи ШІ.
Ми створюємо неймовірно складні системи штучного інтелекту на основі дедалі крихкіших і активно експлуатованих основ. Це схоже на ретельне проектування безпілотного автомобіля з вдосконаленою навігацією ШІ, у той час як колеса відвалюються, а двигун хрипить. Зосередженість на «безпеці штучного інтелекту» часто виглядає як відволікання, відволікання ресурсів і уваги від буденної, негламурної, але абсолютно важливої роботи із забезпечення безпеки існуючої інфраструктури.
Невже ми настільки зайняті гонитвою за наступною великою справою, що дозволяємо нинішнім великим справам згоріти? Величезний обсяг і широта загроз KEV вказують на системний і терміновий виклик базовій цифровій інфраструктурі, що відрізняється від попередніх дискусій нульового дня, орієнтованих на ШІ. Це не про майбутнє ШІ; це про поточний стан нашого цифрового існування.
Що тепер, технічні директори?
Для провідних інженерів і технічних директорів повідомлення є різким і миттєвим:
- Визначте пріоритет списку KEV: Викиньте все. Виправте ці вразливості. Доручіть це. Виконуйте його. Це необов'язково.
- Не підхоплюйтеся ажіотажем про «безпеку штучного інтелекту» за рахунок основ: Так, розумійте унікальні ризики штучного інтелекту, але пам’ятайте, що надійна інженерна робота, безпечні життєві цикли розробки та ретельне внесення виправлень все ще є вашим найкращим захистом. Вигадлива модель штучного інтелекту не врятує вас, якщо зловмисник володіє вашою віртуальною машиною або сервером SharePoint.
- Інвестуйте в базову безпеку: Це означає більше, ніж просто придбати інший інструмент безпеки. Це означає інвестувати в людей, процеси та культуру, яка цінує безпеку як основну інженерну дисципліну, а не запізнілу думку. Програми винагороди за помилки чудові, але вони мають бути запобіжною сіткою, а не основною стратегією безпеки.
Інцидент із залученням інфраструктури платформи штучного інтелекту є тривожним дзвіночком, але список CISA KEV є терміновим сигналом тривоги. Нам потрібно перестати захоплюватися останніми ініціативами безпеки штучного інтелекту та почати латати діри в нашому фактичному захисті. Майбутнє ШІ захоплююче, але нинішній стан нашої безпеки жахливий.
Джерела
[1] Безпека штучного інтелекту – це безлад, і ось-ось стане ще гірше — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Каталог відомих використаних вразливостей — https://www.cisa.gov/known-exploited-vulnerabilities-catalog