Уповільнення ШІ відволікає. Ваш дім горить.
Давайте будемо відвертими: технологічна індустрія нарешті переживає момент «приходу до Ісуса» з ШІ, але це виглядає не так як щире покаяння, а більше як стратегічний поворот. Раптом самі архітектори цієї карколомної гонки штучного інтелекту – відомі дослідники та фінансисти, які фінансували їхні спринти, що підживлюються кофеїном – закликають до уповільнення [1]. Вони говорять про «внутрішнє управління», «етичні рамки» та «більш обдуманий» темп. І ринок, який завжди був чутливим барометром, уже відреагував, висловивши занепокоєння щодо сталості інвестицій у штучний інтелект, що спричинило нестабільність акцій мікросхем [2].
Це не зовнішнє регулювання; це внутрішня «лінія розлому», яка виникає всередині самої екосистеми ШІ. І поки керівництво обговорює філософські наслідки своїх майбутніх творінь, сьогодення активно горить.
Зручна пауза
Враховуйте час. Протягом багатьох років мантрою було «рухайся швидко і ламай речі», або нещодавно «рухайся швидко і створюй AGI». Зараз, коли потужні моделі вже розгорнуті, конкурентний ландшафт значною мірою визначений, і коли насувається привид фактичного, значущого регулювання, заклики до обережності звучать трохи пусто. Чи це справжнє усвідомлення глибоких ризиків чи продуманий маневр для консолідації влади, уповільнення конкурентів і управління громадським сприйняттям до того, як вила вийдуть?
Легко проповідувати обережність, коли ви вже загнали ринок обчислень, талантів і базових моделей. Раптова зосередженість галузі на «переоцінці планів продукту, оцінки ризиків і стратегічного планування» звучить благородно, але це також звучить як зручний спосіб переорієнтувати ресурси. Це потенційно може уповільнити альтернативи з відкритим вихідним кодом або менших гравців, які можуть кинути виклик усталеним гігантам, контролюючи доступ до основних ресурсів або впливаючи на нормативні рамки. «Етичні рамки» раптом стали першочерговими, не тоді, коли моделі тренувалися на зібраних даних, а зараз, коли вони достатньо потужні, щоб справді змінити суспільство.
Занепокоєння, висловлене в академічних і наукових спільнотах, яке попереджає про те, що «рішення» відкритих проблем ШІ може загрожувати цілісності їхніх галузей [3], є яскравим показником глибини цього внутрішнього занепокоєння. Але давайте не плутати це з альтруїзмом. Мова йде не про вплив ШІ на робочі місця чи інфраструктуру; мова йде про контроль – хто ним володіє та з якою швидкістю. Дебати менше про те, чи варто нам це будувати? і більше про те, "хто вирішує, як швидко ми це створимо, і хто отримує прибуток?"
Поки вони обговорюють майбутнє, ваше сьогодення під загрозою
Тепер давайте перейдемо від абстрактних проблем внутрішнього розколу ШІ, спрямованих у майбутнє, до негайної, відчутної кризи, яка розгортається в наших мережах прямо зараз. Поки титани штучного інтелекту розмірковують про душу своїх машин, ваші оперативні команди намагаються стримати повномасштабну катастрофу кібербезпеки.
Ми не говоримо про теоретичні загрози чи загальні тенденції. Ми говоримо про активно використовувані вразливості нульового дня в базовому корпоративному програмному забезпеченні, що вражає критичну інфраструктуру з силою кувалди.
- Ivanti Connect Secure і Policy Secure (CVE-2023-46805 & CVE-2024-21887): Це не просто помилка; це відкрита рана. Ці уразливості в рішеннях VPN і доступу до мережі Ivanti активно використовувалися, дозволяючи зловмисникам обходити автентифікацію та виконувати віддалені команди. CISA випустило кілька попереджень, підкреслюючи критичний ризик для організацій, які покладаються на ці системи для безпечного віддаленого доступу [4]. Ваш основний захист мережі, єдина річ, на яку ви покладаєтеся, щоб зупинити зловмисників біля воріт, активно використовується для надання зловмисникам глибокого доступу до незліченних мереж підприємства.
- Cisco IOS XE Web UI (CVE-2023-20198): Максимальний рівень серйозності. Активно експлуатується. Ця вразливість дозволяє неавтентифікованим зловмисникам створювати привілейовані облікові записи та отримувати повний контроль над ураженими пристроями Cisco IOS XE. Якщо зловмисник володіє площиною керування вашою мережевою інфраструктурою, він володіє всією вашою мережею. Гра закінчена [5].
CISA не видає "попередження" для розваги; вони кричать «пожежа» в переповненому театрі. Це не просто теоретичні загрози; вони активно використовуються для компрометації основних систем захисту та управління на глобальних підприємствах.
Справжня лінія розлому
Іронія настільки густа, що її можна було б розрізати тупим ножем. З одного боку, у нас є еліта штучного інтелекту, яка обговорює етичні наслідки майбутнього, яке вони все ще будують, закликаючи до уповільнення після років неконтрольованого прискорення. З іншого боку, ми маємо безпосередню екзистенціальну загрозу нашої поточної базової технології, яка активно руйнується під вагою невирішених, невиправлених уразливостей.
Справжня «лінія розлому» не лише всередині спільноти ШІ; це між вежею зі слонової кістки інновацій і окопами операційної реальності. Це між абстрактними, орієнтованими на майбутнє дискусіями про «саморегуляцію» для ШІ та негайною, конкретною потребою у фактичній безпеці та стабільності в системах, на які ми покладаємось сьогодні.
Як технічні директори та інженерні керівники, ми не можемо дозволити собі відволікатися на філософські дебати про уповільнення ШІ. Хоча ці обговорення важливі в довгостроковій перспективі, вони є розкішшю, коли ваш будинок активно горить. «Переоцінка дорожньої карти продукту» повинна початися зі зміцнення нищих основ нашої існуючої інфраструктури. «Оцінки ризиків» повинні визначити пріоритетність безпосередніх, активно використовуваних загроз, які сьогодні порушують безперервність роботи та цілісність даних.
Пріоритети галузі спотворені. Ми будуємо швидше, блискучі речі на фундаменті, який активно гниє. Заклик до уповільнення штучного інтелекту може бути необхідною розмовою, але для тих із нас, хто має справу з Ivanti та Cisco нуль-днів, це відчуває себе як дискутувати про колір штор, поки дах провалюється. Зосередьтеся на сьогоденні. Майбутнє може зачекати, поки ми не перестанемо активно кровоточити.
Джерела
[1] Відкритий лист про призупинення гігантських експериментів ШІ — https://futureoflife.org/open-letter-pause-ai-development/ [2] Акції ШІ стрімко зростають, але деякі інвестори нервують — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Революція ШІ в науці: обіцянки та небезпеки — https://www.nature.com/articles/d41586-023-03223-y [4] Зловмисники, які використовують уразливості Ivanti Connect Secure і Ivanti Policy Secure — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Зловмисники, які використовують вразливість веб-інтерфейсу програмного забезпечення Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a