Новото облекло за сигурност на ИИ на императора: Докато гледаме Muse, фондацията се разпада
Нека бъдем директни: технологичната индустрия има нова мания и тя се нарича „сигурност с изкуствен интелект“. От всички се очаква да се съсредоточим върху бързото инжектиране, отравянето на модела и ексфилтрирането на данни от големи езикови модели. Междувременно действителната, физическа, цифрова инфраструктура, която държи нашите предприятия заедно, активно се подпалва от безмилостен бараж от нула дни. Неотдавнашен инцидент, включващ голяма AI платформа, илюстриращ по-широките предизвикателства при осигуряването на AI инфраструктура, подчертава тази опасна дихотомия [1].
Meta, компания, известна с етиката си „движи се бързо и разбивай нещата“, е изправена пред проверка за пропуски в сигурността на нейните AI платформи. Например, програма за награди за грешки разкри значителен недостатък, излагащ потребителски виртуални машини. Това не беше едва доловимо изтичане на данни или хитро бързо заобикаляне, а фундаментална грешка на ниво инфраструктура, която разкри потребителските виртуални машини. Това не е някаква езотерична специфична за AI уязвимост; това е основна изолация на VM, проблем, който до голяма степен смятахме за опитомен преди десетилетие. Това представлява критично нарушение на поверителността и целостта на данните, което пряко засяга потребителите и потенциално корпоративните клиенти, използващи такава AI инфраструктура.
Този тип недостатък, макар и наистина въздействащ, се чувства по-малко като ново предизвикателство за „сигурност на AI“, а повече като класически инфраструктурен провал, носещ шапка с AI. Това е напомняне, че дори най-модерните AI платформи са изградени върху слоеве от конвенционални изчисления, мрежи и виртуализация. Ако тези фундаментални слоеве са надупчени с дупки, няма значение колко сложен е вашият AI модел; цялата система остава уязвима. „ИИ“ аспектът на тази история е почти разсейване, погрешно насочване, което отклонява погледа ни от гниещата дървесина под полираните подови дъски.
KEV бараж на CISA: Критичен индикатор
Докато сме заети да обсъждаме етичните последици от съзнателните чатботове и нюансите на безопасността на AI, CISA пуска безпрецедентен брой активно използвани уязвимости в своя каталог с известни експлоатирани уязвимости (KEV). Това не е теоретично упражнение. Това не е списък „поправка някой ден“. Това е спешен списък „къщата ви гори точно сега“.
През последните седмици CISA добави множество записи, довеждайки общия брой на активно експлоатираните уязвимости до зашеметяващ брой за кратък период [2]. Това не е просто „сигурността е лоша“; това е системна, ескалираща криза, засягаща много критичния корпоративен софтуер, който управлява нашия свят.
Помислете за последните допълнения към каталога на KEV:
- CVE-2023-46214: Уязвимост при отдалечено изпълнение на код на Splunk Enterprise (CVSS 9.8) с краен срок за корекция на CISA, което прави системите без корекции силно уязвими.
- CVE-2023-29357: Уязвимост при ескалиране на привилегии на Microsoft SharePoint Server, засягаща гръбнака на безброй корпоративни интранет мрежи.
- CVE-2023-42824: Уязвимост на ядрото на iOS/iPadOS на Apple, вече използвана при насочени атаки, демонстрирайки, че дори контролираните екосистеми не са непроницаеми.
- CVE-2023-30799: Грешка в отдалеченото изпълнение на кода на MikroTik RouterOS, засягаща рутерите, които свързват всичко, често оставени без корекция в най-дълбоките кътчета на мрежата.
Това внезапно добавяне на активно експлоатирани нулеви дни от основните доставчици – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – изисква незабавно, неистово внимание. Това не е общо предупреждение; това е сирена, ревяща директно към всеки ИТ екип и екип по сигурността. KEV списъкът на CISA не е просто предложение за федералните агенции; това е критично предупреждение за всички организации. Игнорирайте го на свой риск.
Илюзията за „сигурност с AI“ и цената на разсейването
Ето неудобната истина: фундаменталните недостатъци в AI платформите и баражът CISA KEV са взаимосвързани аспекти на един и същ проблем. И двамата крещят за фундаментален срив в сигурността на софтуера, но колективният поглед на нашата индустрия е опасно изместен. Толкова сме запленени от обещанието и опасността на „AI“, че оставяме основната цифрова инфраструктура да изгние.
„Сигурността на AI“ се превърна в модна дума, нова граница за консултанти и продуктови мениджъри. Но какво всъщност е? Често това е просто сигурност, приложена към AI системи. Да, изкуственият интелект въвежда нови вектори на атака и уникални предизвикателства, но значителна част от „сигурността на изкуствения интелект“ е просто стабилно инженерство, сигурни практики за кодиране и усърдни корекции – същите неща, в които се проваляме от десетилетия. Проблемът с изолацията на VM, споменат по-рано, е идеален пример: класическа уязвимост, усилена от сложността на AI платформа.
Ние изграждаме невероятно сложни AI системи върху все по-крехки и активно експлоатирани основи. Това е като щателно да проектирате самоуправляваща се кола с усъвършенствана AI навигация, докато колелата падат и двигателят пръска. Фокусът върху „сигурността на AI“ често се чувства като разсейване, отклоняващо ресурси и внимание от светската, небляскава, но абсолютно критична работа по осигуряване на съществуваща инфраструктура.
Толкова ли сме заети да преследваме следващото голямо нещо, че оставяме настоящите големи неща да изгорят? Самият обем и широтата на заплахите за KEV показват системно и неотложно предизвикателство пред основната цифрова инфраструктура, различно от предишните дискусии за нулевия ден, насочени към AI. Това не е за бъдещето на AI; става въпрос за сегашното състояние на нашето цифрово съществуване.
Какво сега, технически директори?
За водещи инженери и технически директори посланието е рязко и незабавно:
- Поставете приоритет на списъка с KEV: Изхвърлете всичко. Поправете тези уязвимости. Наредете го. Наложи го. Това не е задължително.
- Не се поддавайте на шума за „сигурността на изкуствения интелект“ за сметка на основите: Да, разбирайте уникалните рискове на изкуствения интелект, но не забравяйте, че стабилното инженерство, сигурните жизнени цикли на разработка и усърдното коригиране на корекции все още са най-добрата ви защита. Изискан AI модел няма да ви спаси, ако хакер притежава основната ви VM или вашия SharePoint сървър.
- Инвестирайте в основна сигурност: Това означава повече от просто закупуване на друг инструмент за сигурност. Това означава инвестиране в хора, процеси и култура, която цени сигурността като основна инженерна дисциплина, а не като закъснение. Програмите за награди за грешки са отлични, но те трябва да бъдат предпазна мрежа, а не основната ви стратегия за сигурност.
Инцидентът, включващ инфраструктурата на AI платформата, е сигнал за събуждане, но списъкът на CISA KEV е спешната аларма. Трябва да спрем да се възхищаваме на най-новите инициативи за сигурност на AI и да започнем да закърпваме дупките в нашата действителна защита. Бъдещето на ИИ е вълнуващо, но сегашното състояние на нашата сигурност е ужасяващо.
Източници
[1] AI сигурността е бъркотия и е на път да се влоши — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] Каталог с известни експлоатирани уязвимости — https://www.cisa.gov/known-exploited-vulnerabilities-catalog