İmperatorun yeni süni intellekt qoruyucu geyimi: Biz Muse-a baxarkən, təməl çökür
Gəlin birbaşa olaq: texnoloji sənayenin yeni vəsvəsəsi var və bu, “AI təhlükəsizliyi” adlanır. Hamımızdan tez inyeksiya, model zəhərlənməsi və böyük dil modellərindən məlumatların çıxarılmasına diqqət yetirəcəyimiz gözlənilir. Bu arada, müəssisələrimizi bir yerdə saxlayan faktiki, fiziki, rəqəmsal infrastruktur, sıfır günlərin amansız hücumu ilə fəal şəkildə yandırılır. Süni intellekt infrastrukturunun təhlükəsizliyinin təmin edilməsində daha geniş problemlərin nümunəsi olan əsas AI platforması ilə bağlı son hadisə bu təhlükəli dixotomiyanı vurğulayır [1].
"Sürətli hərəkət et və əşyaları sındırmaq" anlayışı ilə tanınan Meta şirkəti süni intellekt platformalarındakı təhlükəsizlik qüsurları ilə bağlı araşdırmalarla üzləşib. Məsələn, bir səhv mükafat proqramı istifadəçi Virtual Maşınlarını ifşa edən əhəmiyyətli bir qüsuru aşkar etdi. Bu, incə məlumat sızması və ya ağıllı sürətli yan keçid deyil, istifadəçi VM-lərini ifşa edən fundamental, infrastruktur səviyyəli xəta idi. Bu, bəzi ezoterik süni intellektə məxsus zəiflik deyil; bu, əsas VM təcrididir, on il əvvəl həll edildiyini düşündüyümüz bir problemdir. Bu, istifadəçilərə və bu cür AI infrastrukturundan istifadə edən potensial korporativ müştərilərə birbaşa təsir edərək, məxfiliyin və məlumatların bütövlüyünün kritik pozulmasını təmsil edir.
Bu növ qüsur, həqiqətən təsirli olsa da, daha az yeni "AI təhlükəsizliyi" problemi kimi hiss olunur və daha çox süni intellekt papağı taxan klassik infrastruktur nasazlığına bənzəyir. Bu, hətta ən qabaqcıl AI platformalarının adi hesablama, şəbəkə və virtuallaşdırma təbəqələri üzərində qurulduğunu xatırladır. Bu təməl təbəqələr deşiklərlə doludursa, AI modelinizin nə qədər mürəkkəb olmasının əhəmiyyəti yoxdur; bütün sistem həssas olaraq qalır. Bu hekayənin "AI" tərəfi demək olar ki, diqqəti yayındırır, nəzərlərimizi cilalanmış döşəmə lövhələrinin altındakı çürüyən ağaclardan uzaqlaşdıran yanlış istiqamətdir.
CISA-nın KEV Barajı: Kritik Göstərici
Biz həssas chatbotların etik nəticələrini və süni intellekt təhlükəsizliyinin nüanslarını müzakirə etməklə məşğul olsaq da, CISA görünməmiş sayda aktiv şəkildə istifadə edilən zəiflikləri Məlum İstifadə Edilən Zəifliklər (KEV) kataloquna buraxır. Bu nəzəri məşq deyil. Bu, "bir gün yamaq" siyahısı deyil. Bu, təcili "eviniz yanır hal-hazırda" siyahısıdır.
Son həftələrdə CISA çoxsaylı girişlər əlavə edərək, qısa müddət ərzində aktiv şəkildə istifadə edilən zəifliklərin ümumi sayını heyrətləndirici bir rəqəmə çatdırdı [2]. Bu təkcə “təhlükəsizlik pisdir” deyil; bu, dünyamızı idarə edən çox kritik korporativ proqram təminatına təsir edən sistemli, kəskinləşən böhrandır.
KEV kataloquna son əlavələri nəzərdən keçirin:
- CVE-2023-46214: CISA yamaqlarının son tarixi ilə Splunk Enterprise uzaqdan kod icrası zəifliyi (CVSS 9.8), yamaqsız sistemləri yüksək dərəcədə həssas edir.
- CVE-2023-29357: Saysız-hesabsız korporativ intranetlərin onurğa sütununa təsir edən Microsoft SharePoint Server imtiyazlarının yüksəldilməsi zəifliyi.
- CVE-2023-42824: Hətta idarə olunan ekosistemlərin keçilməz olmadığını nümayiş etdirərək, hədəflənmiş hücumlarda artıq istifadə edilmiş Apple iOS/iPadOS nüvə zəifliyi.
- CVE-2023-30799: MikroTik RouterOS-un uzaqdan kod icrası qüsuru, hər şeyi birləşdirən marşrutlaşdırıcılara təsir göstərir və çox vaxt şəbəkənin ən dərin künclərində düzəldilmir.
Böyük təchizatçılar - Microsoft, Apple, Splunk, MikroTik, Linux, JFrog arasında aktiv şəkildə istifadə edilən sıfır günlərin bu sürətli əlavəsi dərhal, çılğın diqqət tələb edir. Bu ümumi xəbərdarlıq deyil; bu, hər bir İT və təhlükəsizlik komandasında birbaşa səslənən sirendir. CISA-nın KEV siyahısı yalnız federal agentliklər üçün təklif deyil; bu bütün təşkilatlar üçün kritik xəbərdarlıqdır. Öz riskinizə məhəl qoymayın.
"AI Təhlükəsizliyi" İllüziyası və Yaygınlığın Xərcləri
Narahat həqiqət budur: AI platformalarındakı təməl qüsurlar və CISA KEV maneəsi eyni problemin bir-birinə bağlı aspektləridir. Hər ikisi proqram təminatının təhlükəsizliyində əsaslı nasazlıq haqqında qışqırır, lakin sənayemizin kollektiv baxışı təhlükəli şəkildə yanlış hizalanır. “AI” vədi və təhlükəsi bizi o qədər cəlb edir ki, əsas rəqəmsal infrastrukturun çürüməsinə imkan veririk.
"AI təhlükəsizliyi" məsləhətçilər və məhsul menecerləri üçün yeni bir sözə çevrildi. Amma həqiqətən nədir? Çox vaxt bu, süni intellekt sistemlərinə təhlükəsizlik tətbiq edilir. Bəli, süni intellekt yeni hücum vektorları və unikal çətinliklər təqdim edir, lakin “AI təhlükəsizliyi”nin əhəmiyyətli bir hissəsi sadəcə möhkəm mühəndislik, təhlükəsiz kodlaşdırma təcrübələri və səylə yamaqdır – onilliklər ərzində uğursuz olduğumuz eyni şey. Daha əvvəl qeyd olunan VM təcrid problemi mükəmməl bir nümunədir: AI platformasının mürəkkəbliyi ilə gücləndirilmiş klassik zəiflik.
Biz getdikcə daha kövrək və aktiv şəkildə istifadə edilən təməllər üzərində inanılmaz dərəcədə mürəkkəb AI sistemləri qururuq. Bu, təkərlər yıxılarkən və mühərrik sıçrayarkən qabaqcıl AI naviqasiyası ilə özünü idarə edən avtomobili diqqətlə dizayn etməyə bənzəyir. “AI təhlükəsizliyinə” diqqət çox vaxt diqqəti yayındırmaq, resursları və diqqəti mövcud infrastrukturun təhlükəsizliyini təmin etmək üçün adi, qeyri-adi, lakin tamamilə kritik işlərdən yayındırmaq kimi hiss olunur.
Növbəti böyük şeyin arxasınca o qədər məşğuluq ki, indiki böyük şeylərin yanmasına icazə veririk? KEV təhdidlərinin böyük həcmi və genişliyi əvvəlki süni intellekt mərkəzli sıfır gün müzakirələrindən fərqli olaraq əsas rəqəmsal infrastruktur üçün sistemli və təcili çağırışdan xəbər verir. Bu süni intellektin gələcəyi ilə bağlı deyil; bu, rəqəmsal varlığımızın indiki vəziyyətindən gedir.
İndi nə, texniki direktorlar?
Mühəndislik rəhbərləri və texniki direktorlar üçün mesaj kəskin və dərhaldır:
- KEV siyahısına üstünlük verin: Hər şeyi buraxın. Bu zəiflikləri düzəldin. Mandat verin. Tətbiq edin. Bu isteğe bağlı deyil.
- Əsaslar hesabına "AI təhlükəsizliyi" şırnaqlarına qapılmayın: Bəli, AI-nin unikal risklərini anlayın, lakin yadda saxlayın ki, möhkəm mühəndislik, təhlükəsiz inkişaf dövrləri və səylə yamaq hələ də ən yaxşı müdafiənizdir. Təcavüzkar əsas VM və ya SharePoint serverinizə sahibdirsə, dəbdəbəli AI modeli sizi xilas etməyəcək.
- Əsas təhlükəsizliyə sərmayə qoyun: Bu, başqa bir təhlükəsizlik aləti almaqdan daha çox şey deməkdir. Bu, insanlara, proseslərə və təhlükəsizliyə sonradan deyil, əsas mühəndislik intizamı kimi dəyər verən mədəniyyətə sərmayə qoymaq deməkdir. Bug bounty proqramları əladır, lakin onlar əsas təhlükəsizlik strategiyanız deyil, təhlükəsizlik şəbəkəsi olmalıdır.
Süni intellekt platforması infrastrukturu ilə bağlı insident oyanış çağırışıdır, lakin CISA KEV siyahısı təcili həyəcan siqnalıdır. Ən son AI təhlükəsizlik təşəbbüslərinə heyran olmağı dayandırmalı və həqiqi müdafiəmizdəki boşluqları yamaqlamağa başlamalıyıq. Süni intellektin gələcəyi həyəcanvericidir, lakin təhlükəsizliyimizin hazırkı vəziyyəti dəhşətlidir.
Mənbələr
[1] Süni intellekt təhlükəsizliyi bir qarışıqlıqdır və daha da pisləşmək üzrədir — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] İstifadə olunan Məlum Zəifliklər Kataloqu — https://www.cisa.gov/known-exploited-vulnerabilities-catalog