لباس های امنیتی جدید هوش مصنوعی امپراطور: در حالی که ما به میوز نگاه می کنیم، بنیاد فرو می ریزد

لباس های امنیتی جدید هوش مصنوعی امپراطور: در حالی که ما به میوز نگاه می کنیم، بنیاد فرو می ریزد

بیایید مستقیم صحبت کنیم: صنعت فناوری وسواس جدیدی دارد و به آن "امنیت هوش مصنوعی" می گویند. انتظار می رود همه ما بر تزریق سریع، مسمومیت مدل و استخراج داده ها از مدل های زبان بزرگ تمرکز کنیم. در همین حال، زیرساخت واقعی، فیزیکی و دیجیتالی که شرکت‌های ما را در کنار هم نگه می‌دارد، به‌طور فعال توسط رگبار بی‌امان صفر روز به آتش کشیده می‌شود. یک حادثه اخیر که شامل یک پلت فرم اصلی هوش مصنوعی است، که نشان دهنده چالش های گسترده تر در تامین امنیت زیرساخت های هوش مصنوعی است، این دوگانگی خطرناک را برجسته می کند [1].

متا، شرکتی که به خاطر اخلاق «سریع حرکت کنید و چیزها را بشکنید» شناخته شده است، با بررسی دقیق نقص‌های امنیتی در پلتفرم‌های هوش مصنوعی خود مواجه شده است. به عنوان مثال، یک برنامه پاداش باگ نقص مهمی را کشف کرد که ماشین‌های مجازی کاربر را آشکار می‌کرد. این یک نشت داده ظریف یا یک دور زدن سریع هوشمندانه نبود، بلکه یک خطای اساسی در سطح زیرساخت بود که کاربر VM را در معرض دید قرار داد. این یک آسیب‌پذیری باطنی خاص هوش مصنوعی نیست. این یک جداسازی اولیه VM است، مشکلی که ما تا حد زیادی فکر می‌کردیم یک دهه پیش رام شده است. این نشان‌دهنده نقض حیاتی حریم خصوصی و یکپارچگی داده‌ها است که مستقیماً بر کاربران و مشتریان بالقوه سازمانی تأثیر می‌گذارد که از چنین زیرساخت‌های هوش مصنوعی استفاده می‌کنند.

این نوع نقص، در حالی که واقعاً تأثیرگذار است، کمتر شبیه یک چالش جدید «امنیت هوش مصنوعی» است و بیشتر شبیه یک خرابی زیرساخت کلاسیک با استفاده از کلاه هوش مصنوعی است. این یک یادآوری است که حتی پیشرفته‌ترین پلتفرم‌های هوش مصنوعی نیز بر روی لایه‌هایی از محاسبات، شبکه و مجازی‌سازی مرسوم ساخته شده‌اند. اگر آن لایه‌های پایه پر از سوراخ هستند، مهم نیست که مدل هوش مصنوعی شما چقدر پیچیده باشد. کل سیستم آسیب پذیر باقی می ماند. جنبه "هوش مصنوعی" این داستان تقریباً یک حواس پرتی است، یک جهت گیری نادرست که نگاه ما را از چوب های پوسیده زیر تخته های کف صیقلی دور می کند.

رگبار KEV CISA: یک شاخص حیاتی

در حالی که ما مشغول بحث در مورد پیامدهای اخلاقی چت ربات‌های حساس و تفاوت‌های ظریف ایمنی هوش مصنوعی هستیم، CISA تعداد بی‌سابقه‌ای از آسیب‌پذیری‌های فعالانه مورد بهره‌برداری را در فهرست آسیب‌پذیری‌های شناخته شده (KEV) خود حذف می‌کند. این یک تمرین تئوری نیست. این یک لیست "پچ روزی" نیست. این یک لیست فوری "خانه شما در آتش است در حال حاضر" است.

در هفته‌های اخیر، CISA ورودی‌های متعددی را اضافه کرده است که مجموع آسیب‌پذیری‌هایی که به طور فعال مورد بهره‌برداری قرار گرفته‌اند را در مدت کوتاهی به تعداد خیره‌کننده‌ای رسانده است [2]. این فقط "امنیت بد است" نیست. این یک بحران سیستماتیک و رو به افزایش است که بر نرم افزار سازمانی بسیار حیاتی که جهان ما را اداره می کند، تأثیر می گذارد.

افزوده های اخیر به کاتالوگ KEV را در نظر بگیرید:

• CVE-2023-46214: یک آسیب پذیری اجرای کد از راه دور Splunk Enterprise (CVSS 9.8) با مهلت وصله CISA، که سیستم های وصله نشده را بسیار آسیب پذیر می کند.
• CVE-2023-29357: یک آسیب پذیری افزایش امتیاز سرور Microsoft SharePoint که بر ستون فقرات اینترانت های شرکتی بی شماری تأثیر می گذارد.
• CVE-2023-42824: یک آسیب پذیری هسته Apple iOS/iPadOS که قبلاً در حملات هدفمند مورد سوء استفاده قرار گرفته است و نشان می دهد که حتی اکوسیستم های کنترل شده نیز غیرقابل نفوذ نیستند.
• CVE-2023-30799: یک نقص اجرای کد از راه دور MikroTik RouterOS، روی روترهایی که همه چیز را به هم متصل می کنند، تأثیر می گذارد و اغلب در عمیق ترین گوشه های شبکه بدون اصلاح باقی می ماند.

این افزودن سریع روز صفر که به طور فعال مورد بهره برداری قرار گرفته اند در میان فروشندگان اصلی - Microsoft، Apple، Splunk، MikroTik، Linux، JFrog - توجه فوری و دیوانه وار را می طلبد. این یک هشدار کلی نیست. این یک آژیر است که مستقیماً در هر تیم فناوری اطلاعات و امنیت به صدا در می آید. لیست KEV CISA فقط یک پیشنهاد برای آژانس های فدرال نیست. این یک هشدار حیاتی برای همه سازمان ها است. به خطر شما آن را نادیده بگیرید.

توهم "امنیت هوش مصنوعی" و هزینه حواس پرتی

حقیقت ناراحت کننده اینجاست: نقص های اساسی در پلتفرم های هوش مصنوعی و رگبار CISA KEV جنبه های به هم پیوسته همین مشکل هستند. آنها هر دو در مورد یک شکست اساسی در امنیت نرم افزار فریاد می زنند، اما نگاه جمعی صنعت ما به طور خطرناکی نادرست است. ما آنقدر مجذوب وعده و خطر "هوش مصنوعی" هستیم که اجازه می دهیم زیرساخت های دیجیتال پایه پوسیده شود.

"امنیت هوش مصنوعی" به یک کلمه کلیدی، مرز جدیدی برای مشاوران و مدیران محصول تبدیل شده است. اما واقعاً چیست؟ اغلب، فقط امنیتی برای سیستم های هوش مصنوعی اعمال می شود. بله، هوش مصنوعی بردارهای حمله جدید و چالش‌های منحصربه‌فردی را معرفی می‌کند، اما بخش قابل‌توجهی از «امنیت هوش مصنوعی» صرفاً مهندسی قوی، شیوه‌های کدنویسی امن و وصله‌های سخت‌کوش است – همان چیزهایی که برای دهه‌ها در آن شکست می‌خوریم. مسئله ایزوله سازی VM که قبلا ذکر شد یک مثال کامل است: یک آسیب پذیری کلاسیک که با پیچیدگی یک پلت فرم هوش مصنوعی تقویت شده است.

ما در حال ساختن سیستم‌های هوش مصنوعی فوق‌العاده پیچیده در بالای پایه‌های شکننده‌تر و فعالانه‌ای هستیم. این مانند طراحی دقیق یک ماشین خودران با ناوبری پیشرفته هوش مصنوعی است، در حالی که چرخ ها در حال سقوط هستند و موتور در حال پاشیدن است. تمرکز بر "امنیت هوش مصنوعی" اغلب مانند یک حواس پرتی به نظر می رسد، منابع و توجه را از کارهای پیش پا افتاده، غیر جذاب، اما کاملاً حیاتی ایمن سازی زیرساخت های موجود منحرف می کند.

آیا ما آنقدر مشغول تعقیب چیز بزرگ بعدی هستیم که اجازه می دهیم چیزهای بزرگ فعلی از بین بروند؟ حجم زیاد و گستردگی تهدیدات KEV نشان‌دهنده یک چالش سیستمی و فوری برای زیرساخت‌های دیجیتالی اساسی است که از بحث‌های روز صفر قبلی مبتنی بر هوش مصنوعی متمایز است. این در مورد آینده هوش مصنوعی نیست. این در مورد وضعیت فعلی وجود دیجیتال ما است.

حالا مدیران ارشد چی؟

برای سرنخ‌های مهندسی و مدیران ارشد فناوری، پیام واضح و فوری است:

1. لیست KEV را اولویت بندی کنید: همه چیز را رها کنید. این آسیب پذیری ها را اصلاح کنید. آن را اجباری کند. آن را اجرا کنید. این اختیاری نیست.
2. به بهای هزینه های بنیادین در هیاهوی "امنیت هوش مصنوعی" غرق نشوید: بله، خطرات منحصر به فرد هوش مصنوعی را درک کنید، اما به یاد داشته باشید که مهندسی قوی، چرخه عمر توسعه ایمن و وصله سخت کوش هنوز بهترین دفاع شما هستند. اگر مهاجمی مالک VM یا سرور شیرپوینت شما باشد، یک مدل هوش مصنوعی فانتزی شما را نجات نخواهد داد.
3. سرمایه گذاری در امنیت پایه: این به معنای چیزی فراتر از خرید یک ابزار امنیتی دیگر است. این به معنای سرمایه‌گذاری بر روی افراد، فرآیندها و فرهنگی است که امنیت را به‌عنوان یک رشته اصلی مهندسی ارزش می‌دهد، نه یک تفکر بعدی. برنامه‌های پاداش اشکال عالی هستند، اما باید یک شبکه ایمنی باشند، نه استراتژی امنیتی اصلی شما.

حادثه مربوط به زیرساخت پلتفرم هوش مصنوعی یک زنگ هشدار است، اما لیست CISA KEV زنگ هشدار فوری است. ما باید از تحسین آخرین ابتکارات امنیتی هوش مصنوعی دست برداریم و شروع به اصلاح حفره های دفاعی واقعی خود کنیم. آینده هوش مصنوعی هیجان انگیز است، اما وضعیت فعلی امنیت ما وحشتناک است.

منابع

[1] امنیت هوش مصنوعی یک آشفتگی است و در شرف بدتر شدن است — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] کاتالوگ آسیب پذیری های مورد سوء استفاده شناخته شده — https://www.cisa.gov/known-exploited-vulnerabilities-catalog