ملابس الإمبراطور الأمنية الجديدة ذات الذكاء الاصطناعي: بينما نحدق في موسى، تنهار المؤسسة

ملابس الإمبراطور الأمنية الجديدة ذات الذكاء الاصطناعي: بينما نحدق في موسى، تنهار المؤسسة

لنكن مباشرين: صناعة التكنولوجيا لديها هوس جديد، ويسمى "أمن الذكاء الاصطناعي". من المتوقع منا جميعًا أن نركز على الحقن الفوري، وتسميم النماذج، واستخلاص البيانات من نماذج اللغات الكبيرة. وفي الوقت نفسه، فإن البنية التحتية الفعلية والمادية والرقمية التي تربط مؤسساتنا ببعضها البعض يتم إشعال النار فيها بوابل لا هوادة فيه من أيام الصفر. وقد سلطت حادثة وقعت مؤخرًا تتعلق بمنصة رئيسية للذكاء الاصطناعي، والتي توضح التحديات الأوسع نطاقًا في تأمين البنية التحتية للذكاء الاصطناعي، الضوء على هذا الانقسام الخطير [1].

واجهت شركة Meta، المعروفة بروحها المتمثلة في "التحرك بسرعة وكسر الأشياء"، تدقيقًا بسبب العيوب الأمنية في منصات الذكاء الاصطناعي الخاصة بها. على سبيل المثال، كشف برنامج مكافأة الأخطاء عن خلل كبير يكشف الأجهزة الافتراضية للمستخدم. لم يكن هذا تسربًا دقيقًا للبيانات أو تجاوزًا سريعًا ذكيًا، ولكنه خطأ أساسي على مستوى البنية التحتية كشف الأجهزة الافتراضية للمستخدم. هذه ليست ثغرة أمنية مقصورة على فئة معينة خاصة بالذكاء الاصطناعي؛ وهذا هو العزل الأساسي للأجهزة الافتراضية، وهي مشكلة اعتقدنا إلى حد كبير أنه تم ترويضها منذ عقد من الزمن. إنه يمثل انتهاكًا خطيرًا للخصوصية وسلامة البيانات، مما يؤثر بشكل مباشر على المستخدمين والعملاء المحتملين من المؤسسات الذين يستفيدون من هذه البنية التحتية للذكاء الاصطناعي.

هذا النوع من العيوب، على الرغم من تأثيره الحقيقي، يبدو أقل شبهاً بتحدي "أمن الذكاء الاصطناعي" الجديد وأكثر شبهاً بفشل البنية التحتية الكلاسيكي الذي يرتدي قبعة الذكاء الاصطناعي. إنه تذكير بأنه حتى منصات الذكاء الاصطناعي الأكثر تقدمًا مبنية على طبقات من الحوسبة التقليدية والشبكات والمحاكاة الافتراضية. إذا كانت تلك الطبقات الأساسية مليئة بالثغرات، فلا يهم مدى تعقيد نموذج الذكاء الاصطناعي الخاص بك؛ ويظل النظام بأكمله عرضة للخطر. إن جانب "الذكاء الاصطناعي" في هذه القصة يكاد يكون إلهاءً، وهو توجيه خاطئ يصرف نظرنا بعيدًا عن الأخشاب المتعفنة أسفل ألواح الأرضية المصقولة.

وابل KEV الخاص بـ CISA: مؤشر حاسم

بينما نحن منشغلون بمناقشة الآثار الأخلاقية لروبوتات الدردشة الواعية والفروق الدقيقة في سلامة الذكاء الاصطناعي، تقوم CISA بإسقاط عدد غير مسبوق من الثغرات الأمنية المستغلة بشكل نشط في كتالوج الثغرات الأمنية المعروفة (KEV). هذا ليس تمرينًا نظريًا. هذه ليست قائمة "التصحيح يومًا ما". هذه قائمة عاجلة بعنوان "منزلك يحترق الآن".

في الأسابيع الأخيرة، أضافت CISA العديد من الإدخالات، ليصل إجمالي الثغرات المستغلة بشكل نشط إلى عدد مذهل في فترة قصيرة [2]. وهذا ليس مجرد "الأمن سيء"؛ هذه أزمة نظامية ومتصاعدة تؤثر على برامج المؤسسة البالغة الأهمية التي تدير عالمنا.

خذ بعين الاعتبار الإضافات الحديثة إلى كتالوج KEV:

• CVE-2023-46214: ثغرة أمنية في تنفيذ التعليمات البرمجية عن بعد لـ Splunk Enterprise (CVSS 9.8) مع موعد نهائي لتصحيح CISA، مما يجعل الأنظمة غير المصححة معرضة للخطر للغاية.
• CVE-2023-29357: ثغرة أمنية لتصعيد امتيازات Microsoft SharePoint Server، مما يؤثر على العمود الفقري لعدد لا يحصى من شبكات الإنترانت الخاصة بالشركة.
• CVE-2023-42824: ثغرة أمنية في نواة Apple iOS/iPadOS، تم استغلالها بالفعل في هجمات مستهدفة، مما يدل على أنه حتى الأنظمة البيئية الخاضعة للرقابة ليست غير قابلة للاختراق.
• CVE-2023-30799: خلل في تنفيذ التعليمات البرمجية عن بعد MikroTik RouterOS، مما يؤثر على أجهزة التوجيه التي تربط كل شيء، وغالبًا ما يتم تركه بدون إصلاح في أعمق أركان الشبكة.

تتطلب هذه الإضافة السريعة للأيام الصفرية المستغلة بشكل نشط عبر الموردين الرئيسيين - Microsoft، وApple، وSplunk، وMikroTik، وLinux، وJFrog - اهتمامًا فوريًا ومحمومًا. هذا ليس تحذيرا عاما. إنها صفارة إنذار مباشرة لكل فريق من فرق تكنولوجيا المعلومات والأمن. قائمة KEV الخاصة بـ CISA ليست مجرد اقتراح للوكالات الفيدرالية؛ إنه تحذير بالغ الأهمية لجميع المؤسسات. تجاهل ذلك على مسؤوليتك.

وهم "أمن الذكاء الاصطناعي" وتكلفة الإلهاء

إليكم الحقيقة غير المريحة: العيوب الأساسية في منصات الذكاء الاصطناعي ووابل CISA KEV هي جوانب مترابطة لنفس المشكلة. كلاهما يصرخان بشأن الانهيار الأساسي في أمن البرمجيات، لكن النظرة الجماعية لصناعتنا منحرفة بشكل خطير. نحن مفتونون جدًا بالوعد والمخاطر التي ينطوي عليها "الذكاء الاصطناعي" لدرجة أننا نترك البنية التحتية الرقمية الأساسية تتعفن.

لقد أصبح "أمن الذكاء الاصطناعي" كلمة طنانة، وحدودًا جديدة للاستشاريين ومديري المنتجات. ولكن ما هو حقا؟ في كثير من الأحيان، يتم تطبيق الأمان فقط على أنظمة الذكاء الاصطناعي. نعم، يقدم الذكاء الاصطناعي نواقل هجوم جديدة وتحديات فريدة من نوعها، ولكن جزءًا كبيرًا من "أمن الذكاء الاصطناعي" هو ببساطة هندسة قوية، وممارسات تشفير آمنة، وتصحيحات مجتهدة - وهي نفس الأشياء التي فشلنا فيها لعقود من الزمن. تعد مشكلة عزل الأجهزة الافتراضية المذكورة سابقًا مثالًا رائعًا: ثغرة أمنية كلاسيكية تضخمت بسبب تعقيد منصة الذكاء الاصطناعي.

نحن نبني أنظمة ذكاء اصطناعي معقدة بشكل لا يصدق على أسس هشة ومستغلة بشكل متزايد. إنه مثل تصميم سيارة ذاتية القيادة بدقة مع نظام ملاحة متقدم يعمل بالذكاء الاصطناعي، بينما تتساقط العجلات ويتعطل المحرك. غالبًا ما يبدو التركيز على "أمن الذكاء الاصطناعي" وكأنه إلهاء، حيث يحول الموارد والاهتمام عن العمل الدنيوي غير الجذاب، ولكنه بالغ الأهمية لتأمين البنية التحتية الحالية.

هل نحن مشغولون جدًا بمطاردة الشيء الكبير التالي لدرجة أننا نترك الأشياء الكبيرة الحالية تحترق؟ ويشير الحجم الهائل واتساع نطاق تهديدات KEV إلى وجود تحدٍ نظامي وعاجل للبنية التحتية الرقمية الأساسية، يختلف عن المناقشات السابقة التي تركز على الذكاء الاصطناعي. هذا لا يتعلق بمستقبل الذكاء الاصطناعي؛ يتعلق الأمر بالحالة الراهنة لوجودنا الرقمي.

ماذا الآن أيها الرؤساء التنفيذيون للتكنولوجيا؟

بالنسبة إلى العملاء المتوقعين في مجال الهندسة ومديري التكنولوجيا التنفيذيين، تكون الرسالة واضحة وفورية:

1. ** حدد أولويات قائمة KEV: ** أسقط كل شيء. تصحيح نقاط الضعف هذه. تكليف ذلك. فرضه. هذا ليس اختياريا.
2. لا تنجرف إلى ضجيج "أمن الذكاء الاصطناعي" على حساب الأساسيات: نعم، افهم المخاطر الفريدة للذكاء الاصطناعي، ولكن تذكر أن الهندسة القوية ودورات حياة التطوير الآمنة والتصحيح الدؤوب لا تزال أفضل دفاع لك. لن ينقذك نموذج الذكاء الاصطناعي الرائع إذا كان المهاجم يمتلك جهاز VM الأساسي أو خادم SharePoint الخاص بك.
3. الاستثمار في الأمان الأساسي: هذا يعني أكثر من مجرد شراء أداة أمان أخرى. ويعني الاستثمار في الأفراد والعمليات والثقافة التي تقدر الأمن باعتباره نظامًا هندسيًا أساسيًا، وليس فكرة لاحقة. تعتبر برامج مكافأة اكتشاف الأخطاء البرمجية ممتازة، ولكنها يجب أن تكون بمثابة شبكة أمان، وليست استراتيجية أمنية أساسية لديك.

إن الحادث الذي يتعلق بالبنية التحتية لمنصة الذكاء الاصطناعي هو بمثابة دعوة للاستيقاظ، ولكن قائمة CISA KEV هي إنذار عاجل. نحن بحاجة إلى التوقف عن الإعجاب بأحدث مبادرات أمن الذكاء الاصطناعي والبدء في تصحيح الثغرات في دفاعاتنا الفعلية. إن مستقبل الذكاء الاصطناعي مثير، لكن الوضع الحالي لأمننا مرعب.

المصادر

[1] أمن الذكاء الاصطناعي في حالة من الفوضى، وهو على وشك أن يصبح أسوأ — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] كتالوج الثغرات الأمنية المستغلة المعروفة — https://www.cisa.gov/known-exploited-vulnerabilities-catalog