الذكاء الاصطناعي الجديد للإمبراطور، والمؤسسة المتعفنة الموجودة تحته
هل تتذكر عندما كان الذكاء الاصطناعي سينقذنا جميعًا؟ اتضح أن المنقذين يطلبون الآن مهلة. في الآونة الأخيرة، قام مهندسو مستقبلنا القائم على الذكاء الاصطناعي - الباحثون "الحدوديون" وأصحاب الوزن الثقيل - بالتوقف بشكل جماعي، مطالبين بتباطؤ التنمية بسبب "المخاوف المتصاعدة المتعلقة بالسلامة" [1]. استجابت السوق، وهي الأداة الفظة على الإطلاق، بالسعال: تراجعت أسهم الرقائق وكبار اللاعبين في مجال الذكاء الاصطناعي [2]. وكما كان متوقعًا، سخرت بكين من التحذيرات، في حين امتنعت شركات الرقائق العملاقة في سيول عن دفع مبالغ مقدمة مقابل التقدم المستقبلي في مجال الذكاء الاصطناعي [2].
هذا ليس مجرد نقاش فلسفي للبرج العاجي. وهذا تحول زلزالي، واعتراف علني بالتهور من جانب نخبة الصناعة. وبصراحة، إنه مريح بعض الشيء.
توقف الذكاء الاصطناعي: إيثار أم لعب بالقوة؟
لنكن واضحين: عندما يدرك الأشخاص الذين صنعوا الصاروخ فجأة أنهم نسوا المظلات بعد الإطلاق، فهذه ليست لحظة صحوة أخلاقية عميقة. إنه تدافع متأخر يخدم مصالحه الذاتية. هؤلاء ليسوا مثاليين واسعي النظر؛ هؤلاء هم العمالقة الذين دفعوا الدواسة إلى أعلى مستوياتها، ويطاردون النمو الهائل والهيمنة على السوق. والآن، مع شبح "العواقب غير المتوقعة" الذي يلوح في الأفق ــ وربما، على نحو أكثر سخرية، إدراك أن الوتيرة الحالية غير مستدامة أو أنهم بحاجة إلى تعزيز تقدمهم ــ فإنهم يدعون إلى التنفس الجماعي.
رد فعل السوق واضح. إن الانخفاض في أسهم الرقائق لا يتعلق فقط بالخوف؛ يتعلق الأمر بالآثار المالية المباشرة للتباطؤ المحتمل. تراجع بكين؟ إشارة واضحة إلى أن الميزة الاستراتيجية الوطنية تتفوق على المخاوف الأمنية المجردة. وهل يرفض صانعو الرقائق في سيول الدفع مقدماً؟ هذا هو صوت رأس المال الذي يشكك في الاستقرار والربحية على المدى الطويل لمستقبل غير مؤكد فجأة.
بالنسبة لنا، كمسؤولي التكنولوجيا التنفيذيين والقادة الهندسيين، فإن هذا يترجم مباشرة إلى مشهد فوضوي. ومن المتوقع أن تتسارع التدخلات التنظيمية، مما يفرض إعادة ترتيب أولويات مشاريع الذكاء الاصطناعي. إن روح "التحرك بسرعة وكسر الأشياء" الخاصة بالذكاء الاصطناعي قد ماتت رسميًا، وحل محلها بحث محموم عن أطر "تطوير الذكاء الاصطناعي الأخلاقي" التي كان ينبغي تنفيذها منذ اليوم الأول. وسوف يصبح الاستثمار أكثر حذراً، وسوف تدور الاستراتيجيات، وستشعر أسواق العمل بالبرودة مع إفساح حمى الذهب الطريق أمام نهج أكثر قياساً، ونأمل أن يكون أكثر مسؤولية. ولكن دعونا لا نخلط بين هذا وبين الإيثار الخالص. ويتعلق هذا "التوقف المؤقت" بالسيطرة وإعادة معايرة السوق بقدر ما يتعلق بالسلامة الحقيقية.
أثناء مناقشة العمالقة، تنهار المؤسسة
الآن، بينما تواجه نخبة الذكاء الاصطناعي أزمتها الوجودية، وتناقش أخلاقيات الذكاء الفائق المستقبلي، فلنتحدث عن الأزمة الأمنية الحقيقية جدًا، والحاضرة جدًا، والكارثية تمامًا التي تتكشف الآن.
أضافت CISA هذا الأسبوع العديد من الثغرات الأمنية الخطيرة الجديدة إلى قائمة الثغرات الأمنية المستغلة المعروفة [3]. نحن نتحدث عن جذر RCE مؤكد في Cisco Secure Email Gateway (CVE-2023-20269) [4]، واجتياز مسار CVSS 10.0 في GitLab (CVE-2023-2825) [3]، وChrome Zero-day الذي تم تصحيحه مؤخرًا (CVE-2023-4863) [3] والذي يتطلب اهتمامًا فوريًا.
لكن الصدمة الحقيقية، التي يجب أن تجعل كل محترف أمني يصرخ في الفراغ، هي التهديد المستمر بالعيوب الأساسية. خذ بعين الاعتبار CVE-2021-1647، وهي ثغرة أمنية محلية لتصعيد الامتيازات في محرك الحماية من البرامج الضارة الخاص بـ Microsoft Defender [5]. لم يكن هذا عيبًا غامضًا؛ لقد كان لديه إثبات عام للمفهوم وتم استغلاله بشكل نشط، مما يسلط الضوء على مدى إمكانية اختراق المكونات المهمة لدفاعنا الرقمي وبقائها عرضة للخطر لفترة من الوقت.
دع ذلك يترسخ في ذهنك. بينما نناقش أخلاقيات وعي الذكاء الاصطناعي، فقد تبين أن البرنامج نفسه المصمم لحماية نقاط النهاية لدينا، وهي الطبقة الأساسية لدفاعنا الرقمي، يحتوي على عيوب معروفة علنيًا ومستغلة بشكل نشط تسمح للمهاجم برفع الامتيازات. إنه مثل الجدال حول الآثار الفلسفية للقيادة الملتوية بينما تتعطل فرامل سيارتك ويشتعل المحرك.
الحساب: وجهان لعملة واحدة
هذه ليست قصص منفصلة. إنهما وجهان لعملة واحدة معيبة للغاية: صناعة التكنولوجيا التي أعطت الأولوية باستمرار للسرعة والجدة والإبداع المتصور على الأمن الأساسي والاستقرار والمسؤولية.
إن الدعوة المفاجئة لقادة الذكاء الاصطناعي للتباطؤ هي محاولة رد فعل وأنانية لتصحيح المسار بعد أن أطلقوا العنان لأنظمة قوية وغير مفهومة بالفعل. إنه اعتراف بأن شعار "التحرك بسرعة وكسر الأشياء"، عند تطبيقه على التكنولوجيا التي يحتمل أن تغير العالم، ليس فقط غير مسؤول، ولكنه خطير.
إن هجوم يوم الصفر، ولا سيما ثغرة Defender الحرجة، هو نتيجة مباشرة ومؤلمة لنفس العقلية المطبقة على تكنولوجيا المعلومات الأساسية. إنها نتيجة لثقافة تتعامل في كثير من الأحيان مع الأمن باعتباره فكرة لاحقة، أو مربع اختيار للامتثال، أو مركز تكلفة، بدلاً من كونه مكونًا متكاملاً وغير قابل للتفاوض في كل منتج ونظام. نحن مشغولون جدًا بمطاردة الجسم اللامع التالي - LLM التالي، وكيل الذكاء الاصطناعي التالي - لدرجة أننا تركنا الأرض تحت أقدامنا تتعفن.
بالنسبة إلى CTOs والعملاء الهندسيين، تكون الرسالة واضحة وفورية. توقف عن مطاردة كل اتجاهات الذكاء الاصطناعي التي تعبر خلاصتك. مضاعفة على الأساسيات. إعطاء الأولوية للتصحيح، خاصة بالنسبة للثغرات الحرجة والمستغلة بشكل نشط مثل تلك الموجودة في Cisco وGitLab والتهديد المستمر الذي تمثله LPEs السابقة لـ Defender. تنفيذ إجراءات تخفيف قوية. اطلب المساءلة من البائعين لديك فيما يتعلق بوضعهم الأمني، وليس فقط خريطة طريق الميزات الخاصة بهم.
إن تعثر السوق والقضايا الأمنية الأساسية التي لم تتم معالجتها ليست مجرد أخبار. وهم الحساب. عالم تكنولوجي سريع للغاية، ومتهور للغاية، وفي النهاية مكشوف للغاية. لقد حان الوقت لنكبر، ونؤمن أسسنا، وبعد ذلك عندها فقط، نفكر بحذر في الحدود التالية.
المصادر
[1] معهد مستقبل الحياة - إيقاف تجارب الذكاء الاصطناعي العملاقة مؤقتًا: رسالة مفتوحة - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC – خبراء الذكاء الاصطناعي يدعون إلى التوقف مؤقتًا في تطوير أنظمة الذكاء الاصطناعي المتقدمة – https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — كتالوج الثغرات الأمنية المستغلة المعروفة — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] الاستشارات الأمنية من Cisco — Cisco Secure Email and Web Manager، وجهاز Cisco Email Security، والثغرات الأمنية في أجهزة Cisco Web Security — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] مركز الاستجابة الأمنية لـ Microsoft - ثغرة أمنية في تصعيد الامتياز المحلي لـ Microsoft Defender - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647