يعتبر تباطؤ الذكاء الاصطناعي بمثابة إلهاء. منزلك على النار.
دعونا نكون صريحين: لقد مرت صناعة التكنولوجيا أخيرًا بلحظة "المجيء إلى يسوع" مع الذكاء الاصطناعي، لكنها تبدو أقل شبهاً بالتوبة الحقيقية وأكثر أشبه بمحور استراتيجي. وفجأة، دعا مهندسو هذا السباق المحموم للذكاء الاصطناعي - الباحثون البارزون والممولون الذين مولوا سباقات السرعة التي يغذيها الكافيين - إلى التباطؤ [1]. إنهم يتحدثون عن "الحكم الداخلي"، و"الأطر الأخلاقية"، ووتيرة "أكثر تعمداً". وقد استجاب السوق، وهو المقياس الحساس على الإطلاق، بالفعل، مع المخاوف بشأن استدامة استثمارات الذكاء الاصطناعي التي تسببت في تقلبات في أسهم الرقائق [2].
هذا ليس تنظيمًا خارجيًا؛ إنه "خط صدع" داخلي ينشأ من داخل النظام البيئي للذكاء الاصطناعي نفسه. وبينما يناقش كبار المسؤولين الآثار الفلسفية لإبداعاتهم المستقبلية، فإن الحاضر يحترق بنشاط.
الوقفة المريحة
النظر في التوقيت. لسنوات، كان الشعار هو "التحرك بسرعة وكسر الأشياء"، أو في الآونة الأخيرة، "التحرك بسرعة وبناء الذكاء الاصطناعي العام". والآن، مع نشر النماذج القوية بالفعل، ومع تحديد المشهد التنافسي إلى حد كبير، ومع شبح التنظيم الفعلي الهادف الذي يلوح في الأفق، فإن الدعوات إلى الحذر تبدو جوفاء بعض الشيء. فهل يشكل هذا صحوة حقيقية للمخاطر الجسيمة، أم مناورة محسوبة لتعزيز السلطة، وإبطاء المنافسين، وإدارة الإدراك العام قبل أن تظهر المذراة؟
من السهل توخي الحذر عندما تكون قد حاصرت السوق بالفعل من خلال نماذج الحوسبة والمواهب والنماذج الأساسية. إن تركيز الصناعة المفاجئ على "إعادة تقييم خرائط طريق المنتجات، وتقييم المخاطر، والتخطيط الاستراتيجي" يبدو نبيلاً، ولكنه يبدو أيضاً وكأنه وسيلة مريحة لإعادة تنظيم الموارد. ومن المحتمل أن يؤدي هذا إلى إبطاء البدائل مفتوحة المصدر أو اللاعبين الأصغر الذين قد يتحدون الشركات العملاقة القائمة من خلال التحكم في الوصول إلى الموارد الأساسية أو التأثير على الأطر التنظيمية. أصبح "الإطار الأخلاقي" فجأة ذا أهمية قصوى، ليس عندما تم تدريب النماذج على البيانات المستخرجة، ولكن الآن بعد أن أصبحت قوية بما يكفي لإعادة تشكيل المجتمع بشكل حقيقي.
إن المخاوف التي تم التعبير عنها داخل المجتمعات الأكاديمية والعلمية، والتي تحذر من أن "حلول" الذكاء الاصطناعي للمشكلات المفتوحة يمكن أن تهدد سلامة مجالاتها [3]، هي مؤشر صارخ على عمق هذا القلق الداخلي. ولكن دعونا لا نخلط بين هذا وبين الإيثار. لا يتعلق الأمر بتأثير الذكاء الاصطناعي على الوظائف أو البنية التحتية؛ يتعلق الأمر بـ التحكم – من يستخدمه وبأي سرعة. والمناقشة لا تدور حول "هل ينبغي لنا أن نبنيها؟" والمزيد حول "من الذي يقرر مدى سرعة بنائه ومن الذي سيستفيد؟"
أثناء مناقشة المستقبل، يتعرض حاضرك للخطر
الآن، دعونا ننتقل من المخاوف المجردة والمستقبلية المتعلقة بالخلاف الداخلي للذكاء الاصطناعي إلى الأزمة المباشرة والملموسة التي تتكشف على شبكاتنا في الوقت الحالي. بينما يفكر عمالقة الذكاء الاصطناعي في روح أجهزتهم، تسعى فرقك التشغيلية جاهدة لاحتواء كارثة الأمن السيبراني الشاملة.
نحن لا نتحدث عن التهديدات النظرية أو الاتجاهات العامة. نحن نتحدث هنا عن ثغرات يوم الصفر التي تم استغلالها بشكل نشط في برامج المؤسسات الأساسية، مما أدى إلى ضرب البنية التحتية الحيوية بقوة المطرقة.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): هذا ليس مجرد خطأ؛ إنه جرح غائر. وقد تم استغلال نقاط الضعف هذه في حلول VPN والوصول إلى الشبكة الخاصة بشركة Ivanti بشكل نشط، مما يسمح للمهاجمين بتجاوز المصادقة وتنفيذ الأوامر عن بعد. أصدرت CISA تحذيرات متعددة، تسلط الضوء على المخاطر الجسيمة التي تواجه المنظمات التي تعتمد على هذه الأنظمة للوصول الآمن عن بعد [4]. يتم استغلال دفاع شبكتك الأساسي، وهو الشيء الوحيد الذي تعتمد عليه لإيقاف الأشرار عند البوابة، بشكل نشط لمنح المهاجمين إمكانية الوصول العميق إلى عدد لا يحصى من شبكات المؤسسات.
- واجهة مستخدم الويب Cisco IOS XE (CVE-2023-20198): الحد الأقصى من الخطورة. استغلالها بنشاط. تسمح هذه الثغرة الأمنية للمهاجمين غير المصادقين بإنشاء حسابات مميزة والتحكم الكامل في أجهزة Cisco IOS XE المتأثرة. إذا كان أحد المهاجمين يمتلك مستوى إدارة البنية التحتية لشبكتك، فهو يمتلك شبكتك بالكامل. انتهت اللعبة [5].
CISA لا تصدر "تحذيرات" من أجل المتعة؛ إنهم يصرخون "نار" في مسرح مزدحم. هذه ليست مجرد تهديدات نظرية؛ يتم استخدامها بنشاط لتسوية الدفاعات الأساسية وأنظمة الإدارة عبر المؤسسات العالمية.
خط الصدع الحقيقي
المفارقة سميكة جدًا لدرجة أنه يمكنك قطعها بسكين غير حاد. من ناحية، لدينا نخبة الذكاء الاصطناعي تناقش الآثار الأخلاقية للمستقبل الذي ما زالوا يبنونه، ويطالبون بالتباطؤ بعد سنوات من التسارع غير المنضبط. ومن ناحية أخرى، لدينا تهديد وجودي مباشر يتمثل في انهيار تقنيتنا الأساسية الحالية بشكل فعال تحت وطأة نقاط الضعف التي لم يتم علاجها والتي لم يتم إصلاحها.
"خط الصدع" الحقيقي لا يقتصر فقط على مجتمع الذكاء الاصطناعي؛ إنه بين برج الابتكار العاجي وخنادق الواقع التشغيلي. إنه بين المناقشات المجردة التي تركز على المستقبل حول "التنظيم الذاتي" للذكاء الاصطناعي والحاجة الفورية الملموسة للأمن والاستقرار الفعليين في الأنظمة التي نعتمد عليها اليوم.
وباعتبارنا كبار مسؤولي التكنولوجيا والمهندسين، لا يمكننا أن نتحمل تشتيت انتباهنا بسبب المناقشات الفلسفية حول تباطؤ الذكاء الاصطناعي. في حين أن هذه المناقشات مهمة على المدى الطويل، إلا أنها تعتبر ترفًا عندما يكون منزلك مشتعلًا. يجب أن تبدأ "إعادة تقييم خرائط طريق المنتج" بدعم الأسس المتداعية للبنية التحتية الحالية لدينا. تحتاج "تقييمات المخاطر" إلى إعطاء الأولوية للتهديدات المباشرة التي يتم استغلالها بشكل نشط والتي تهدد استمرارية العمليات وسلامة البيانات اليوم.
أولويات الصناعة منحرفة. نحن نبني أشياء أسرع وأكثر لمعانًا على أساس متعفن بشكل نشط. قد تكون الدعوة إلى إبطاء الذكاء الاصطناعي محادثة ضرورية، ولكن بالنسبة لأولئك منا على الأرض، الذين يتعاملون مع إيفانتي وسيسكو، فإن الأمر يبدو مثل مناقشة لون الستائر بينما ينهار السقف. ركز على الحاضر. يمكن للمستقبل أن ينتظر حتى نتوقف عن النزيف.
المصادر
[1] رسالة مفتوحة لإيقاف تجارب الذكاء الاصطناعي العملاقة مؤقتًا — https://futureoflife.org/open-letter-pause-ai-development/ [2] ترتفع أسهم الذكاء الاصطناعي، لكن بعض المستثمرين يشعرون بالتوتر – https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] ثورة الذكاء الاصطناعي في العلوم: الوعود والمخاطر – https://www.nature.com/articles/d41586-023-03223-y [4] الجهات التهديدية التي تستغل نقاط الضعف في برنامج Ivanti Connect Secure وسياسة Ivanti Secure - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] جهات التهديد التي تستغل الثغرات الأمنية لواجهة مستخدم الويب لبرنامج Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a