هوش مصنوعی جدید امپراتور و بنیاد پوسیده زیر آن

هوش مصنوعی جدید امپراتور و بنیاد پوسیده زیر آن

به یاد دارید زمانی که هوش مصنوعی قرار بود همه ما را نجات دهد؟ معلوم شد، ناجیان اکنون درخواست تایم اوت می کنند. اخیراً، معماران آینده مبتنی بر هوش مصنوعی ما - محققان "مرز" و صاحبان سنگین مالی - مجموعاً ترمز کردند و خواستار کاهش سرعت توسعه به دلیل "افزایش نگرانی های ایمنی" شدند [1]. بازار که همیشه ابزار بی‌نقص بود، با سرفه کردن ریه پاسخ داد: سهام تراشه‌ها و بازیگران اصلی هوش مصنوعی سقوط کردند [2]. پکن، بطور قابل پیش بینی، هشدارها را به تمسخر گرفت، در حالی که غول های تراشه سئول از پرداخت های اولیه برای پیشرفت های آینده هوش مصنوعی خودداری کردند [2].

این فقط یک بحث فلسفی برای برج عاج نیست. این یک تغییر لرزه ای است، اعتراف عمومی به بی پروایی از درون نخبگان صنعت. و صادقانه بگویم، کمی بیش از حد راحت است.

مکث هوش مصنوعی: نوع دوستی یا قدرت بازی؟

بیایید واضح بگوییم: وقتی افرادی که موشک را ساخته اند ناگهان متوجه می شوند که چتر نجات را پس از پرتاب فراموش کرده اند، لحظه بیداری عمیق اخلاقی نیست. این یک تقلای دیرهنگام و خودخواهانه است. اینها ایده آلیست های چشم گشاد نیستند. اینها تایتان هایی هستند که پدال را به سمت فلز فشار می دهند و به دنبال رشد نمایی و تسلط بر بازار هستند. اکنون، با وجود شبح «پیامدهای پیش‌بینی نشده» - و شاید بدبینانه‌تر، درک این نکته که سرعت فعلی ناپایدار است یا اینکه آنها باید پیشروی خود را تثبیت کنند- آنها خواستار یک نفس جمعی هستند.

واکنش بازار گویا است. کاهش در سهام چیپ فقط به خاطر ترس نیست. این در مورد پیامدهای مالی فوری یک کاهش بالقوه است. عقب نشینی پکن؟ سیگنال واضحی مبنی بر اینکه مزیت استراتژیک ملی بر نگرانی های انتزاعی ایمنی غلبه دارد. و سازندگان تراشه سئول از پرداخت های اولیه خودداری می کنند؟ این صدای سرمایه ای است که ثبات و سودآوری بلندمدت یک آینده ناگهانی نامطمئن را زیر سوال می برد.

برای ما، مدیران ارشد فناوری و سرنخ های مهندسی، این به طور مستقیم به یک چشم انداز آشفته تبدیل می شود. انتظار می رود مداخلات نظارتی تسریع شود و اولویت بندی مجدد پروژه های هوش مصنوعی را مجبور کند. اخلاق «سریع حرکت کنید و چیزها را بشکنید» برای هوش مصنوعی رسماً مرده است و با جستجوی دیوانه‌وار برای چارچوب‌های «توسعه هوش مصنوعی اخلاقی» که باید از همان روز اول ساخته می‌شد جایگزین شده است. سرمایه‌گذاری محتاط‌تر می‌شود، استراتژی‌ها تغییر می‌کنند، و بله، بازارهای کار احساس سردی خواهند کرد، زیرا هجوم طلا جای خود را به رویکردی سنجیده‌تر و امیدوارانه‌تر مسئولانه‌تر می‌دهد. اما بیایید این را با نوع دوستی محض اشتباه نگیریم. این "مکث" به همان اندازه که مربوط به کنترل و کالیبراسیون مجدد بازار است، در مورد ایمنی واقعی است.

در حالی که بحث تایتان ها، بنیاد فرو می ریزد

اکنون، در حالی که نخبگان هوش مصنوعی دچار بحران وجودی خود شده‌اند و در مورد اخلاق ابراطلاعات آینده بحث می‌کنند، بیایید در مورد بحران امنیتی بسیار واقعی، بسیار کنونی و کاملاً فاجعه‌باری که در حال حاضر آشکار می‌شود صحبت کنیم.

این هفته، CISA چندین CVE جدید را به کاتالوگ آسیب پذیری های شناخته شده مورد بهره برداری خود اضافه کرد [3]. ما در مورد یک RCE ریشه تایید شده در Cisco Secure Email Gateway (CVE-2023-20269) [4]، یک پیمایش مسیر CVSS 10.0 در GitLab (CVE-2023-2825) [3]، و یک Chrome-day zero-day [3-4]862 imte demand (3-4]862 imte-day zero-day (CVE-20) به تازگی وصله شده صحبت می کنیم.

اما ضربه ی واقعی، ضربه ای که باید هر حرفه ای امنیتی را در فضای خالی فریاد بزند، تهدید دائمی نقص های اساسی است. CVE-2021-1647 را در نظر بگیرید، یک آسیب‌پذیری افزایش امتیاز محلی در موتور محافظت از بدافزار Microsoft Defender [5]. این یک نقص مبهم نبود. این یک اثبات مفهومی عمومی داشت و به طور فعال در طبیعت مورد بهره برداری قرار گرفت و نشان می داد که چگونه اجزای حیاتی دفاع دیجیتال ما می توانند به خطر بیفتند و برای مدتی آسیب پذیر باقی بمانند.

در حالی که ما در حال بحث در مورد اخلاق هوش مصنوعی هستیم، نشان داده شده است که همان نرم افزار طراحی شده برای محافظت از نقاط پایانی ما، لایه اساسی دفاع دیجیتالی ما، دارای معایب شناخته شده و فعالانه ای است که به مهاجم اجازه می دهد امتیازات را افزایش دهد. این مانند بحث در مورد مفاهیم فلسفی Warp Drive است در حالی که ترمزهای ماشین شما از کار می افتد و موتور آتش می گیرد.

حساب: دو روی یک سکه

این ها داستان های جداگانه ای نیستند. آنها دو روی یک سکه عمیقاً معیوب هستند: یک صنعت فناوری که به طور مداوم سرعت، تازگی و نوآوری درک شده را بر امنیت اساسی، ثبات و مسئولیت اولویت داده است.

درخواست ناگهانی رهبران هوش مصنوعی برای کاهش سرعت، تلاشی واکنشی و خودخواهانه برای تصحیح مسیر پس از* است که آنها قبلاً سیستم های قدرتمند و ناشناخته را در طبیعت رها کردند. این یک اعتراف به این است که شعار «سریع حرکت کن و چیزها را بشکن»، زمانی که برای فناوری بالقوه تغییر جهان اعمال شود، نه تنها غیرمسئولانه، بلکه خطرناک است.

هجوم روز صفر، به ویژه آسیب‌پذیری حیاتی Defender، پیامد مستقیم و دردناک همین طرز تفکر است که در IT اساسی اعمال می‌شود. این نتیجه فرهنگی است که اغلب امنیت را به عنوان یک فکر بعدی، یک چک باکس انطباق، یا یک مرکز هزینه در نظر می گیرد، نه یک جزء جدایی ناپذیر و غیرقابل مذاکره از هر محصول و سیستم. ما آنقدر مشغول تعقیب جسم براق بعدی هستیم - LLM بعدی، عامل هوش مصنوعی بعدی - که اجازه دادیم زمین زیر پایمان پوسیده شود.

برای مدیران ارشد فناوری و مدیران مهندسی، پیام واضح و فوری است. تعقیب هر گرایش هوش مصنوعی که از فید شما عبور می کند را متوقف کنید. اصول را دو برابر کنید. وصله کردن، به ویژه برای آسیب‌پذیری‌های حیاتی و فعال مانند سیسکو، GitLab، و تهدید دائمی که نمونه‌ای از LPE‌های گذشته Defender است را در اولویت قرار دهید. اجرای اقدامات کاهشی قوی از فروشندگان خود برای وضعیت امنیتی آنها، نه فقط نقشه راه ویژگی های آنها، پاسخگویی بخواهید.

رکود بازار و مسائل امنیتی اساسی که به آنها رسیدگی نشده است، فقط اخبار نیستند. آنها یک حساب و کتاب هستند. دنیای فناوری که خیلی سریع، بیش از حد بی پروا، و در نهایت، بیش از حد آشکار است. وقت آن است که بزرگ شویم، پایه های خود را ایمن کنیم، و سپس، فقط آن وقت، مرز بعدی را با احتیاط در نظر بگیریم.

منابع

[1] موسسه آینده زندگی - مکث آزمایش های هوش مصنوعی غول پیکر: نامه ای باز - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - کارشناسان هوش مصنوعی خواستار توقف توسعه سیستم‌های هوش مصنوعی پیشرفته هستند - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — کاتالوگ آسیب پذیری های مورد سوء استفاده شناخته شده — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager، Cisco Email Security Appliance و Cisco Web Security Appliance Appliance — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-sa-esa-sqs [5] مرکز پاسخگویی امنیتی مایکروسافت — آسیب پذیری افزایش امتیاز محلی Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647