کاهش سرعت هوش مصنوعی یک حواس پرتی است. خانه شما در آتش است
بیایید صریح باشیم: صنعت فناوری بالاخره لحظه «به عیسی» خود را با هوش مصنوعی سپری می کند، اما کمتر شبیه توبه واقعی و بیشتر شبیه یک محور استراتژیک است. ناگهان، معماران این مسابقه هوش مصنوعی - محققان برجسته و سرمایه‌دارانی که سرمایه‌گذاری‌های خود را با کافئین تامین می‌کردند - خواستار کاهش سرعت می‌شوند [1]. آنها در مورد «حکومت داخلی»، «چارچوب‌های اخلاقی» و سرعت «عمدی‌تر» صحبت می‌کنند. و بازار، همیشه فشارسنج حساس، قبلاً با نگرانی در مورد پایداری سرمایه‌گذاری‌های هوش مصنوعی که باعث نوسان در سهام تراشه می‌شود، واکنش نشان داده است [2].
این مقررات خارجی نیست. این یک "خط گسل" داخلی است که از درون خود اکوسیستم هوش مصنوعی پدیدار می شود. و در حالی که C-suite در مورد مفاهیم فلسفی خلاقیت های آینده خود بحث می کند، حال به طور فعال در حال سوختن است.
مکث راحت
زمان بندی را در نظر بگیرید. برای سال‌ها، مانترا «سریع حرکت کنید و چیزها را بشکنید» یا اخیراً «سریع حرکت کنید و AGI بسازید» بوده است. اکنون، با مدل‌های قدرتمندی که قبلاً به کار گرفته شده‌اند، با چشم‌انداز رقابتی که تا حد زیادی تعریف شده‌اند، و با شبح مقررات واقعی و معنادار در حال ظهور، درخواست‌های احتیاط کمی توخالی به گوش می‌رسد. آیا این یک بیداری واقعی برای خطرات عمیق است، یا یک مانور حساب شده برای تحکیم قدرت، کاهش سرعت رقبا، و مدیریت درک عمومی قبل از بیرون آمدن چنگال ها؟
وقتی بازار را در محاسبات، استعدادها و مدل‌های بنیادی درگیر کرده‌اید، موعظه احتیاط آسان است. تمرکز ناگهانی این صنعت بر "ارزیابی مجدد نقشه راه محصول، ارزیابی ریسک و برنامه ریزی استراتژیک" نجیب به نظر می رسد، اما همچنین به نظر می رسد راهی مناسب برای تنظیم مجدد منابع باشد. این به طور بالقوه می‌تواند جایگزین‌های منبع باز یا بازیگران کوچک‌تری را که ممکن است با کنترل دسترسی به منابع ضروری یا تأثیرگذاری بر چارچوب‌های نظارتی، غول‌های تثبیت‌شده را به چالش بکشند، کند کند. "چارچوب اخلاقی" به طور ناگهانی مهم است، نه زمانی که مدل ها بر روی داده های خراشیده آموزش می دیدند، بلکه اکنون که آنقدر قدرتمند هستند که واقعاً جامعه را تغییر دهند.
نگرانی‌هایی که در جوامع دانشگاهی و علمی ابراز می‌شود و هشدار می‌دهند که «راه‌حل‌های» هوش مصنوعی برای مشکلات باز می‌تواند یکپارچگی حوزه‌های آنها را تهدید کند [3]، نشانگر عمیقی از عمق این نگرانی داخلی است. اما بیایید این را با نوع دوستی اشتباه نگیریم. این در مورد تأثیر هوش مصنوعی بر مشاغل یا زیرساخت ها نیست. این در مورد کنترل است – چه کسی و با چه سرعتی از آن استفاده می کند. بحث کمتر بر سر این است که "آیا آن را بسازیم؟" و بیشتر در مورد "چه کسی تصمیم می گیرد چقدر سریع آن را بسازیم، و چه کسی سود می برد؟"
در حالی که آنها در مورد آینده بحث می کنند، حال شما به خطر می افتد
حال، بیایید از نگرانی‌های انتزاعی و آینده‌نگر مربوط به شکاف داخلی هوش مصنوعی به بحران فوری و ملموسی که در حال حاضر در شبکه‌های ما آشکار می‌شود، بپردازیم. در حالی که غول‌های هوش مصنوعی به روح ماشین‌های خود فکر می‌کنند، تیم‌های عملیاتی شما در تلاش هستند تا یک فاجعه امنیت سایبری تمام عیار را مهار کنند.
ما در مورد تهدیدات نظری یا روندهای کلی صحبت نمی کنیم. ما در مورد آسیب‌پذیری‌های روز صفر در نرم‌افزار بنیادی سازمانی صحبت می‌کنیم که زیرساخت‌های حیاتی را با نیروی یک پتک ضربه می‌زنند.
- Ivanti Connect Secure و Policy Secure (CVE-2023-46805 & CVE-2024-21887): این فقط یک اشکال نیست. این یک زخم شکاف است این آسیب‌پذیری‌ها در راه‌حل‌های VPN و دسترسی شبکه ایوانتی به طور فعال مورد سوء استفاده قرار گرفته‌اند و به مهاجمان اجازه می‌دهند تا احراز هویت را دور بزنند و دستورات از راه دور را اجرا کنند. CISA هشدارهای متعددی را صادر کرده است که خطر حیاتی را برای سازمان هایی که برای دسترسی از راه دور ایمن به این سیستم ها متکی هستند، برجسته کرده است [4]. دفاع شبکه اصلی شما، تنها چیزی که برای متوقف کردن افراد بد در دروازه به آن تکیه می کنید، به طور فعال برای دسترسی عمیق مهاجمان به شبکه های سازمانی بی شماری مورد سوء استفاده قرار می گیرد.
- ** Cisco IOS XE Web UI (CVE-2023-20198):** حداکثر شدت. به طور فعال مورد بهره برداری قرار می گیرد. این آسیب‌پذیری به مهاجمان تأیید نشده اجازه می‌دهد تا حساب‌های ممتاز ایجاد کنند و کنترل کامل بر دستگاه‌های آسیب‌دیده Cisco IOS XE را به دست آورند. اگر مهاجمی مالک صفحه مدیریت زیرساخت شبکه شما باشد، مالک کل شبکه شماست. بازی تمام شده [5].
CISA برای سرگرمی "هشدار" صادر نمی کند. آنها در یک سالن شلوغ "آتش" را فریاد می زنند. اینها فقط تهدیدات نظری نیستند. آنها به طور فعال برای به خطر انداختن سیستم های دفاعی و مدیریت اصلی در سراسر شرکت های جهانی مورد استفاده قرار می گیرند.
خط گسل واقعی
کنایه آنقدر ضخیم است که می توانید آن را با یک چاقوی کسل کننده برش دهید. از یک طرف، ما نخبگان هوش مصنوعی را داریم که در مورد پیامدهای اخلاقی آینده ای که هنوز در حال ساختن هستند بحث می کنند و خواستار کاهش سرعت پس از سال ها شتاب کنترل نشده هستند. از سوی دیگر، ما با تهدید فوری و وجودی فناوری بنیادی * فعلی* خود مواجه هستیم که به طور فعال تحت فشار آسیب پذیری های بدون خطاب و اصلاح نشده از بین می رود.
"خط گسل" واقعی فقط در جامعه هوش مصنوعی نیست. بین برج عاج نوآوری و سنگرهای واقعیت عملیاتی است. این بین بحث‌های انتزاعی و متمرکز بر آینده درباره «خودتنظیمی» برای هوش مصنوعی و نیاز فوری و ملموس به امنیت واقعی و ثبات در سیستم‌هایی است که امروز به آنها تکیه می‌کنیم.
همانطور که مدیران ارشد فناوری و مهندسی پیشرو هستند، ما نمی توانیم حواسمان را به بحث های فلسفی کاهش سرعت هوش مصنوعی پرت کنیم. در حالی که این بحث ها برای دراز مدت مهم هستند، زمانی که خانه شما به طور فعال در آتش می سوزد، لوکس هستند. "ارزیابی مجدد نقشه راه محصول" باید با تقویت پایه های در حال فروپاشی زیرساخت های موجود آغاز شود. "ارزیابی خطر" باید تهدیدهای فوری و فعالانه ای را که تداوم عملیات و یکپارچگی داده ها را به خطر می اندازد، اولویت بندی کند امروز.
اولویت های این صنعت منحرف شده است. ما در حال ساختن چیزهای سریع تر و درخشان تر بر روی پایه ای هستیم که به طور فعال در حال پوسیدن است. فراخوان کاهش سرعت هوش مصنوعی ممکن است یک مکالمه ضروری باشد، اما برای کسانی از ما که با روزهای صفر ایوانتی و سیسکو سر و کار داریم، مانند بحث در مورد رنگ پرده ها در حالی که سقف غار می کند، به نظر می رسد. روی زمان حال تمرکز کنید. آینده می تواند صبر کند تا زمانی که ما به طور فعال خونریزی نداشته باشیم.
منابع
[1] نامه ای باز برای توقف آزمایش های غول پیکر هوش مصنوعی — https://futureoflife.org/open-letter-pause-ai-development/ [2] سهام هوش مصنوعی در حال افزایش است، اما برخی از سرمایه گذاران عصبی می شوند — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] انقلاب هوش مصنوعی در علم: وعده ها و خطرات - https://www.nature.com/articles/d41586-023-03223-y [4] عوامل تهدید از آسیب‌پذیری‌های امن Ivanti Connect Secure و Ivanti Policy سوء استفاده می‌کنند — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] عوامل تهدید از آسیب پذیری رابط کاربری وب نرم افزار Cisco IOS XE استفاده می کنند — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a