پرده آهنی دیجیتال فرود می آید و ما همه روی تردمیل وصله می کنیم
چشم انداز یک آینده فناوری یکپارچه جهانی در حال کاهش است. آن دوران گذشته است و بلوک های ژئوپلیتیکی رقیب جایگزین آن شدند. اگر هنوز بر این باور هستید که «منبع باز» ذاتاً نیرویی خنثی و سودمند جهانی است، یا اینکه هوش مصنوعی به سادگی زندگی ما را ساده می‌کند، پس فشار هوش مصنوعی BRICS چین و کشف آسیب‌پذیری مبتنی بر هوش مصنوعی مایکروسافت، این مفروضات را به چالش می‌کشد. ما شاهد تکه تکه شدن عمدی و استراتژیک دنیای دیجیتال هستیم و این کار شما را به میزان قابل توجهی چالش برانگیز می کند.
منبع باز، با نام تجاری مجدد: The BRICS AI Gambit
پیشنهاد چین برای رهبری جامعه مدل زبان بزرگ منبع باز (LLM) در بریکس صرفاً یک تمرین آکادمیک نیست. این یک بازی قدرت ژئوپلیتیکی است که به زبان توسعه‌دهنده‌های پسند ارائه شده است [1]. این جنبش منبع باز آنطور که پیشگامان اولیه آن تصور می کردند نیست. این یک "متن باز" با دستور کار مورد حمایت دولت، یک ضد روایت عمدی در برابر تسلط فناوری غرب است. آن را یک ابتکار دیجیتالی کمربند و جاده برای هوش مصنوعی در نظر بگیرید، زیرساخت ها و استانداردهایی را ایجاد می کند که به طور اجتناب ناپذیری از استانداردهایی که توسط سیلیکون ولی و متحدانش حمایت می شود، متفاوت است.
برای مدیران ارشد فناوری و مدیران مهندسی، این یک سیاست انتزاعی نیست. این به معنای انشعاب بالقوه استخر جهانی استعداد هوش مصنوعی است. آیا بهترین محققان و توسعه‌دهندگان شما به سمت مدل‌ها و چارچوب‌هایی می‌روند که با حاکمیت داده‌ها و دستورالعمل‌های اخلاقی غربی همخوانی دارند، یا فرصت‌هایی را در اکوسیستم BRICS که به سرعت در حال گسترش است با استانداردهای متمایز خود دنبال می‌کنند؟ پاسخ سرراست نیست و پیامدهای آن برای کسب استعداد و حفظ آن عمیق است.
علاوه بر این، این حرکت مستقیماً قابلیت همکاری که ما در فناوری جهانی انتظار داریم را به چالش می کشد. سناریویی را تصور کنید که در آن LLM "منبع باز" شما، آموزش دیده بر روی مجموعه داده های همسو با BRICS و پایبندی به چارچوب های اخلاقی خود، برای ادغام یکپارچه با برنامه های کاربردی یا خدمات ابری توسعه یافته غربی مبارزه می کند. ما با حاکمیت داده‌های متفاوت، معماری‌های مدل ناسازگار بالقوه، و هزارتوی نظارتی روبرو هستیم که GDPR را ساده به نظر می‌رساند. این نابودی هوش مصنوعی منبع باز نیست. این استقرار استراتژیک آن است، ایجاد یک جایگزین غیر غربی که برای سهم بازار، اشتراک ذهنی و در نهایت نفوذ جهانی رقابت خواهد کرد. زنجیره تامین شما برای مدل‌های هوش مصنوعی بسیار پیچیده‌تر شده است و تیم انطباق شما به منابع بیشتری نیاز دارد.
تردمیل مجهز به هوش مصنوعی: "هدیه" امنیتی مایکروسافت
اکنون بیایید از استراتژی ژئوپلیتیکی به واقعیت های عملیاتی تغییر جهت دهیم. مایکروسافت اخیراً فاش کرده است که سیستم کشف آسیب‌پذیری مبتنی بر هوش مصنوعی در حال کشف تعداد قابل توجهی از نقص‌ها است [2]. این منجر به افزایش قابل توجه اصلاحات مورد نیاز می شود. در ظاهر، این مانند یک پیروزی به نظر می رسد: هوش مصنوعی با یافتن سریعتر اشکالات، نرم افزار ما را ایمن تر می کند. اما دقیق تر نگاه کنید و یک چرخه جدید، سریعتر و طاقت فرساتر برای هر تیم فناوری اطلاعات و امنیت در این سیاره خواهید یافت.
این در مورد بهره برداری هوش مصنوعی از روزهای صفر نیست. این در مورد هوش مصنوعی کشف آنها با سرعتی بی سابقه است. و پس چه کسی مسئول اصلاح این صدها آسیب پذیری تازه شناسایی شده، اغلب در سیستم های سازمانی پیچیده و به هم پیوسته است؟ این شما خواهید بود، و تیم‌هایی که قبلاً کشیده‌اند. هوش مصنوعی چرخه افشای آسیب‌پذیری‌ها را با سرعتی شتاب‌بخش تسریع کرده است، اما ظرفیت انسانی برای وصله‌سازی و اعتبارسنجی به‌طور جادویی همگام نشده است.
"منافع" در اینجا یک مزیت پیچیده است. بله، سیستم های ما می توانند ایمن تر باشند زیرا نقص های بیشتری پیدا می شود. اما واقعیت عملیاتی یک بار کاری ثابت و در حال افزایش است. استراتژی‌های اصلاح، تخصیص منابع و حتی مدل‌های ارزیابی ریسک شما نیاز به ارزیابی مجدد اساسی دارند. آهنگ سنتی "پچ سه شنبه" در حال تبدیل شدن به یک مفهوم منسوخ شده است و جای خود را به یک اسپرینت مداوم و با شدت بالا داده است. این فقط در مورد مدیریت وصله های بیشتر نیست. این در مورد مدیریت پیچیدگی آن وصله ها، پتانسیل رگرسیون، و حجم عظیم مدیریت تغییر مورد نیاز است. هوش مصنوعی، در این مثال، امنیت را ساده نمی کند. بار عملیاتی را تشدید می کند و از منابع انسانی در حال حاضر فشار بیشتری می طلبد.
آینده تکه تکه شده
این دو پیشرفت، به ظاهر متفاوت، تصویری ثابت را ترسیم می‌کنند: هوش مصنوعی، به دور از اینکه یک نیروی متحدکننده یا ساده‌کننده باشد، به طور فعال به ایجاد یک محیط تکنولوژیکی پراکنده‌تر و خواستار کمک می‌کند. ابتکار هوش مصنوعی BRICS نشان دهنده چندپارگی ژئوپلیتیک است و ما را وادار می کند تا با استانداردها و اکوسیستم های متفاوت مبارزه کنیم. وصله‌سازی مبتنی بر هوش مصنوعی مایکروسافت نشان‌دهنده تقسیم‌بندی عملیاتی است، جایی که سرعت کشف از سهولت مدیریت پیشی می‌گیرد و منجر به کار واکنشی دائمی می‌شود.
به عنوان رهبران فناوری، ما دیگر نمی توانیم خوش بینی ساده لوحانه را تحمل کنیم. دنیای دیجیتال در حال تقسیم شدن است و ابزارهایی که می‌سازیم، حتی آنهایی که برای دفاع طراحی شده‌اند، سریعتر از حل چالش‌های قدیمی، چالش‌های جدیدی ایجاد می‌کنند. برنامه‌ریزی استراتژیک شما اکنون باید بازار جهانی هوش مصنوعی دوشاخه را در نظر بگیرد، جایی که «منبع باز» تعاریف متعدد و بالقوه متناقضی دارد. تیم های عملیاتی شما باید برای چرخه تعمیر و نگهداری امنیتی بی وقفه و با شتاب هوش مصنوعی که محدودیت های آنها را آزمایش می کند، آماده شوند. آینده در مورد پیچیدگی کمتر نیست. این در مورد مدیریت بیشتر آن، سریعتر، و در سراسر دامنه های به طور فزاینده شکسته است. انطباق یا بی ربط بودن خطر
منابع
[1] چین پلتفرم هوش مصنوعی منبع باز BRICS را پیشنهاد می کند — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] وبلاگ امنیتی مایکروسافت: چگونه هوش مصنوعی به ما در محافظت از مشتریان کمک می کند — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/