شہنشاہ کا نیا AI، اور اس کے نیچے روٹنگ فاؤنڈیشن

شہنشاہ کا نیا AI، اور اس کے نیچے روٹنگ فاؤنڈیشن

یاد ہے جب AI ہم سب کو بچانے والا تھا؟ پتہ چلتا ہے، نجات دہندگان اب وقت ختم ہونے کا مطالبہ کر رہے ہیں۔ ابھی حال ہی میں، ہمارے AI سے چلنے والے مستقبل کے معمار - "فرنٹیئر" محققین اور مالیاتی ہیوی ویٹ - نے اجتماعی طور پر بریک لگائی، "بڑھتی ہوئی حفاظتی خدشات" کی وجہ سے ترقی میں کمی کا مطالبہ کیا [1]۔ مارکیٹ، کبھی کند آلہ، پھیپھڑوں کو کھانسی کے ذریعے جواب دیا: چپ اسٹاک اور بڑے AI کھلاڑی گر گئے [2]۔ بیجنگ، متوقع طور پر، انتباہات کا مذاق اڑایا، جبکہ سیئول کے چپ کمپنیاں مستقبل میں AI کی پیشرفت کے لیے پیشگی ادائیگیوں سے باز رہیں [2]۔

یہ ہاتھی دانت کے ٹاور کے لیے صرف ایک فلسفیانہ بحث نہیں ہے۔ یہ ایک زلزلہ تبدیلی ہے، صنعت کی اشرافیہ کے اندر سے لاپرواہی کا عوامی اعتراف۔ اور سچ کہوں تو یہ تھوڑا بہت آسان ہے۔

AI توقف: پرہیزگاری یا پاور پلے؟

آئیے واضح کریں: جب راکٹ بنانے والے لوگوں کو اچانک احساس ہوتا ہے کہ وہ لانچ کے *بعد پیراشوٹ بھول گئے ہیں، تو یہ گہری اخلاقی بیداری کا لمحہ نہیں ہے۔ یہ ایک تاخیر سے، خود خدمت کرنے والا جھگڑا ہے۔ یہ چوڑی آنکھوں والے آئیڈیلسٹ نہیں ہیں۔ یہ وہ ٹائٹنز ہیں جو پیڈل کو دھات کی طرف دھکیل رہے ہیں، تیزی سے ترقی اور مارکیٹ کے غلبہ کا پیچھا کر رہے ہیں۔ اب، "غیر متوقع نتائج" کے تماشے کے ساتھ، اور شاید، زیادہ مذموم طور پر، یہ احساس کہ موجودہ رفتار غیر پائیدار ہے یا انہیں اپنی برتری کو مضبوط کرنے کی ضرورت ہے- وہ اجتماعی سانس لینے کا مطالبہ کر رہے ہیں۔

مارکیٹ کا ردعمل بتا رہا ہے۔ چپ اسٹاک میں کمی صرف خوف کے بارے میں نہیں ہے۔ یہ ممکنہ سست روی کے فوری مالی اثرات کے بارے میں ہے۔ بیجنگ کا پش بیک؟ ایک واضح اشارہ ہے کہ قومی تزویراتی فائدہ حفاظتی خدشات کو ختم کرتا ہے۔ اور سیئول کے چپ بنانے والے پہلے سے ادائیگیوں سے انکار کر رہے ہیں؟ یہ اچانک غیر یقینی مستقبل کے طویل مدتی استحکام اور منافع پر سوال اٹھانے والے سرمائے کی آواز ہے۔

ہمارے لیے، CTOs اور انجینئرنگ لیڈز، یہ براہ راست ایک افراتفری کے منظر نامے میں ترجمہ کرتا ہے۔ توقع ہے کہ ریگولیٹری مداخلتوں میں تیزی آئے گی، جس سے AI منصوبوں کو دوبارہ ترجیح دی جائے گی۔ AI کے لیے "تیزی سے آگے بڑھو اور چیزوں کو توڑ دو" اخلاق باضابطہ طور پر ختم ہو چکا ہے، جس کی جگہ "اخلاقی AI ڈیولپمنٹ" کے فریم ورکس کے لیے جنونی تلاش نے لے لی ہے جو پہلے دن سے ہی تیار ہو جانا چاہیے تھا۔ سرمایہ کاری زیادہ محتاط ہو جائے گی، حکمت عملیوں کا محور ہو جائے گا، اور ہاں، ملازمت کی منڈیوں میں سردی محسوس ہو گی کیونکہ سونے کا رش زیادہ پیمائش اور امید ہے کہ زیادہ ذمہ دارانہ انداز اختیار کرتا ہے۔ لیکن آئیے اس کو خالص پرہیزگاری کی غلطی نہ کریں۔ یہ "توقف" اتنا ہی کنٹرول اور مارکیٹ ری کیلیبریشن کے بارے میں ہے جتنا کہ یہ حقیقی حفاظت کے بارے میں ہے۔

ٹائٹنز کی بحث کے دوران، فاؤنڈیشن ٹوٹ جاتی ہے۔

اب، جب کہ AI اشرافیہ اپنے وجودی بحران سے دوچار ہے، مستقبل کی سپر انٹیلی جنس کی اخلاقیات پر بحث کر رہی ہے، آئیے ابھی سامنے آنے والے انتہائی حقیقی، انتہائی موجودہ، اور مکمل طور پر تباہ کن سیکیورٹی بحران کے بارے میں بات کرتے ہیں۔

اس ہفتے، CISA نے اپنے Known Exploited Vulnerabilities کیٹلوگ میں متعدد نئے CVEs شامل کیے [3]۔ ہم سسکو سیکیور ای میل گیٹ وے (CVE-2023-20269) [4] میں ایک تصدیق شدہ جڑ RCE کے بارے میں بات کر رہے ہیں، GitLab میں ایک CVSS 10.0 پاتھ ٹراورسل (CVE-2023-2825) [3]، اور حال ہی میں پیچ شدہ Chrome zero-day (CVE-23-3) کی مانگ ہے فوری توجہ.

لیکن اصل گٹ پنچ، جو ہر سیکورٹی پروفیشنل کی چیخ کو باطل میں ڈال دیتا ہے، بنیادی خامیوں کا مستقل خطرہ ہے۔ CVE-2021-1647 پر غور کریں، جو مائیکروسافٹ ڈیفنڈر کے مالویئر پروٹیکشن انجن میں مقامی استحقاق میں اضافے کا خطرہ ہے [5]۔ یہ کوئی غیر واضح خامی نہیں تھی۔ اس کا ایک عوامی ثبوت کا تصور تھا اور اس کا جنگل میں فعال طور پر استحصال کیا گیا، اس بات پر روشنی ڈالی گئی کہ ہمارے ڈیجیٹل دفاع کے اہم اجزاء سے کس طرح سمجھوتہ کیا جا سکتا ہے اور یہ ایک مدت تک غیر محفوظ رہ سکتے ہیں۔

اسے ڈوبنے دو۔ جب ہم AI جذبات کی اخلاقیات پر بحث کر رہے ہیں، ہمارے اختتامی نقطوں کی حفاظت کے لیے ڈیزائن کیا گیا بہت ہی سافٹ ویئر، ہمارے ڈیجیٹل دفاع کی بنیادی پرت، کو عوامی طور پر معلوم، فعال طور پر استحصال کی گئی خامیوں کو محفوظ کرنے کے لیے دکھایا گیا ہے جو حملہ آور کو مراعات کو بلند کرنے کی اجازت دیتی ہیں۔ یہ وارپ ڈرائیو کے فلسفیانہ مضمرات کے بارے میں بحث کرنے کے مترادف ہے جب آپ کی گاڑی کے بریک فیل ہو رہے ہوں اور انجن میں آگ لگ رہی ہو۔

حساب: ایک ہی سکے کے دو رخ

یہ الگ الگ کہانیاں نہیں ہیں۔ یہ ایک ہی گہرے ناقص سکے کے دو رخ ہیں: ایک ٹیک انڈسٹری جس نے بنیادی سلامتی، استحکام اور ذمہ داری پر رفتار، نیاپن، اور سمجھی جدت کو مستقل طور پر ترجیح دی ہے۔

AI رہنماؤں کی سست روی کے لئے اچانک کال ایک رد عمل، خود خدمت کرنے کی کوشش ہے جس کے بعد* وہ پہلے ہی طاقتور، ناقص سمجھے جانے والے نظام کو جنگل میں اتار چکے ہیں۔ یہ ایک اعتراف ہے کہ "تیز حرکت کرو اور چیزوں کو توڑ دو" منتر، جب ممکنہ طور پر دنیا کو بدلنے والی ٹیکنالوجی پر لاگو کیا جاتا ہے، نہ صرف غیر ذمہ دارانہ، بلکہ خطرناک ہے۔

صفر دن کا حملہ، خاص طور پر اہم محافظ کمزوری، بنیادی آئی ٹی پر لاگو اسی ذہنیت کا براہ راست، دردناک نتیجہ ہے۔ یہ ایک ایسے کلچر کا نتیجہ ہے جو اکثر سیکورٹی کو ہر ایک پروڈکٹ اور سسٹم کے ایک اٹوٹ، غیر گفت و شنید جزو کے بجائے ایک سوچ سمجھ کر، ایک تعمیل چیک باکس، یا ایک لاگت کا مرکز سمجھتا ہے۔ ہم اگلی چمکدار چیز — اگلی LLM، اگلی AI ایجنٹ — کا پیچھا کرنے میں اتنے مصروف ہیں کہ ہم نے اپنے پیروں کے نیچے کی زمین کو سڑنے دیا ہے۔

CTOs اور انجینئرنگ لیڈز کے لیے، پیغام سخت اور فوری ہے۔ آپ کے فیڈ کو عبور کرنے والے ہر AI رجحان کا پیچھا کرنا بند کریں۔ بنیادی اصولوں پر دوگنا نیچے۔ پیچنگ کو ترجیح دیں، خاص طور پر اہم، فعال طور پر استحصال کی جانے والی کمزوریوں جیسے کہ Cisco، GitLab میں، اور ڈیفنڈر کے ماضی کے LPEs کے ذریعہ مسلسل خطرہ کی مثال۔ مضبوط تخفیف کو نافذ کریں۔ اپنے وینڈرز سے ان کی حفاظتی کرنسی کے لیے جوابدہی کا مطالبہ کریں، نہ صرف ان کے فیچر روڈ میپ کے لیے۔

مارکیٹ کی گڑبڑ اور غیر حل شدہ بنیادی حفاظتی مسائل صرف خبروں کی چیزیں نہیں ہیں۔ وہ ایک حساب کتاب ہیں۔ ایک ٹیک دنیا جو بہت تیز، بہت لاپرواہ، اور آخر میں، بہت بے نقاب ہے۔ اب وقت آگیا ہے کہ ہم بڑے ہوں، اپنی بنیادوں کو محفوظ بنائیں، اور پھر، تب ہی، احتیاط سے اگلی سرحد پر غور کریں۔

ذرائع

[1] لائف انسٹی ٹیوٹ کا مستقبل — جائنٹ اے آئی کے تجربات کو روکیں: ایک کھلا خط — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI ماہرین نے جدید AI سسٹمز کی ترقی کو روکنے کا مطالبہ کیا — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — معروف استحصالی خطرات کا کیٹلاگ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] سسکو سیکیورٹی ایڈوائزری — سسکو سیکیور ای میل اور ویب مینیجر، سسکو ای میل سیکیورٹی اپلائنس، اور سسکو ویب سیکیورٹی ایپلائینس کی کمزوریاں — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-sqa-es-5 [5] مائیکروسافٹ سیکیورٹی رسپانس سینٹر - مائیکروسافٹ ڈیفنڈر لوکل پریلیج ایسکلیشن ولنریبلٹی - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647