اے آئی کی سست روی ایک خلفشار ہے۔ آپ کے گھر میں آگ لگی ہے۔
آئیے دو ٹوک بنیں: ٹیک انڈسٹری آخر کار AI کے ساتھ "یسوع کے پاس آنے" کا لمحہ لے رہی ہے، لیکن یہ حقیقی توبہ کی طرح کم اور ایک اسٹریٹجک محور کی طرح محسوس ہوتا ہے۔ اچانک، اس خوفناک AI ریس کے معمار - ممتاز محققین اور فنانسرز جنہوں نے اپنے کیفین سے چلنے والے اسپرنٹ کو فنڈ فراہم کیا - سست روی کا مطالبہ کر رہے ہیں [1]۔ وہ "اندرونی حکمرانی"، "اخلاقی فریم ورک" اور "زیادہ دانستہ" رفتار کے بارے میں بات کر رہے ہیں۔ اور مارکیٹ، ہمیشہ سے حساس بیرومیٹر، پہلے ہی رد عمل کا اظہار کر چکی ہے، جس میں AI سرمایہ کاری کی پائیداری کے بارے میں خدشات ہیں جس کی وجہ سے چپ اسٹاکس میں اتار چڑھاؤ آتا ہے [2]۔
یہ بیرونی ضابطہ نہیں ہے؛ یہ ایک اندرونی "فالٹ لائن" ہے جو خود AI ماحولیاتی نظام کے اندر سے ابھرتی ہے۔ اور جب کہ C-suite ان کی مستقبل کی تخلیقات کے فلسفیانہ مضمرات پر بحث کرتا ہے، حال فعال طور پر جل رہا ہے۔
آسان توقف
ٹائمنگ پر غور کریں۔ برسوں سے، منتر "تیزی سے حرکت کریں اور چیزوں کو توڑ دیں"، یا حال ہی میں، "تیز حرکت کریں اور AGI بنائیں۔" اب، پہلے سے موجود طاقتور ماڈلز کے ساتھ، مسابقتی زمین کی تزئین کی بڑی حد تک وضاحت کے ساتھ، اور حقیقی، بامعنی ضابطے کی تماشا کے ساتھ، احتیاط کا مطالبہ تھوڑا سا کھوکھلا ہے۔ کیا یہ گہرے خطرات کے بارے میں حقیقی بیداری ہے، یا طاقت کو مستحکم کرنے، حریفوں کو سست کرنے، اور پِچ فورکس کے سامنے آنے سے پہلے عوامی تاثر کو منظم کرنے کے لیے ایک حسابی تدبیر ہے؟
جب آپ پہلے ہی کمپیوٹ، ٹیلنٹ، اور فاؤنڈیشنل ماڈلز پر مارکیٹ کو گھیر چکے ہوں تو احتیاط کی تبلیغ کرنا آسان ہے۔ صنعت کی اچانک توجہ "مصنوعات کے روڈ میپس کی دوبارہ تشخیص، خطرے کی تشخیص، اور اسٹریٹجک منصوبہ بندی" پر بہت اچھا لگتا ہے، لیکن یہ وسائل کو دوبارہ ترتیب دینے کا ایک آسان طریقہ بھی لگتا ہے۔ یہ ممکنہ طور پر اوپن سورس متبادل یا چھوٹے کھلاڑی کو سست کر سکتا ہے جو ضروری وسائل تک رسائی کو کنٹرول کر کے یا ریگولیٹری فریم ورک کو متاثر کر کے قائم کردہ جنات کو چیلنج کر سکتے ہیں۔ "اخلاقی فریم ورک" اچانک سب سے اہم ہے، اس وقت نہیں جب ماڈلز کو کھرچنے والے ڈیٹا پر تربیت دی جا رہی تھی، لیکن اب جب کہ وہ معاشرے کو حقیقی معنوں میں نئی شکل دینے کے لیے کافی طاقتور ہیں۔
علمی اور سائنسی برادریوں کے اندر خدشات کا اظہار کیا گیا، جس میں انتباہ کیا گیا کہ مسائل کو کھولنے کے لیے AI کے "حل" ان کے شعبوں کی سالمیت کے لیے خطرہ بن سکتے ہیں [3]، اس اندرونی تشویش کی گہرائی کا واضح اشارہ ہیں۔ لیکن آئیے اس کو پرہیزگاری کی غلطی نہ کریں۔ یہ ملازمتوں یا بنیادی ڈھانچے پر AI کے اثرات کے بارے میں نہیں ہے۔ یہ کنٹرول کے بارے میں ہے – اسے کون چلاتا ہے، اور کس رفتار سے۔ "کیا ہمیں اسے بنانا چاہیے؟" کے بارے میں بحث کم ہے۔ اور مزید کے بارے میں "کون فیصلہ کرے گا کہ ہم اسے کتنی تیزی سے بناتے ہیں، اور کس کو فائدہ ہوتا ہے؟"
جب وہ مستقبل پر بحث کرتے ہیں، آپ کے حال سے سمجھوتہ کیا جاتا ہے۔
اب، آئیے AI کی اندرونی دراڑ کے تجریدی، مستقبل کے بارے میں فکرمندی سے اپنے نیٹ ورکس پر ابھی سامنے آنے والے فوری، ٹھوس بحران کی طرف توجہ دیں۔ جب کہ AI ٹائٹنز اپنی مشینوں کی روح پر غور کرتے ہیں، آپ کی آپریشنل ٹیمیں سائبر سیکیورٹی کی ایک مکمل تباہی پر قابو پانے کے لیے کوششیں کر رہی ہیں۔
ہم نظریاتی خطرات یا عمومی رجحانات کے بارے میں بات نہیں کر رہے ہیں۔ ہم فاؤنڈیشنل انٹرپرائز سافٹ ویئر میں فعال طور پر استعمال شدہ صفر دن کی کمزوریوں کے بارے میں بات کر رہے ہیں، جو ایک سلیج ہیمر کی طاقت سے اہم انفراسٹرکچر کو نشانہ بنا رہے ہیں۔
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): یہ صرف ایک بگ نہیں ہے؛ یہ ایک زخم ہے. Ivanti کے VPN اور نیٹ ورک تک رسائی کے حل میں موجود ان کمزوریوں کا فعال طور پر فائدہ اٹھایا گیا ہے، جس سے حملہ آوروں کو تصدیق کو نظرانداز کرنے اور ریموٹ کمانڈز پر عمل درآمد کرنے کی اجازت ملتی ہے۔ سی آئی ایس اے نے متعدد انتباہات جاری کیے ہیں، جو ان تنظیموں کے لیے اہم خطرے کو اجاگر کرتے ہیں جو ان سسٹمز پر محفوظ ریموٹ رسائی کے لیے انحصار کرتے ہیں [4]۔ آپ کا بنیادی نیٹ ورک ڈیفنس، ایک چیز جس پر آپ گیٹ پر برے لوگوں کو روکنے کے لیے انحصار کرتے ہیں، حملہ آوروں کو ان گنت انٹرپرائز نیٹ ورکس تک گہری رسائی فراہم کرنے کے لیے فعال طور پر استحصال کیا جا رہا ہے۔
- سسکو IOS XE ویب UI (CVE-2023-20198): زیادہ سے زیادہ شدت۔ فعال طور پر استحصال کیا گیا۔ یہ کمزوری غیر تصدیق شدہ حملہ آوروں کو مراعات یافتہ اکاؤنٹس بنانے اور متاثرہ Cisco IOS XE آلات پر مکمل کنٹرول حاصل کرنے کی اجازت دیتی ہے۔ اگر کوئی حملہ آور آپ کے نیٹ ورک کے بنیادی ڈھانچے کے انتظامی جہاز کا مالک ہے، تو وہ آپ کے پورے نیٹ ورک کا مالک ہے۔ گیم اوور [5]۔
CISA تفریح کے لیے "انتباہات" جاری نہیں کر رہا ہے۔ وہ ایک پرہجوم تھیٹر میں "آگ" چیخ رہے ہیں۔ یہ صرف نظریاتی خطرات نہیں ہیں۔ وہ فعال طور پر عالمی اداروں میں بنیادی دفاع اور انتظامی نظام سے سمجھوتہ کرنے کے لیے استعمال ہو رہے ہیں۔
اصلی فالٹ لائن
ستم ظریفی اتنی موٹی ہے کہ آپ اسے ایک سست چاقو سے کاٹ سکتے ہیں۔ ایک طرف، ہمارے پاس AI اشرافیہ ایک ایسے مستقبل کے اخلاقی مضمرات پر بحث کر رہی ہے جو وہ اب بھی بنا رہے ہیں، برسوں کی غیر چیک شدہ سرعت کے بعد سست روی کا مطالبہ کر رہے ہیں۔ دوسری طرف، ہمیں ہماری موجودہ بنیادی ٹیکنالوجی کا فوری، وجودی خطرہ لاحق ہے، جو بغیر کسی دھیان کے، بے ساختہ کمزوریوں کے بوجھ تلے فعال طور پر گر رہی ہے۔
اصل "فالٹ لائن" صرف AI کمیونٹی کے اندر نہیں ہے۔ یہ اختراع کے ہاتھی دانت کے مینار اور عملی حقیقت کی خندقوں کے درمیان ہے۔ یہ AI کے لیے "سیلف ریگولیشن" کے خلاصہ، مستقبل پر مرکوز بحث اور ان سسٹمز میں حقیقی سیکیورٹی اور استحکام کی فوری، ٹھوس ضرورت کے درمیان ہے جن پر ہم آج بھروسہ کرتے ہیں۔
جیسا کہ CTOs اور انجینئرنگ کی قیادت کرتا ہے، ہم AI سست روی کی فلسفیانہ بحثوں سے مشغول ہونے کے متحمل نہیں ہو سکتے۔ اگرچہ یہ بحثیں طویل مدتی کے لیے اہم ہیں، لیکن جب آپ کے گھر میں آگ لگ رہی ہوتی ہے تو یہ ایک عیش و آرام کی بات ہوتی ہے۔ "مصنوعات کے روڈ میپس کا از سر نو جائزہ" ہمارے موجودہ انفراسٹرکچر کی ٹوٹتی ہوئی بنیادوں کو کم کرنے کے ساتھ شروع ہونا چاہیے۔ "خطرے کی تشخیص" کو فوری طور پر، فعال طور پر استحصال کرنے والے خطرات کو ترجیح دینے کی ضرورت ہے جو آپریشنل تسلسل اور ڈیٹا کی سالمیت آج سے سمجھوتہ کر رہے ہیں۔
صنعت کی ترجیحات متزلزل ہیں۔ ہم ایک ایسی بنیاد پر تیزی سے، چمکدار چیزیں بنا رہے ہیں جو فعال طور پر سڑ رہی ہے۔ AI سست روی کا مطالبہ ایک ضروری بات چیت ہو سکتی ہے، لیکن ہم میں سے ان لوگوں کے لیے جو زمین پر ہیں، Ivanti اور Cisco zero-days کے ساتھ نمٹ رہے ہیں، ایسا محسوس ہوتا ہے کہ پردوں کے رنگ پر بحث ہو رہی ہے جبکہ چھت کے غاروں میں موجود ہیں۔ موجودہ پر توجہ دیں۔ مستقبل اس وقت تک انتظار کر سکتا ہے جب تک کہ ہم فعال طور پر خون بہہ نہ جائیں۔
ذرائع
[1] دیوہیکل AI تجربات کو روکنے کے لیے ایک کھلا خط — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI اسٹاک میں اضافہ ہو رہا ہے، لیکن کچھ سرمایہ کار گھبرا رہے ہیں — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] سائنس میں AI انقلاب: وعدے اور خطرات — https://www.nature.com/articles/d41586-023-03223-y Ivanti Connect Secure اور Ivanti Policy Secure Vulnerabilities کا استحصال کرنے والے دھمکی آمیز اداکار — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] سسکو IOS XE سافٹ ویئر ویب UI کمزوری کا استحصال کرنے والے دھمکی آمیز اداکار — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a