AI سستي هڪ پريشاني آهي. تنهنجي گهر کي باهه لڳي آهي.
اچو ته بيوقوف ٿي وڃون: ٽيڪني صنعت آخرڪار AI سان گڏ "يسوع وٽ اچي" لمحو حاصل ڪري رهي آهي، پر اهو محسوس ٿئي ٿو ته حقيقي توبهه وانگر گهٽ ۽ وڌيڪ هڪ اسٽريٽجڪ محور وانگر. اوچتو، هن خراب AI نسل جا تمام معمار - ممتاز محقق ۽ فنانسرز جن پنهنجي ڪيفين سان ڀريل اسپرنٽ کي فنڊ ڏنو - سست ٿيڻ لاءِ سڏي رهيا آهن [1]. اهي "اندروني حڪمراني"، "اخلاقي فريم ورڪ،" ۽ "وڌيڪ عمدي" رفتار بابت ڳالهائي رهيا آهن. ۽ مارڪيٽ، ڪڏهن به حساس بيروميٽر، اڳ ۾ ئي رد عمل ڪيو آهي، AI سيڙپڪاري جي استحڪام جي باري ۾ خدشات سان چپ اسٽاڪ [2] ۾ عدم استحڪام سبب.
هي خارجي ضابطو نه آهي؛ اها هڪ اندروني ”فالٽ لائن“ آهي جيڪا AI ماحوليات جي اندر مان نڪرندي آهي. ۽ جڏهن سي-سائيٽ انهن جي مستقبل جي تخليقن جي فلسفيائي اثرن تي بحث ڪري ٿو، موجوده فعال طور تي جلائي رهيو آهي.
آسان وقفو
وقت تي غور ڪريو. سالن کان، منتر ڪيو ويو آهي "تيزي سان منتقل ڪريو ۽ شيون ٽوڙيو،" يا وڌيڪ تازو، "تيز منتقل ڪريو ۽ AGI ٺاھيو." هاڻي، طاقتور ماڊل اڳ ۾ ئي مقرر ڪيا ويا آهن، مقابلي واري منظرنامي سان وڏي حد تائين وضاحت ڪئي وئي آهي، ۽ حقيقي، بامعني ضابطي جي تماشي سان، احتياط لاء ڪالون ٿورڙي ڳريون آهن. ڇا اهو گہرے خطرن لاءِ حقيقي بيداري آهي، يا طاقت کي مضبوط ڪرڻ، مقابلن کي سست ڪرڻ، ۽ عوامي تاثر کي منظم ڪرڻ لاءِ هڪ حسابي چال آهي، ان کان اڳ جو پِچفورڪس سامهون اچي؟
اهو احتياط جي تبليغ ڪرڻ آسان آهي جڏهن توهان اڳ ۾ ئي مارڪيٽ، قابليت، ۽ بنيادي ماڊل تي ڪنڊ ڪيو آهي. صنعت جو اوچتو ڌيان "پراڊڪٽ روڊ ميپس جي ٻيهر تشخيص، خطري جي جائزي، ۽ اسٽريٽجڪ پلاننگ" تي سٺو لڳندو آهي، پر اهو پڻ آواز آهي ته وسيلن کي ٻيهر ترتيب ڏيڻ لاء هڪ آسان طريقو آهي. اهو ممڪن طور تي سست ٿي سگهي ٿو اوپن سورس متبادل يا ننڍا رانديگر جيڪي شايد ضروري وسيلن تائين رسائي کي ڪنٽرول ڪرڻ يا ريگيوليٽري فريم ورڪ تي اثرانداز ٿيڻ سان قائم ڪيل جنن کي چئلينج ڪن. ”اخلاقي فريم ورڪ“ اوچتو تمام اهم آهي، نه ته جڏهن ماڊل ٽرين ٿيل ڊيٽا تي سکيا ويندا هئا، پر هاڻي ته اهي ڪافي طاقتور آهن سماج کي حقيقي شڪل ڏيڻ لاءِ.
تعليمي ۽ سائنسي برادرين جي اندر خدشات جو اظهار ڪيو ويو آهي، خبردار ڪيو ويو آهي ته AI "حل" کولڻ جي مسئلن کي انهن جي شعبن جي سالميت کي خطرو ڪري سگهي ٿو [3]، هن اندروني تشويش جي کوٽائي جو هڪ واضح اشارو آهي. پر اچو ته ان کي پرهيزگاري جي غلطي نه ڪريون. هي نوڪرين يا انفراسٽرڪچر تي AI جي اثر بابت ناهي؛ اهو ڪنٽرول بابت آهي - ڪير ان کي هلائي ٿو، ۽ ڪهڙي رفتار تي. بحث گهٽ آهي "ڇا اسان ان کي تعمير ڪرڻ گهرجي؟" ۽ وڌيڪ بابت "ڪير اهو فيصلو ڪري ٿو ته اسان ان کي ڪيتري تيزيءَ سان ٺاهيندا آهيون، ۽ ڪير نفعو؟"
جڏهن اهي مستقبل تي بحث ڪندا آهن، توهان جو حال سمجهوتو ڪيو ويو آهي
ھاڻي، اچو ته خلاصيون، مستقبل جي گھمڻ واري خدشن کان، AI جي اندروني ڀڃ ڊاھ جي فوري، واضح بحران ڏانھن، اسان جي نيٽ ورڪ في الحال تي. جڏهن ته AI ٽائيٽس انهن جي مشينن جي روح تي غور ڪري رهيا آهن، توهان جي آپريشنل ٽيمون مڪمل طور تي ڦهليل سائبر سيڪيورٽي تباهي تي مشتمل آهن.
اسان نظرياتي خطرن يا عام رجحانن بابت نه ڳالهائي رهيا آهيون. اسان بنيادي انٽرپرائز سافٽ ويئر ۾ فعال طور تي استحصال ٿيل صفر-ڏينهن جي ڪمزورين جي باري ۾ ڳالهائي رهيا آهيون، نازڪ انفراسٽرڪچر کي ڇڪڻ واري طاقت سان.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 ۽ CVE-2024-21887): هي صرف هڪ بگ ناهي؛ اهو هڪ زخم آهي. Ivanti جي وي پي اين ۽ نيٽ ورڪ رسائي جي حلن ۾ اهي ڪمزوريون فعال طور تي استحصال ڪيون ويون آهن، حملي ڪندڙن کي اجازت ڏئي ٿي ته هو تصديق کي نظرانداز ڪن ۽ ريموٽ حڪمن تي عمل ڪن. CISA ڪيترن ئي ڊيڄاريندڙن کي جاري ڪيو آهي، انهن تنظيمن لاء نازڪ خطري کي اجاگر ڪندي جيڪي انهن سسٽم تي محفوظ ريموٽ رسائي لاءِ انحصار ڪن ٿا [4]. توهان جو بنيادي نيٽ ورڪ دفاع، هڪ شيء جنهن تي توهان دروازي تي خراب ماڻهن کي روڪڻ تي ڀروسو ڪيو، فعال طور تي استحصال ڪيو پيو وڃي ته حملي ڪندڙن کي بيشمار انٽرنيشنل نيٽ ورڪن تائين گهيرو رسائي فراهم ڪرڻ لاء.
- سسکو IOS XE ويب UI (CVE-2023-20198): وڌ ۾ وڌ شدت. فعال طور تي استحصال. هي ڪمزوري غير تصديق ٿيل حملي ڪندڙن کي اجازت ڏئي ٿي ته اهي امتيازي اڪائونٽ ٺاهي سگهن ۽ متاثر ٿيل Cisco IOS XE ڊوائيسز تي مڪمل ڪنٽرول حاصل ڪن. جيڪڏهن ڪو حملو ڪندڙ توهان جي نيٽ ورڪ انفراسٽرڪچر جي مئنيجمينٽ جهاز جو مالڪ آهي، اهي توهان جي پوري نيٽ ورڪ جا مالڪ آهن. راند ختم ٿي [5].
CISA مذاق لاءِ ”خبردار“ جاري نه ڪري رهيو آهي. اهي رڙيون ڪري رهيا آهن "آگ" هڪ ڀريل ٿيٽر ۾. اهي صرف نظرياتي خطرو نه آهن؛ اهي فعال طور تي استعمال ڪيا پيا وڃن بنيادي دفاعن ۽ انتظامي نظام کي عالمي ادارن ۾ سمجھوتو ڪرڻ لاءِ.
حقيقي غلطي لائن
ستم ظريفي ايتري ٿلهي آهي ته توهان ان کي ٿلهي چاقو سان ڪٽي سگهو ٿا. هڪ پاسي، اسان وٽ AI اشراڪ مستقبل جي اخلاقي اثرن تي بحث ڪري رهيا آهن جيڪي اهي اڃا تائين تعمير ڪري رهيا آهن، سالن جي اڻڄاتل تيز رفتار کان پوء سست ٿيڻ لاء سڏين ٿا. ٻئي طرف، اسان وٽ اسان جي موجوده بنيادي ٽيڪنالاجي جو فوري، وجودي خطرو آهي فعال طور تي اڻ سڌريل، اڻ ڄاتل ڪمزورين جي وزن هيٺ.
حقيقي "غلطي لائن" صرف AI ڪميونٽي جي اندر ناهي؛ اهو جدت جي آئيوري ٽاور ۽ عملي حقيقت جي خندق جي وچ ۾ آهي. اهو AI لاءِ ”خود ضابطي“ جي خلاصي ، مستقبل تي مرکوز بحثن جي وچ ۾ آهي ۽ سسٽم ۾ حقيقي سيڪيورٽي ۽ استحڪام جي فوري ، ڪنڪريٽ ضرورت جي وچ ۾ آهي جنهن تي اسان ا todayڪلهه انحصار ڪريون ٿا.
جيئن ته CTOs ۽ انجنيئرنگ ليڊز، اسان AI سستي جي فلسفياتي بحثن کان پريشان ٿيڻ جي متحمل نٿا ڪري سگهون. جڏهن ته اهي بحث ڊگهي مدت لاء اهم آهن، اهي هڪ عيش آهن جڏهن توهان جو گهر فعال طور تي باهه تي آهي. "پراڊڪٽ روڊ ميپس جو ٻيهر جائزو" اسان جي موجوده انفراسٽرڪچر جي خراب ٿيندڙ بنيادن کي ختم ڪرڻ سان شروع ٿيڻ گهرجي. "خطرن جي تشخيص" کي فوري طور تي، فعال طور تي استحصال ٿيل خطرن کي ترجيح ڏيڻ جي ضرورت آهي جيڪي آپريشنل تسلسل ۽ ڊيٽا جي سالميت سان سمجهوتو ڪري رهيا آهن * اڄ *.
صنعت جي ترجيحن کي ڇڪايو ويو آهي. اسان هڪ بنياد تي تيز، چمڪندڙ شيون ٺاهي رهيا آهيون جيڪا فعال طور تي سڙي رهي آهي. AI سست رفتاري لاءِ ڪال هڪ ضروري گفتگو ٿي سگهي ٿي، پر اسان مان انهن لاءِ جيڪي زمين تي آهن، Ivanti ۽ Cisco zero-days سان ڊيل ڪندي، اهو محسوس ٿئي ٿو ته پردي جي رنگ تي بحث ڪرڻ جڏهن ته ڇت جي غار اندر موجود آهن. مستقبل انتظار ڪري سگھي ٿو جيستائين اسان فعال طور تي خونريزي نه ڪندا آهيون.
ذريعا
[1] وشال AI تجربن کي روڪڻ لاءِ هڪ کليل خط — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI اسٽاڪ وڌي رهيا آهن، پر ڪجهه سيڙپڪار پريشان ٿي رهيا آهن - https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] سائنس ۾ AI انقلاب: واعدو ۽ خطرا - https://www.nature.com/articles/d41586-023-03223-y [4] ڌمڪي وارا اداڪار Ivanti Connect Secure ۽ Ivanti Policy Secure Vulnerabilities جو استحصال ڪن ٿا - https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] سسڪو IOS XE سافٽ ويئر ويب يو آءِ جي ڪمزوري جو استحصال ڪندڙ ڌمڪي وارا اداڪار - https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a