شهنشاهه جو نئون AI، ۽ ان جي هيٺان روٽنگ فائونڊيشن
ياد رکو جڏهن AI اسان سڀني کي بچائڻ وارو هو؟ ٻاهر نڪري ويو، نجات ڏيندڙ هاڻي وقت لاء پڇي رهيا آهن. تازو ئي، اسان جي AI پاران هلندڙ مستقبل جا تمام معمار- ”فرنٽيئر“ محقق ۽ مالي وڏي وزن وارا- مجموعي طور تي بريڪ لڳن ٿا، ”اڪڙجڻ واري حفاظتي خدشات“ جي ڪري ترقي ۾ گهٽتائي جو مطالبو ڪيو [1]. مارڪيٽ، ڪڏهن به ٺهڪندڙ اوزار، هڪ ڦڦڙن کي ڪنگڻ سان جواب ڏنو: چپ اسٽاڪ ۽ اهم AI رانديگرن کي ختم ڪيو [2]. بيجنگ، پيش گوئي طور تي، ڊيڄاريندڙن تي ٺٺوليون ڪيون، جڏهن ته سيول جي چپ ديو مستقبل جي AI جي واڌاري لاءِ اڳڀرائي جي ادائيگين تي زور ڀريو [2].
اهو صرف هڪ فلسفياتي بحث نه آهي، آئيوري ٽاور لاء. هي هڪ زلزلي واري شفٽ آهي، صنعت جي اشرافيه جي اندر جي لاپرواهي جو عوامي اعتراف. ۽ سچ پچ، اهو ٿورڙو تمام آسان آهي.
The AI Pause: Altruism يا Power Play؟
اچو ته واضع ٿي وڃو: جڏهن ماڻهو اوچتو راڪيٽ ٺاهي رهيا آهن ته اهي پيراشوٽ کي وساري ڇڏيا آهن * لانچ کان پوء، اهو گہرے اخلاقي بيداري جو لمحو ناهي. اهو هڪ دير سان، خود خدمت ڪندڙ اسڪربل آهي. اهي وسيع اکين وارا مثالي نه آهن؛ اهي ٽائيٽس آهن جيڪي پيڊل کي ڌاتو ڏانهن ڌڪي رهيا آهن، تيز رفتار ترقي ۽ مارڪيٽ جي تسلط جو تعاقب ڪن ٿا. ھاڻي، ”غير متوقع نتيجن“ جي تماشي سان وڏي ٿي رھي آھي- ۽ شايد، وڌيڪ سنجيدگيءَ سان، اھو احساس ته موجوده رفتار غير مستحڪم آھي يا انھن کي پنھنجي اڳواڻي کي مضبوط ڪرڻ جي ضرورت آھي- اھي ھڪ اجتماعي سانس لاءِ سڏي رھيا آھن.
مارڪيٽ جو ردعمل ٻڌائي رهيو آهي. چپ اسٽاڪ ۾ هڪ ڊپ صرف خوف بابت ناهي؛ اهو هڪ امڪاني سستي جي فوري مالي اثرن بابت آهي. بيجنگ جي پش بیک؟ هڪ واضح اشارو آهي ته قومي اسٽريٽجڪ فائدو ٽراپ حفاظتي خدشات کي ختم ڪري ٿو. ۽ سيول جا چپ ٺاهيندڙ اڳواٽ ادائيگي کان انڪار ڪري رهيا آهن؟ اهو سرمائي جو آواز آهي جيڪو اوچتو غير يقيني مستقبل جي ڊگهي مدت جي استحڪام ۽ منافعي بابت سوال ڪري ٿو.
اسان لاءِ، سي ٽي اوز ۽ انجنيئرنگ ليڊز، هي سڌو سنئون هڪ افراتفري واري منظرنامي ۾ ترجمو ڪري ٿو. ريگيوليٽري مداخلت کي تيز ڪرڻ جي اميد رکو، AI منصوبن کي ٻيهر ترجيح ڏيڻ تي مجبور ڪيو. AI لاءِ ”تيز رفتار ۽ بريڪ شيون“ اخلاقيات باضابطه طور تي مري چڪي آهي ، ان جي جاءِ تي ”اخلاقي AI ڊولپمينٽ“ فريم ورڪ لاءِ هڪ خوفناڪ ڳولا جيڪا پهرين ڏينهن کان پڪي ٿيڻ گهرجي ها. سيڙپڪاري وڌيڪ محتاط ٿي ويندي، حڪمت عمليون محور ٿينديون، ۽ ها، نوڪري مارڪيٽن کي ٿڌو محسوس ٿيندو جيئن سون جي رش وڌيڪ ماپي، ۽ اميد آهي ته، وڌيڪ ذميوار، طريقي سان. پر اچو ته ان کي خالص پرهيزگاري جي غلطي نه ڪريون. هي "روڪ" جيترو ڪنٽرول ۽ مارڪيٽ جي ٻيهر حساب ڪتاب بابت آهي جيترو اهو حقيقي حفاظت بابت آهي.
جڏهن Titans بحث مباحثو، فائونڊيشن خراب ٿي وئي
هاڻي، جڏهن ته AI اشرافيه پنهنجي وجودي بحران کي منهن ڏئي رهيا آهن، مستقبل جي سپر انٽيليجنس جي اخلاقيات تي بحث ڪري رهيا آهن، اچو ته حقيقت جي باري ۾ ڳالهايون، بلڪل موجوده، ۽ مڪمل طور تي تباهي واري سيڪيورٽي بحران کي ظاهر ڪري رهيو آهي * في الحال *.
هن هفتي، CISA ڪيترن ئي نئين CVEs کي شامل ڪيو ان جي ڄاتل استحصالي ڪمزورين جي فهرست ۾ [3]. اسان سسڪو سيڪيور اي ميل گيٽ وي (CVE-2023-20269) [4] ۾ هڪ تصديق ٿيل روٽ RCE بابت ڳالهائي رهيا آهيون، GitLab (CVE-2023-2825) [3] ۾ هڪ CVSS 10.0 رستو ٽرورسل (CVE-2023-2825) [3]، ۽ تازو ئي پيچ ٿيل ڪروم صفر-ڏينهن جو مطالبو ڪيو ويو (CVE-2023-4) فوري طور تي ڌيان ڏيڻ.
پر حقيقي گٽ پنچ، جيڪو هر سيڪيورٽي پروفيشنل چيخ کي خالي ڪرڻ گهرجي، بنيادي خامين جو مسلسل خطرو آهي. CVE-2021-1647 تي غور ڪريو، Microsoft Defender's Malware Protection Engine [5] ۾ مقامي استحقاق وڌائڻ واري خطري کي. اها ڪا غير واضح نقص نه هئي؛ ان ۾ عوامي ثبوت جو تصور هو ۽ جهنگ ۾ فعال طور تي استحصال ڪيو ويو، اهو نمايان ڪري ٿو ته ڪيئن اسان جي ڊجيٽل دفاع جا نازڪ جزا سمجھوتا ٿي سگهن ٿا ۽ هڪ عرصي تائين ڪمزور رهندا.
ان کي اندر وڃڻ ڏيو. جڏهن اسان AI جذبي جي اخلاقيات تي بحث ڪري رهيا آهيون، اسان جي آخري نقطي جي حفاظت لاءِ ٺهيل سافٽ ويئر، اسان جي ڊجيٽل دفاع جو بنيادي پرت، ڏيکاريو ويو آهي ته عوامي طور تي سڃاتل، فعال طور تي استحصال ٿيل خاميون جيڪي هڪ حملي آور کي اجازت ڏين ٿيون ته هو امتياز کي بلند ڪن. اهو وارپ ڊرائيو جي فلسفياتي اثرن بابت بحث ڪرڻ جهڙو آهي جڏهن توهان جي ڪار جي برڪس ناڪام ٿي رهيا آهن ۽ انجڻ کي باهه لڳندي آهي.
حساب ڪتاب: هڪ ئي سڪي جا ٻه پاسا
اهي الڳ ڪهاڻيون نه آهن. اهي ٻه پاسا آهن ساڳئي گندي ناقص سڪي جا: هڪ ٽيڪنيڪي صنعت جنهن کي بنيادي سلامتي، استحڪام، ۽ ذميواري تي مسلسل رفتار، نوانٽي، ۽ سمجهيل جدت کي ترجيح ڏني وئي آهي.
AI اڳواڻن جو اوچتو ڪال سستي لاءِ هڪ رد عمل آهي ، خود خدمت ڪرڻ واري ڪوشش کي درست ڪرڻ جي * کان پوءِ * انهن اڳ ۾ ئي طاقتور ، ناقص سمجھيل نظام کي جهنگ ۾ اڇلائي ڇڏيو آهي. اهو هڪ اعتراف آهي ته ”تيزي سان هلو ۽ شين کي ٽوڙيو“ منتر، جڏهن ممڪن طور تي دنيا کي تبديل ڪرڻ واري ٽيڪنالاجي تي لاڳو ٿئي ٿو، نه رڳو غير ذميوار، پر خطرناڪ آهي.
صفر-ڏينهن جو حملو، خاص طور تي نازڪ محافظ نقصان، اهو ساڳيو ذهنيت جو سڌو، دردناڪ نتيجو آهي جيڪو بنيادي آئي ٽي تي لاڳو ڪيو ويو آهي. اهو هڪ ڪلچر جو نتيجو آهي جيڪو اڪثر ڪري سيڪيورٽي کي هر هڪ پراڊڪٽ ۽ سسٽم جي هڪ لازمي، غير گفتو شناس جزو جي بدران هڪ بعد ۾ سوچڻ، هڪ تعميل چيڪ بڪس، يا هڪ قيمت سينٽر سمجهي ٿو. اسان ايترا مصروف آهيون ته ايندڙ چمڪندڙ شئي- ايندڙ LLM، ايندڙ AI ايجنٽ- کي ڳولڻ ۾ ته اسان پنهنجي پيرن هيٺان زمين ئي سڙي ڇڏي آهي.
CTOs ۽ انجنيئرنگ ليڊز لاءِ، پيغام سخت ۽ فوري آهي. هر AI رجحان جو تعاقب ڪرڻ بند ڪريو جيڪو توهان جي فيڊ کي پار ڪري ٿو. بنيادي اصولن تي ٻه ڀيرا. پيچنگ کي ترجيح ڏيو، خاص طور تي نازڪ، فعال طور تي استحصال ٿيل ڪمزورين لاءِ جيئن سسڪو، گيٽ ليب ۾، ۽ مسلسل خطري جو مثال محافظ جي ماضي جي LPEs پاران. مضبوط گھٽتائي تي عمل ڪريو. توهان جي وينڊرز کان انهن جي حفاظتي پوزيشن لاءِ احتساب جو مطالبو ڪريو، نه صرف انهن جي فيچر روڊ ميپ.
مارڪيٽ جي خرابي ۽ اڻ ڄاڻايل بنيادي سيڪيورٽي مسئلا صرف خبرون شيون نه آهن. اهي هڪ حساب ڪتاب آهن. هڪ ٽيڪنالاجي دنيا جيڪا تمام تيز، تمام بي پرواهه، ۽ آخرڪار، تمام بي نقاب. اهو وقت آهي اڳتي وڌڻ جو، اسان جي بنيادن کي محفوظ ڪرڻ، ۽ پوء، * صرف تڏهن *، احتياط سان ايندڙ محاذ تي غور ڪريو.
ذريعا
[1] مستقبل جو لائف انسٽيٽيوٽ - Pause Giant AI تجربن: هڪ کليل خط - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - AI ماهرن ترقي يافته AI سسٽم جي ترقي کي روڪڻ لاءِ سڏين ٿا - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - ڄاتل استحصالي ڪمزورين جي فهرست - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] سِسڪو سيڪيورٽي ايڊوائيزري — سِسڪو سيڪيور اي ميل ۽ ويب مئنيجر، سِسڪو اي ميل سيڪيورٽي اپلائنس، ۽ سِسڪو ويب سيڪيورٽي اپلائنس جي ڪمزورين — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-sq5-es-a- [5] Microsoft سيڪيورٽي رسپانس سينٽر — Microsoft Defender Local Privile Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647