د امپراتور نوی AI، او د هغې لاندې روټینګ بنسټ

د امپراتور نوی AI، او د هغې لاندې روټینګ بنسټ

په یاد ولرئ کله چې AI موږ ټول وژغوري؟ معلومه شوه، ژغورونکي اوس د وخت پای ته رسیدو غوښتنه کوي. په دې وروستیو کې، زموږ د AI لخوا پرمخ وړل شوي راتلونکي معماران - د "سرحد" څیړونکي او مالي درانه وزنونه - په ټولیز ډول بریکونه ووهل، د "خوندیتوب اندیښنو" له امله د پراختیا د ځنډ غوښتنه وکړه [1]. مارکيټ، کله ناکله وسيله، د سږو د ټوخي په ځواب کې ځواب ورکړ: چپ سټاک او د AI لوی لوبغاړي ټيټ شول [2]. بیجینګ ، په وړاندوینې سره ، خبرداریو ته سپکاوی وکړ ، پداسې حال کې چې د سیول چپ جنات د راتلونکي AI پرمختګونو لپاره دمخه تادیاتو ته مخه کړه [2].

دا یوازې د عاج برج لپاره فلسفي بحث نه دی. دا د زلزلې بدلون دی، د صنعت د اشرافو دننه د بې احتیاطۍ عامه اعتراف. او په ریښتیا ، دا یو څه ډیر اسانه دی.

د AI وقفه: پرهیزګاري یا د ځواک لوبه؟

راځئ چې روښانه شو: کله چې هغه خلک چې راکټ یې جوړ کړی ناڅاپه پوه شي چې دوی د پیل کولو وروسته پاراشوټ هیر کړی، دا د ژور اخلاقي بیدارۍ شیبه نه ده. دا یو ځنډول شوی، د ځان خدمت کولو سکریبل دی. دا د پراخو سترګو ایډیالیسټان نه دي؛ دا هغه ټایټان دي چې پیډل فلز ته اړوي، د پراخې ودې او د بازار حاکمیت تعقیبوي. اوس، د "نا اټکل شوي پایلو" د سترگو لیدلو سره - او شاید، په ډیر لیوالتیا سره، دا احساس چې اوسنی سرعت بې ثباته دی یا دا چې دوی د دوی مشرتابه پیاوړي کولو ته اړتیا لري - دوی د ډله ایز ساه غوښتنه کوي.

د بازار غبرګون بیانوي. په چپ سټاک کې ډوب یوازې د ویرې په اړه ندي. دا د احتمالي سستیدو سمدستي مالي اغیزو په اړه دی. د بیجینګ فشار؟ یو روښانه سیګنال چې ملي ستراتیژیکې ګټې ټرمپ د خوندیتوب اندیښنې خلاصوي. او د سیول چپ جوړونکي د دمخه تادیاتو څخه انکار کوي؟ دا د پانګې غږ دی چې د ناڅاپه ناڅرګند راتلونکي اوږدمهاله ثبات او ګټې تر پوښتنې لاندې راولي.

زموږ لپاره، CTOs او انجنیري رهبري، دا په مستقیم ډول په ګډوډ منظره کې ژباړي. د تنظیمي مداخلو تمه وکړئ چې ګړندي شي، د AI پروژو بیا لومړیتوب ورکولو ته اړ کوي. د AI لپاره "چټک حرکت وکړئ او شیان مات کړئ" اخلاق په رسمي ډول مړه شوي ، د "اخلاقي AI پراختیا" چوکاټونو لپاره د زړه راښکونکي لټون لخوا ځای په ځای شوي چې باید له لومړۍ ورځې څخه پخ شوي وي. پانګه اچونه به ډیر محتاط شي، ستراتیژۍ به محور شي، او هو، د کار بازارونه به د یخ احساس وکړي ځکه چې د سرو زرو رش ډیر اندازه شوي، او امید لري، ډیر مسؤلیت، چلند ته لاره هواروي. مګر راځئ چې دا د خالص پرهیزګارۍ لپاره غلط نه کړو. دا "وقف" د کنټرول او بازار بیا تنظیم کولو په اړه خورا ډیر دی لکه څنګه چې دا د ریښتیني خوندیتوب په اړه دی.

پداسې حال کې چې د ټایټنز بحث کیږي، بنسټ ماتیږي

اوس، پداسې حال کې چې د AI اشرافیان د خپل موجود بحران سره مخ دي، د راتلونکي سوپر استخباراتو اخلاقو په اړه بحث کوي، راځئ چې د خورا ریښتیني، خورا اوسني، او په بشپړه توګه ویجاړونکي امنیتي بحران په اړه وغږیږو.

پدې اونۍ کې، CISA ډیری نوي CVEs په خپل پیژندل شوي استحصال شوي زیان منونکي لیست کې اضافه کړل [3]. موږ د سیسکو سیکیور بریښنالیک ګیټی (CVE-2023-20269) [4] کې د تایید شوي روټ RCE په اړه خبرې کوو، په GitLab کې د CVSS 10.0 لار ټراورسل (CVE-2023-2825) [3]، او په دې وروستیو کې پیچ شوي کروم صفر-ورځ (CVE-234) [26-34] غوښتنه کوي. سمدستي پاملرنه.

مګر ریښتیني ګیټ پنچ، هغه څوک چې باید هر امنیتي مسلکي چیغې په باطل کې راولي، د بنسټیزو نیمګړتیاوو دوامداره ګواښ دی. CVE-2021-1647 په پام کې ونیسئ، د مایکروسافټ مدافع د مالویر محافظت انجن [5] کې د ځایی امتیازاتو زیاتوالی زیان منونکی. دا کومه ناڅرګنده نیمګړتیا نه وه؛ دا د مفهوم عامه ثبوت درلود او په ځنګل کې په فعاله توګه استخراج شوی، دا په ګوته کوي چې څنګه زموږ د ډیجیټل دفاع مهمې برخې موافقت کیدی شي او د یوې مودې لپاره زیان منونکي پاتې کیږي.

اجازه راکړئ چې ډوب شي. پداسې حال کې چې موږ د AI احساساتو اخلاقو په اړه بحث کوو، هغه سافټویر چې زموږ د پای ټکي خوندي کولو لپاره ډیزاین شوی، زموږ د ډیجیټل دفاع بنسټیز پرت، په عامه توګه پیژندل شوي، په فعاله توګه ناوړه ګټه اخیستونکي نیمګړتیاوې ښودل شوي چې برید کونکي ته اجازه ورکوي امتیازات لوړ کړي. دا د وارپ ډرایو د فلسفي اغیزو په اړه بحث کولو په څیر دی پداسې حال کې چې ستاسو د موټر بریکونه ناکامیږي او انجن اور لګیدلی وي.

حساب ورکول: د ورته سکې دوه اړخونه

دا جلا کیسې نه دي. دا د ورته ژورې نیمګړتیاوې سکې دوه اړخونه دي: د ټیکنالوژۍ صنعت چې په دوامداره توګه سرعت، نوښت، او د بنسټیز امنیت، ثبات، او مسؤلیت په اړه د پام وړ نوښت ته لومړیتوب ورکوي.

د سستۍ لپاره د AI مشرانو ناڅاپه غوښتنه د کورس د سمولو لپاره یو عکس العمل ، د ځان خدمت کولو هڅه ده * وروسته له دې چې دوی دمخه ځواکمن ، ضعیف پوه شوي سیسټمونه په ځنګل کې خلاص کړي دي. دا اعتراف دی چې "چټک حرکت وکړئ او شیان مات کړئ" منتر ، کله چې په احتمالي توګه د نړۍ بدلولو ټیکنالوژۍ باندې پلي کیږي ، نه یوازې غیر مسؤل ، بلکه خطرناک دی.

د صفر ورځ برید، په ځانګړې توګه د مدافع مهم زیانمنونکي، د ورته ذهنیت مستقیم، دردناکه پایله ده چې په بنسټیز IT کې پلي کیږي. دا د یو کلتور پایله ده چې ډیری وختونه امنیت د هر یو محصول او سیسټم یوه لازمي ، غیر خبرو اترو اجزا پرځای د فکر کولو وروسته ، د موافقت چیک بکس ، یا د لګښت مرکز په توګه چلند کوي. موږ د بل ځلانده څیز په تعقیب دومره بوخت یو - راتلونکی LLM، راتلونکی AI ایجنټ - چې موږ د پښو لاندې ځمکه پریږدو.

د CTOs او انجینرۍ رهبرانو لپاره ، پیغام خورا سخت او سمدستي دی. د هر AI رجحان تعقیب بند کړئ چې ستاسو فیډ تیریږي. په اساساتو دوه چنده ښکته. پیچ کولو ته لومړیتوب ورکړئ ، په ځانګړي توګه د جدي ، فعاله استحصال شوي زیانونو لپاره لکه په سیسکو ، ګیټ لیب کې ، او دوامداره ګواښ چې د مدافع تیرو LPEs لخوا مثال شوی. قوي تخفیفونه پلي کړئ. ستاسو د پلورونکو څخه د دوی د امنیت وضعیت لپاره د حساب ورکولو غوښتنه وکړئ، نه یوازې د دوی د نقشې نقشه.

د بازار خرابوالی او بې بنسټه امنیتي مسلې یوازې خبري توکي ندي. دوی یو حساب دی. یوه ټیک نړۍ چې خورا ګړندۍ ده ، خورا بې پروا ، او په نهایت کې خورا ښکاره شوې. دا وخت دی چې وده وکړو، خپل بنسټونه خوندي کړو، او بیا، یوازې بیا، په احتیاط سره راتلونکي سرحد ته پام وکړئ.

سرچینې

[1] د ژوند انسټیټیوټ راتلونکی - د لوی AI تجربو مخه ونیسئ: یو خلاص لیک - https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC - د AI متخصصین د پرمختللي AI سیسټمونو پراختیا کې د ځنډ غوښتنه کوي - https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA - پیژندل شوي استحصال شوي زیان منونکي کتلاګ - https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] د سیسکو امنیت مشورتي - د سیسکو خوندي بریښنالیک او ویب مدیر، د سیسکو بریښنالیک امنیت وسیله، او د سیسکو ویب امنیت تجهیزاتو زیانمنونکي - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-s-sq5-es [5] د مایکروسافټ امنیت غبرګون مرکز - د مایکروسافټ مدافع د ځایی امتیازاتو زیاتوالی زیانمنتیا - https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647