ဧကရာဇ်၏ AI အသစ်နှင့် ၎င်းအောက်ရှိ ပုပ်ပွနေသောဖောင်ဒေးရှင်း
AI သည် ကျွန်ုပ်တို့အားလုံးကို ကယ်တင်မည့်အချိန်ကို မှတ်မိပါသလား။ ကယ်တင်ရှင်တွေက အချိန်ကုန်ဖို့ တောင်းဆိုနေကြပြီ။ မကြာသေးမီကပင်၊ ကျွန်ုပ်တို့၏ AI မောင်းနှင်သော အနာဂတ်၏ ဗိသုကာပညာရှင်များဖြစ်သည့် "နယ်ခြား" သုတေသီများနှင့် ဘဏ္ဍာရေးဆိုင်ရာ ဟဲဗီးဝိတ်များ- "ဘေးကင်းရေး စိုးရိမ်မှုများ" [1] ကြောင့် ဖွံ့ဖြိုးတိုးတက်မှုအရှိန်ကို အရှိန်မြှင့်ရန် တောင်းဆိုခဲ့ကြသည်။ စျေးကွက်သည် အဆုတ်ကို ချောင်းဆိုးခြင်းဖြင့် တုံ့ပြန်ခဲ့သည်- ချစ်ပ်စတော့များနှင့် အဓိက AI ကစားသူများ ကျဆင်းသွားသည် [2]။ ပေကျင်းသည် ကြိုတင်မှန်းဆထားသော သတိပေးချက်များကို မထီမဲ့မြင်ပြုခဲ့ပြီး ဆိုးလ်၏ချစ်ပ်ကုမ္ပဏီကြီးများသည် အနာဂတ် AI တိုးတက်မှုများအတွက် ကြိုတင်ငွေပေးချေမှုများကို ဒေါသတကြီးပြောနေချိန်တွင် ဘေဂျင်းသည် အဆိုပါသတိပေးချက်များကို လှောင်ပြောင်ခဲ့သည်။
ဤသည်မှာ ဆင်စွယ်မျှော်စင်အတွက် အတွေးအခေါ်ဆိုင်ရာ ငြင်းခုံမှုတစ်ခုမျှသာ မဟုတ်ပါ။ ဤသည်မှာ ငလျင်လှုပ်ခတ်မှု အပြောင်းအလဲဖြစ်ပြီး လုပ်ငန်း၏ အထက်တန်းစားများအတွင်းမှ မဆင်မခြင် မဆင်မခြင် ဝန်ခံချက်ဖြစ်သည်။ ပွင့်ပွင့်လင်းလင်းပြောရရင် နည်းနည်းအဆင်ပြေလွန်းတယ်။
AI ခေတ္တရပ်ခြင်း- Altruism သို့မဟုတ် Power Play?
ရှင်းရှင်း ပြောရရင်- ဒုံးပျံကို တည်ဆောက်သူတွေက လေထီးတွေ ပစ်လွှတ်ပြီးတဲ့နောက် မေ့သွားတာ ရုတ်တရက် သိလိုက်တဲ့အခါ၊ လေးနက်တဲ့ ကျင့်ဝတ်တွေ နိုးထလာတဲ့ အခိုက်အတန့်တော့ မဟုတ်ပါဘူး။ ဒါဟာ နောက်ကျပြီး ကိုယ်ကျိုးရှာတဲ့ လုယက်မှုပါ။ ဤအရာများသည် မျက်လုံးကျယ်သော စိတ်ကူးယဉ်သူများ မဟုတ်ပါ။ ၎င်းတို့သည် ကိန်းဂဏန်းကြီးထွားမှုနှင့် စျေးကွက်လွှမ်းမိုးမှုကို လိုက်လျောညီထွေဖြစ်စေသော ခြေနင်းကို သတ္တုဆီသို့ တွန်းပို့နေသည့် တိုက်တန်များဖြစ်သည်။ ယခုအခါတွင်၊ "မမျှော်လင့်ထားသော အကျိုးဆက်များ" ၏ မြင်ကွင်းနှင့်အတူ ကြီးမားကျယ်ပြန့်လာသည်နှင့်အမျှ၊ လက်ရှိ အရှိန်အဟုန်သည် ရေရှည်မတည်တံ့နိုင်သော သို့မဟုတ် ၎င်းတို့၏ ဦးဆောင်မှုကို စုစည်းရန် လိုအပ်ကြောင်း သဘောပေါက်ခြင်း—သူတို့က စုပေါင်းအသက်ရှူရန် တောင်းဆိုနေခြင်းပင်။
စျေးကွက်ရဲ့ တုံ့ပြန်မှုက ပြောနေပါတယ်။ ချစ်ပ်စတော့များ ကျဆင်းခြင်းသည် ကြောက်ရွံ့ခြင်းအတွက်သာ မဟုတ်ပါ။ ဒါဟာ ဖြစ်နိုင်ချေ နှေးကွေးခြင်းရဲ့ လက်ငင်းဘဏ္ဍာရေးဆိုင်ရာ ဂယက်ရိုက်ခတ်မှုတွေအကြောင်းပါ။ ပေကျင်းရဲ့ တွန်းလှန်မှုလား။ အမျိုးသားအဆင့် ဗျူဟာမြောက် အားသာချက်သည် စိတ္တဇဘေးကင်းရေးဆိုင်ရာ စိုးရိမ်မှုများကို ရပ်တန့်သွားစေကြောင်း ရှင်းရှင်းလင်းလင်း အချက်ပြသည်။ ဆိုးလ်၏ chipmakers များသည် ကြိုတင်ငွေပေးချေမှုကို ငြင်းဆန်နေပါသလား။ ဒါဟာ ရုတ်တရက် မသေချာတဲ့ အနာဂတ်တစ်ခုရဲ့ ရေရှည်တည်ငြိမ်မှုနဲ့ အမြတ်အစွန်းကို အရင်းအနှီးမေးခွန်းထုတ်တဲ့ အသံပါပဲ။
ကျွန်ုပ်တို့အတွက်၊ CTO နှင့် အင်ဂျင်နီယာများက ဦးဆောင်သည်၊ ၎င်းသည် ဖရိုဖရဲ ရှုခင်းကို တိုက်ရိုက် ဘာသာပြန်ပါသည်။ AI ပရောဂျက်များကို ပြန်လည်ဦးစားပေးလုပ်ဆောင်ရန် တွန်းအားပေးသည့် စည်းမျဉ်းဆိုင်ရာ ကြားဝင်ဆောင်ရွက်မှုများကို အရှိန်မြှင့်ရန် မျှော်လင့်ပါသည်။ AI အတွက် "လျင်မြန်စွာ ရွေ့လျားပြီး အရာများကို ချိုးဖျက်ခြင်း" ကျင့်ဝတ်သည် တရားဝင်သေဆုံးသွားပြီဖြစ်ပြီး နေ့စဥ်စတင်လုပ်ဆောင်သင့်သည့် "ကျင့်ဝတ်ဆိုင်ရာ AI ဖွံ့ဖြိုးတိုးတက်မှု" မူဘောင်များအတွက် အရူးအမူးရှာဖွေမှုဖြင့် အစားထိုးခဲ့သည်။ ရင်းနှီးမြုပ်နှံမှု ပိုသတိထားလာမယ်၊ ဗျူဟာတွေ လှည့်လာမယ်၊ ဟုတ်တယ်၊ ရွှေအလုအယက်က ပိုတိုင်းတာပြီး ပိုတာဝန်ယူမှုရှိတဲ့ ချဉ်းကပ်မှုဆီကို ပေးစွမ်းနိုင်တဲ့အတွက် အလုပ်အကိုင်စျေးကွက်တွေက အေးခဲသွားပါလိမ့်မယ်။ ဒါပေမယ့် ဖြူစင်တဲ့စေတနာအတွက် ဒါကို မမှားမိပါစေနဲ့။ ဤ "ခေတ္တရပ်ခြင်း" သည် စစ်မှန်သော ဘေးကင်းမှုအကြောင်းဖြစ်သောကြောင့် ထိန်းချုပ်မှုနှင့် စျေးကွက်ပြန်လည်ချိန်ညှိခြင်းအကြောင်း များစွာရှိသည်။
Titans Debate မှာ Foundation ပြိုလဲသွားတယ်။
ယခု၊ AI elite များသည် ၎င်းတို့၏ဖြစ်တည်မှုအကျပ်အတည်းနှင့်ကြုံတွေ့နေရစဉ်တွင် အနာဂတ်ထောက်လှမ်းရေး၏ကျင့်ဝတ်များကို အခြေအတင်ဆွေးနွေးနေချိန်တွင်၊ အမှန်တကယ်၊ အလွန်ပစ္စုပ္ပန်နှင့် လုံးလုံးလျားလျားကပ်ဘေးကြီးဖြစ်သည့် လုံခြုံရေးအကျပ်အတည်းကို ထုတ်ဖော်ပြောဆိုကြပါစို့။
ယခုအပတ်တွင် CISA သည် ၎င်း၏ Known Exploited Vulnerabilities catalog [3] တွင် CVE အသစ်များစွာကို ထည့်သွင်းခဲ့သည်။ Cisco Secure Email Gateway (CVE-2023-20269) [4]၊ GitLab (CVE-2023-2825) တွင် CVSS 10.0 လမ်းကြောင်းဖြတ်သန်းမှု [3] နှင့် Cisco Secure Email Gateway (CVE-2023-2825) [3] တွင် အတည်ပြုထားသော root RCE အကြောင်းနှင့် မကြာသေးမီက ပြုပြင်ထားသော Chrome zero-day (CVE-2023) [မီဒီယာ]
ဒါပေမယ့် လုံခြုံရေး ပညာရှင်တိုင်းကို ပျက်ပြယ်သွားစေမယ့် တကယ့် အူပေါက်ဖောက်မှုကတော့ အခြေခံအကျဆုံး ချို့ယွင်းချက်တွေရဲ့ ခြိမ်းခြောက်မှုပါပဲ။ Microsoft Defender ၏ Malware Protection Engine [5] ရှိ ဒေသဆိုင်ရာ အထူးအခွင့်အရေး တိုးမြင့်မှု အားနည်းချက် CVE-2021-1647 ကို သုံးသပ်ကြည့်ပါ။ ဒါက မထင်မရှား ချို့ယွင်းချက်တစ်ခုတော့ မဟုတ်ပါဘူး။ ၎င်းတွင် အများသူငှာ သက်သေပြချက်တစ်ခုပါရှိပြီး ကျွန်ုပ်တို့၏ ဒစ်ဂျစ်တယ်ကာကွယ်ရေး၏ အရေးပါသောအစိတ်အပိုင်းများကို အပေးအယူလုပ်နိုင်ပြီး ကာလအတိုင်းအတာတစ်ခုအထိ အားနည်းချက်ရှိနေနိုင်ကြောင်း မီးမောင်းထိုးပြထားသည်။
ယင်းကို နစ်မြုပ်သွားပါစေ။ ကျွန်ုပ်တို့သည် AI စိတ်ဓာတ်ပိုင်းဆိုင်ရာ ကျင့်ဝတ်များကို အခြေအတင် ဆွေးနွေးနေချိန်တွင် ကျွန်ုပ်တို့၏ အဆုံးမှတ်များကို ကာကွယ်ရန် ဒီဇိုင်းထုတ်ထားသည့် ဆော့ဖ်ဝဲလ်၊ ကျွန်ုပ်တို့၏ ဒစ်ဂျစ်တယ် ကာကွယ်ရေး၏ အခြေခံအလွှာသည် တိုက်ခိုက်သူအား အခွင့်အရေးများ တိုးမြှင့်နိုင်စေမည့် အခွင့်ထူးများကို မြှင့်တင်ပေးသည့် ချို့ယွင်းချက်များအား လူသိရှင်ကြား တားဆီးနိုင်ရန် ပြသထားသည်။ သင့်ကားဘရိတ်ချို့ယွင်းပြီး အင်ဂျင်မီးလောင်နေချိန်တွင် warp drive ၏ ဒဿနသက်ရောက်မှုများအကြောင်း ငြင်းခုံခြင်းနှင့်တူသည်။
တွက်ချက်မှု- တူညီသောဒင်္ဂါးပြား၏ ဘေးနှစ်ဘက်
ဒါတွေက သီးခြားဇာတ်လမ်းတွေ မဟုတ်ပါဘူး။ ၎င်းတို့သည် အခြေခံကျသော လုံခြုံရေး၊ တည်ငြိမ်မှုနှင့် တာဝန်ယူမှုတို့အပေါ် တသမတ်တည်း ဦးစားပေးထားသော မြန်နှုန်း၊ အသစ်အဆန်းနှင့် ဆန်းသစ်တီထွင်မှုကို ဦးစားပေးသည့် နည်းပညာလုပ်ငန်းတစ်ခုဖြစ်သည်။
နှေးကွေးမှုအတွက် AI ခေါင်းဆောင်များ၏ ရုတ်တရတ်တောင်းဆိုမှုသည် အစွမ်းထက်သော၊ နားလည်နိုင်မှုအားနည်းသောစနစ်များကို တောရိုင်းထဲသို့ ထုတ်လွှတ်ပြီးသည့်နောက်* မှန်ကန်သောလမ်းစဉ်ကို ပြုပြင်ရန် မိမိကိုယ်တိုင်လုပ်ဆောင်သော ကြိုးပမ်းမှုတစ်ခုဖြစ်သည်။ ကမ္ဘာကြီးကို ပြောင်းလဲနိုင်သည့်နည်းပညာတွင် အသုံးချသည့်အခါ "မြန်မြန်ရွေ့လျားပြီး အရာများကို ချိုးဖျက်ပါ" မန္တန်သည် တာဝန်မဲ့ရုံသာမက အန္တရာယ်ရှိကြောင်း ဝန်ခံချက်တစ်ခုဖြစ်သည်။
အထူးသဖြင့် အရေးကြီးသော ခုခံကာကွယ်မှု အားနည်းချက်သည် သုညနေ့ တိုက်ခိုက်မှုသည် အခြေခံအကျဆုံး IT နှင့် သက်ဆိုင်သည့် ဤတူညီသော စိတ်သဘောထား၏ တိုက်ရိုက် နာကျင်ဖွယ် အကျိုးဆက်ဖြစ်သည်။ ၎င်းသည် ထုတ်ကုန်နှင့် စနစ်တိုင်း၏ အဓိကကျသော၊ ညှိနှိုင်းမရနိုင်သော အစိတ်အပိုင်းတစ်ခုထက်၊ လုံခြုံရေးကို အယုံအကြည်မရှိ၊ လိုက်နာမှု အမှတ်ခြစ်ကွက် သို့မဟုတ် ကုန်ကျစရိတ်စင်တာတစ်ခုအဖြစ် သဘောထားလေ့ရှိသည့် ယဉ်ကျေးမှုတစ်ခု၏ ရလဒ်ဖြစ်သည်။ ကျွန်ုပ်တို့၏ခြေဖဝါးအောက်ရှိ မြေပြင်ကို ပုပ်ပွသွားစေမည့် LLM၊ နောက်ထပ် AI အေးဂျင့်—နောက်ထပ် တောက်ပနေသော အရာဝတ္ထုကို လိုက်ရှာရန် ကျွန်ုပ်တို့ အလွန်အလုပ်များနေပါသည်။
CTO များနှင့် အင်ဂျင်နီယာခေါင်းဆောင်များအတွက်၊ မက်ဆေ့ချ်သည် ပြတ်သားပြီး ချက်ချင်းဖြစ်သည်။ သင့်ဖိဒ်ကိုဖြတ်ကျော်သည့် AI လမ်းကြောင်းတိုင်းကို လိုက်နေခြင်းကို ရပ်လိုက်ပါ။ အခြေခံအချက်တွေကို နှစ်ဆလျှော့ပါ။ အထူးသဖြင့် Cisco၊ GitLab ရှိ အားနည်းချက်များနှင့် Defender ၏အတိတ် LPEs မှ နမူနာပြထားသည့် ဆက်တိုက်ခြိမ်းခြောက်မှုများကို ဦးစားပေး၍ ဖာထေးခြင်းအား ဦးစားပေးလုပ်ဆောင်ပါ။ ခိုင်ခံ့သော လျော့ပါးရေးများကို အကောင်အထည်ဖော်ပါ။ ၎င်းတို့၏ အင်္ဂါရပ် လမ်းပြမြေပုံသာမကဘဲ ၎င်းတို့၏ လုံခြုံရေး အနေအထားအတွက် သင့်ရောင်းချသူများထံမှ တာဝန်ခံမှုကို တောင်းဆိုပါ။
စျေးကွက်ပြိုလဲခြင်းနှင့် မဖြေရှင်းနိုင်သော အခြေခံလုံခြုံရေးပြဿနာများသည် သတင်းများသာမဟုတ်ပေ။ ၎င်းတို့သည် တွက်ချက်မှုတစ်ခုဖြစ်သည်။ မြန်လွန်းတယ်၊ မဆင်မခြင်နဲ့ နောက်ဆုံးတော့ အရမ်းမြန်လွန်းတဲ့ နည်းပညာကမ္ဘာ။ ကြီးပြင်းလာရန် အချိန်တန်ပြီ၊ ကျွန်ုပ်တို့၏ အခြေခံအုတ်မြစ်များကို လုံခြုံစေကာ၊ ထို့မှသာ၊ နောက်တစ်ခုဖြစ်သည့် နယ်နိမိတ်ကို သတိထားပြီး စဉ်းစားပါ။
သတင်းရင်းမြစ်
[1] Future of Life Institute — ဧရာမ AI စမ်းသပ်မှုများကို ခေတ္တရပ်ရန်- အိတ်ဖွင့်ပေးစာ — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI ကျွမ်းကျင်သူများသည် အဆင့်မြင့် AI စနစ်များ ဖွံ့ဖြိုးတိုးတက်ရေးတွင် ခေတ္တရပ်ရန် တောင်းဆိုသည် — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco လုံခြုံရေး အကြံပေးချက် — Cisco Secure Email and Web Manager၊ Cisco Email Security Appliance နှင့် Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q58 [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647