နောက်ခံတံခါးအဖြစ် ဘရောက်ဇာ- Client-Side LLM လျှို့ဝှက်ချက်ထုတ်ယူမှုကို Demystified
ကျွန်ုပ်တို့သည် "AI လုံခြုံရေးသတိပေးချက်များ" ကို ဝေးကွာသောခြိမ်းခြောက်မှုများ သို့မဟုတ် ပညာရပ်ဆိုင်ရာ စူးစမ်းလိုစိတ်များအဖြစ် အချိန်အတော်ကြာအောင် လုပ်ဆောင်ထားပါသည်။ ချက်ခြင်းထိုးခြင်း၊ jailbreak လုပ်ခြင်းနှင့် လျှပ်တပြက်လေသံဖြင့် ဒေတာပေါက်ကြားခြင်းအကြောင်း မကြာခဏ ပခုံးတွန့်ကာ "ကျွန်ုပ်တို့ အဲဒါကို ရလိမ့်မယ်" ဆိုတာကို ကြားဖူးပါတယ်။ သို့သော်၊ မကြာသေးမီက အပြန်အလှန် တုံ့ပြန်သော ဆန္ဒပြမှုများသည် ထိုအဆင်ပြေသော ထင်ယောင်ထင်မှားကို ဖြိုခွဲခဲ့သည်။ ၎င်းသည် သီအိုရီဆိုင်ရာ အားနည်းချက်မဟုတ်တော့ပါ။ ၎င်းသည် Large Language Models (LLMs) [2] မှ ထိလွယ်ရှလွယ် အချက်အလက်များကို ထုတ်ယူရန်အတွက် တိုက်ရိုက်၊ ဘရောက်ဆာအခြေခံ၊ ဖောက်သည်ဘက်မှ အသုံးချမှုတစ်ခုဖြစ်သည်။ အကယ်၍ သင်သည် LLM-ပါဝါသုံး အက်ပ်လီကေးရှင်းများ အထူးသဖြင့် ဝဘ်နှင့် ရင်ဆိုင်နေရသော မည်သည့်အရာကိုမဆို အသုံးပြုနေပါက၊ သင်၏ "အနာဂတ်ပြဿနာ" သည် အလွန်ပစ္စုပ္ပန်ဖြစ်ပြီး လူအများနှင့် အလွန်ရှက်ဖွယ်ကောင်းသော တာဝန်ယူမှုတစ်ခု ဖြစ်လာခဲ့သည်။
၎င်းသည် အခြားသော ယေဘူယျအားဖြင့် "AI is risky" ခေါင်းစီးမဟုတ်ပါ။ ဤသည်မှာ ၎င်းတို့၏ဘရောက်ဆာကိုသာအသုံးပြု၍ အန္တရာယ်ရှိသောသရုပ်ဆောင်တစ်ဦးသည် အရေးကြီးသောအချက်အလက်များကိုထုတ်ဖေါ်ရန် သင့် LLM ကို မည်သို့အတင်းအကျပ်ဖိအားပေးမည်ကို တိကျသေချာသော မြင်သာထင်သာသောသရုပ်ပြမှုဖြစ်သည်။ အဲဒါကို ခဏစဉ်းစားပါ။ ရှုပ်ထွေးသော server-side attacks သို့မဟုတ် deep model introspection အကြောင်းမဟုတ်ပါ။ ၎င်းသည် ဂရုတစိုက်ဖန်တီးထားသော ဇာတ်ကောင်အနည်းငယ်ဖြင့် အသုံးချခံရခြင်း—သင်၏ အပလီကေးရှင်း၏ ရှေ့တံခါးပေါက်- အပြန်အလှန် ဆက်သွယ်မှုအလွှာနှင့် ပတ်သက်သည်။ ၎င်းသည် သင့်ထင်မြင်ယူဆရသော လုံခြုံသော chatbot သို့ မှန်ကန်သောစကားစုကို ဖန်တီးသူတစ်ဦး၏ ဒစ်ဂျစ်တယ်နှင့် ညီမျှပြီး ၎င်းသည် အရေးကြီးသော အချက်အလက်များကို မကြာခဏဆိုသလို တစ်နည်းနည်းချင်းစီ လွှဲပြောင်းပေးပါသည်။
မော်ဒယ်လုံခြုံရေး၏ ထင်ယောင်ထင်မှား
လုပ်ငန်းအများအပြားသည် "လုံခြုံသော" LLMs များတွင် ကြီးကြီးမားမားရင်းနှီးမြှုပ်နှံထားပြီး၊ ကောင်းမွန်စွာပြုပြင်ထားသော မူပိုင်မော်ဒယ်များ သို့မဟုတ် လုပ်ငန်းအဆင့် APIs များဟု ယူဆထားသော guardrails များကို အားကိုးနေပါသည်။ သွယ်ဝိုက်သောယူဆချက်မှာ မော်ဒယ်ကိုယ်တိုင်က ကြံ့ခိုင်ပါက၊ ၎င်းအပေါ်တွင် တည်ဆောက်ထားသော အပလီကေးရှင်းသည် ထိုလုံခြုံရေးကို အမွေဆက်ခံလိမ့်မည်ဖြစ်သည်။ မကြာသေးမီက ဆန္ဒပြမှုများက ယင်းကို အန္တရာယ်ရှိသော အထင်အမြင်လွဲမှားမှုအဖြစ် ဖော်ထုတ်ခဲ့သည်။ အားနည်းချက်သည် မော်ဒယ်၏ ပင်မထောက်လှမ်းရေး သို့မဟုတ် ၎င်း၏လေ့ကျင့်ရေးဒေတာတွင် မရှိပါ။ ၎င်းသည် ကျွန်ုပ်တို့တည်ဆောက်ထားသော အင်တာဖေ့စ် တွင်ဖြစ်သည် [1]။ ၎င်းသည် ဂန္ထဝင် "ခိုင်ခံ့သော ပြတင်းပေါက်၊ ပျော့ပျောင်းသော အိမ်ရှေ့တံခါး" ပြဿနာဖြစ်သည်။ သင့်တွင် ကမ္ဘာ့အဆင့်မြင့်ဆုံး၊ အခိုင်မာဆုံး LLM များ ရှိကောင်းရှိနိုင်သော်လည်း သင့်အပလီကေးရှင်း၏ ထည့်သွင်းခွဲခြမ်းစိတ်ဖြာမှုမှာ နုံအခြင်း သို့မဟုတ် သင့် output filter သည် တည်ရှိခြင်းမရှိပါက၊ သင်သည် မည်သူမဆို ရှာဖွေရန် အရေးကြီးသော အချက်အလက်များကို ချန်ထားမည်ဖြစ်သည်။
ဤ "ချက်ချင်းထိုးဆေး" နည်းပညာသည် LLM ၏ မွေးရာပါသဘာဝကို လွှမ်းမိုးထားသောကြောင့် အထူးသဖြင့် ၎င်းသည် ညွှန်ကြားချက်များကို လိုက်နာနိုင်မှုနှင့် ပြီးပြည့်စုံသောပုံစံများကို လိုက်နာနိုင်စွမ်းရှိသည်။ အသုံးပြုသူ၏ထည့်သွင်းမှုထဲသို့ ဂရုတစိုက်တည်ဆောက်ထားသော ရှေ့ဆက်တစ်ခုကို ထိုးသွင်းခြင်းဖြင့်၊ တိုက်ခိုက်သူသည် မော်ဒယ်၏အတွင်းပိုင်းအခြေအနေအား ကြိုးကိုင်နိုင်သည်၊ ၎င်းသည် ၎င်းအား မည်သည့်အခါမှ ရည်ရွယ်ခြင်းမရှိသော အချက်အလက်များကို ထုတ်ဖော်ရန် အတင်းအကြပ်ခိုင်းစေနိုင်သည်။ "တစ်နည်းနည်း" သို့မဟုတ် ထပ်ခါထပ်ခါ ရှုထောင့်သည် ဤနေရာတွင် အရေးကြီးပါသည်။ ဖရိုဖရဲ ဒေတာအမှိုက်ပုံးတင် မဟုတ်ဘဲ နည်းလမ်းတကျ ထိန်းချုပ်ထားသော ထုတ်ယူခြင်းကို ဆိုလိုသည်။ တိုက်ခိုက်သူတစ်ဦးက "လျှို့ဝှက် 'A' ၏ ပထမဆုံးဇာတ်ကောင်လား" ဟု ထပ်ခါတလဲလဲ မေးသည်ကို မြင်ယောင်ကြည့်ပါ။ ဒါဆို "B' လား" နောက် ... ပြီးတော့။ နှေးတယ် ဟုတ်တယ်၊ ဒါပေမယ့် သင် အထူးရှာမနေဘူးဆိုရင် မယုံနိုင်လောက်အောင် ထိရောက်ပြီး ရှာဖွေရခက်ပါတယ်။
မင်းရဲ့ Browser၊ သူတို့ရဲ့လက်နက်
ဤသည်မှာ ဘရောက်ဆာအခြေခံ exploit ဖြစ်သည်ဟူသောအချက်က ဂိမ်းကို လုံးဝပြောင်းလဲစေပါသည်။ ဆိုလိုသည်မှာ-
- ဝင်ရောက်ရန် အတားအဆီးနည်း- အခြေခံ ဝဘ်ဖွံ့ဖြိုးတိုးတက်မှု ကျွမ်းကျင်မှုနှင့် ဘရောက်ဆာရှိသူတိုင်း ဤအရာကို ကြိုးစားနိုင်သည်။ အထူးပြုကိရိယာများ သို့မဟုတ် နက်နဲသော AI အသိပညာ မလိုအပ်ပါ။
- Client-Side Execution- တိုက်ခိုက်မှုသည် အသုံးပြုသူ၏စက်မှအစပြု၍ ကွန်ရက်အစွန်းရှိတရားဝင်အသုံးပြုသူထည့်သွင်းမှုနှင့် ခွဲခြားရခက်ခဲစေသည်။
- ချက်ချင်းခြိမ်းခြောက်မှု- သင်၏ LLM အပလီကေးရှင်းသည် ဝဘ်အင်တာဖေ့စ်တစ်ခုမှတစ်ဆင့် တိုက်ရိုက်သုံးစွဲနိုင်ပါက၊ ၎င်းသည် ဤ vector အတွက် ဖြစ်နေပြီ ဖြစ်နိုင်သည်။ ၎င်းသည် အနာဂတ်ဖာထေးမှုမဟုတ်ပါ။ ဒါဟာ လက်ရှိ အရေးပေါ်အခြေအနေပါ။
သက်ရောက်မှုများကို သုံးသပ်ကြည့်ပါ- မူပိုင်ကုဒ်အတိုအထွာများ၊ အတွင်းစာရွက်စာတမ်းများ၊ ဖောက်သည်ဒေတာ၊ API သော့များ၊ သို့မဟုတ် သတင်းမှားများပျံ့နှံ့စေရန် သို့မဟုတ် အန္တရာယ်ရှိသော အကြောင်းအရာများကို ဖန်တီးရန်အတွက် သင့် LLM ၏ အပြုအမူကို သိမ်မွေ့စွာ ကိုင်တွယ်ဖြေရှင်းခြင်းပင်။ ဤအရာအားလုံးကို ရိုးရှင်းသော စာသားဘောက်စ်တစ်ခုမှတစ်ဆင့် ပြင်းပြင်းထန်ထန် အားထုတ်ခြင်းဖြင့် အနည်းငယ် ထုတ်ယူနိုင်သည် သို့မဟုတ် လွှမ်းမိုးနိုင်သည်။
တာဝန်က မင်းပိုင်
OpenAI သို့မဟုတ် Google ကဲ့သို့ မော်ဒယ်ဝန်ဆောင်မှုပေးသူများအတွက် ၎င်းတို့၏နောက်ထပ်မော်ဒယ်အပ်ဒိတ်တွင် ပြုပြင်ရန် ပြဿနာမဟုတ်ပါ။ ဤသည်မှာ အပလီကေးရှင်းလုံခြုံရေး ပြဿနာဖြစ်ပြီး၊ လျော့ပါးစေရန်အတွက် တာဝန်သည် ဤစနစ်များကို အသုံးပြုနေသော developer၊ လုံခြုံရေးအဖွဲ့များနှင့် CTO များ၏ ပခုံးပေါ်၌သာ ကျရောက်နေသည်။ သင်၏ LLM သည် အားကောင်းသော်လည်း နောက်ဆုံးတွင် နုံချာသော အင်ဂျင်ဖြစ်သည်။ အပြစ်မရှိဟုထင်ရသော အသုံးပြုသူထည့်သွင်းမှုအတွင်း ထိုညွှန်ကြားချက်များကို ဝှက်ထားလျှင်ပင် ၎င်းသည် သူပြောခဲ့သည့်အတိုင်း လုပ်ဆောင်မည်ဖြစ်သည်။
ဒါဆို မင်းဘာလုပ်မှာလဲ*
လက်ငင်း တန်ပြန်ဆောင်ရွက်မှုများ-
- Aggressive Input Sanitization: ၎င်းသည် SQL ထိုးခြင်း သို့မဟုတ် XSS ကို တားဆီးခြင်းထက် ကျော်လွန်ပါသည်။ သင်၏ LLM သို့ဝင်ရောက်သည့် ဇာတ်ကောင်တိုင်း ကို စိစစ်ရန် လိုအပ်သည်။ ချက်ခြင်းထိုးခြင်း၊ ပုံမှန်မဟုတ်သော ဇာတ်ကောင် အတွဲများ သို့မဟုတ် မျှော်မှန်းထားသော စကားစမြည်ပြောဆိုခြင်းမှ ခွဲထွက်ရန် ကြိုးပမ်းမှုတို့ကို ညွှန်ပြသည့်ပုံစံများကို ရှာဖွေပါ။ ဤသည်မှာ "မကောင်းတဲ့ စကားလုံးများ" ကို ပိတ်ပင်ခြင်း မဟုတ်ပါ။ ဆန့်ကျင်ဘက်အချက်များကို ဖော်ထုတ်ခြင်းအကြောင်းဖြစ်သည်။ အခြေခံ regex နှင့် heuristic ခွဲခြမ်းစိတ်ဖြာခြင်းတို့ကို ကျော်လွန်၍ မလိုလားအပ်သော ရည်ရွယ်ချက်ကို ရှာဖွေတွေ့ရှိရန် semantic ခွဲခြမ်းစိတ်ဖြာမှုကို အကောင်အထည်ဖော်ပါ။ ပုံမှန်မဟုတ်သော ထည့်သွင်းမှုပုံစံများကို ခွဲခြားသတ်မှတ်ရန် တိုကင်ယူခြင်းနှင့် မြှုပ်သွင်းခြင်းဆိုင်ရာ ခွဲခြမ်းစိတ်ဖြာမှုကို အသုံးပြုပါ။ ချက်ခြင်းထိုးရန်ကြိုးစားမှုများကို ရှာဖွေဖော်ထုတ်ရန် အထူးလေ့ကျင့်ထားသော ဆင့်ပွား၊ သေးငယ်သော LLM သို့မဟုတ် စည်းကမ်းအခြေခံသည့်စနစ်အား အသုံးချရန် စဉ်းစားပါ။ သရုပ်ဆောင်ခြင်းဆိုင်ရာ လမ်းညွှန်ချက်များ၊ တိကျပြတ်သားသော ဒေတာထုတ်ယူခြင်းတောင်းဆိုမှုများ၊ သို့မဟုတ် ယခင်ညွှန်ကြားချက်များကို ကျော်ဖြတ်ရန် ကြိုးပမ်းမှုများကဲ့သို့သော ပုံစံများကို ရှာဖွေပါ။
- ခိုင်ခံ့သော ရလဒ်များကို စစ်ထုတ်ခြင်းနှင့် မှန်ကန်ကြောင်း အတည်ပြုခြင်း- LLM ၏ ထုတ်ပေးမှုကို သွယ်ဝိုက်သောနည်းဖြင့် မယုံကြည်ပါနှင့်။ မည်သည့် LLM မှထုတ်လုပ်သောစာသားကိုအသုံးပြုသူတစ်ဦးအားပြသခြင်း သို့မဟုတ် အခြားစနစ်တစ်ခုမှအသုံးပြုခြင်းမပြုမီ၊ ၎င်းသည် * ခိုင်မာသောအတည်ပြုချက်အလွှာတစ်ခုမှတဆင့် * ဖြတ်သန်းရပါမည်။ သတိထားရမည့်သော့ချက်စကားလုံးများ ပါဝင်ပါသလား။ မျှော်လင့်ထားသည့်ပုံစံများနှင့် ကိုက်ညီပါသလား။ ၎င်းသည် ကုဒ်ကိုလုပ်ဆောင်ရန် သို့မဟုတ် အတွင်းပိုင်းစနစ်သတိပေးချက်များကို ဖော်ပြရန် ကြိုးပမ်းနေပါသလား။ သင်၏ LLM သည် စာရွက်စာတမ်းတစ်ခုကို အကျဉ်းချုံ့ထားရမည်ဖြစ်ပြီး၊ ၎င်းသည် ဖိုင်လမ်းကြောင်းများကို စတင်စာရင်းသွင်းပါက သင့်တွင် ပြဿနာတစ်ခုရှိသည်။
- Layered Prompt Engineering- ပြီးပြည့်စုံသော အဖြေမဟုတ်သော်လည်း၊ ကောင်းမွန်စွာ ဒီဇိုင်းထုတ်ထားသော စနစ်သတိပေးချက်များနှင့် ရိုက်ချက်အနည်းငယ်သာ နမူနာများသည် အလိုရှိသော အပြုအမူကို အားဖြည့်ပေးနိုင်ပြီး တိုက်ခိုက်သူသည် မော်ဒယ်ကို အပိုင်စီးရန် ပိုမိုခက်ခဲစေသည်။ သို့သော်၊ အမြန်အင်ဂျင်နီယာတစ်ခုတည်း မလုံလောက်ကြောင်း နားလည်ပါ။ နက်နက်ရှိုင်းရှိုင်း ကာကွယ်ရေး၊ အဓိက ဒိုင်းတစ်ခု မဟုတ်ပါ။
- LLM အပြန်အလှန်တုံ့ပြန်မှုအတွက် အနည်းဆုံးအခွင့်အရေး-** သင့် LLM သည် ဖော်ပြရန် နှိုးဆော်ခံရနိုင်ခြေရှိသော အချက်အလက်တိုင်းကို အမှန်တကယ်ဝင်ရောက်ခွင့် လိုအပ်ပါသလား။ တင်းကျပ်သော ဝင်ရောက်ထိန်းချုပ်မှုများကို အကောင်အထည်ဖော်ပါ။ LLM သည် အများသူငှာ စာရွက်စာတမ်းများအကြောင်း မေးခွန်းများကိုသာ ဖြေဆိုရမည်ဖြစ်ပြီး၊ ၎င်းတွင် အတွင်းပိုင်းဒေတာဘေ့စ်များ သို့မဟုတ် အရေးကြီးသော API များသို့ ပရိုဂရမ်စနစ်ဖြင့် ဝင်ရောက်ခွင့်မရှိကြောင်း သေချာပါစေ။
- စောင့်ကြည့်ခြင်းနှင့် မမှန်မကန် ထောက်လှမ်းခြင်း- သင်သည် ပုံမှန်မဟုတ်သော LLM အပြုအမူကို တက်ကြွစွာ ရှာဖွေနေရန် လိုအပ်သည်။ တိကျသောမေးခွန်းအမျိုးအစားများ၊ ပုံမှန်ပုံစံများမှလွဲမှားသောအထွက်များ သို့မဟုတ် အချက်အလက်ထုတ်ယူရန် ထပ်ခါတလဲလဲကြိုးစားမှုများသည် ချက်ချင်းသတိပေးချက်များကို ဖြစ်ပေါ်စေပါသည်။
ဤသည်မှာ ကျယ်ပြန့်သော "AI လုံခြုံရေး" အကြောင်းမဟုတ်တော့ပါ။ ၎င်းသည် သင်၏ LLM အပလီကေးရှင်းများ၏ အပြန်အလှန်တုံ့ပြန်မှုအလွှာကို သီးခြား၊ သရုပ်ပြပြီး ချက်ချင်းအသုံးချနိုင်သော တိုက်ခိုက်မှု vector တစ်ခုနှင့် လုံခြုံစေခြင်းအကြောင်းဖြစ်သည်။ ကျွန်ုပ်တို့သည် အင်တာဖေ့စ်တွင် မလုံလောက်သော လုံခြုံရေးအစီအမံများဖြင့် မကြာခဏဆိုသလို မယုံနိုင်လောက်အောင် အစွမ်းထက်သော စနစ်များကို တည်ဆောက်နေပါသည်။ မကြာသေးမီက ဆန္ဒပြမှုများသည် ဤကွက်လပ်များကို အသုံးချရန် မည်မျှလွယ်ကူကြောင်း ကျွန်ုပ်တို့အား အတိအကျပြသထားသည်။ သီအိုရီဆွေးနွေးရန် အချိန်ကုန်သွားပါပြီ။ LLM အပလီကေးရှင်းများကို လုံခြုံစေရန် ချက်ချင်းလုပ်ဆောင်ရန် လိုအပ်သည်။
သတင်းရင်းမြစ်
[1] OWASP အကြီးစား ဘာသာစကား မော်ဒယ် အပလီကေးရှင်းများအတွက် ထိပ်တန်း 10 — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf- အပြန်အလှန်တုံ့ပြန်မှုနှိုးဆော်မှုထိုးသွင်းစိန်ခေါ်မှု — https://gandalf.lakera.ai/ [3] ထိုးနှက်တိုက်ခိုက်မှု | ဝဘ်လုံခြုံရေးအကယ်ဒမီ — https://portswigger.net/web-security/llm-attacks/prompt-injection [4] Prompt Injection ဆိုတာ ဘာလဲ၊ ဘယ်လို ကာကွယ်ရမလဲ။ — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it