Хөтөч нь арын хаалга болж: Client-Side LLM-ийн нууц задралыг арилгах
Хэт удаан хугацаанд бид "AI-ийн аюулгүй байдлын сэрэмжлүүлэг"-ийг алс холын аюул эсвэл эрдэм шинжилгээний сонирхолтой зүйл гэж үзэж ирсэн. Шуурхай тарилга хийх, jailbreak хийх, мэдээлэл алдагдах зэрэг чимээгүйхэн дуугарч, дараа нь мөрөө хавчиж, "бид үүнд хүрнэ" гэж хэлдэг тухай бид сонссон. Гэсэн хэдий ч сүүлийн үеийн интерактив жагсаалууд энэ тухтай хуурмаг байдлыг эвдэв. Энэ нь онолын хувьд сул тал байхаа больсон; Энэ нь том хэлний загвараас (LLMs) нууц мэдээллийг задлахад зориулагдсан амьд, хөтөч дээр суурилсан, үйлчлүүлэгчийн талын мөлжлөг юм [2]. Хэрэв та LLM-ээр ажилладаг программуудыг, ялангуяа вэбтэй холбоотой бүх зүйлийг ашиглаж байгаа бол таны "ирээдүйн асуудал" нь одоо байгаа, маш олон нийтийн, маш ичмээр хариуцлага болж хувирсан.
Энэ бол "AI бол эрсдэлтэй" гэсэн ерөнхий гарчиг биш юм. Энэ бол зөвхөн хөтчөө ашиглан ямар нэгэн хорлонтой этгээд таны LLM-ийг нууц мэдээллийг илчлэхийг албадаж болдгийн тодорхой, бодит жишээ юм. Үүнийг түр бодоод үзээрэй. Энэ нь сервер талын нарийн төвөгтэй халдлага эсвэл загварчлалын гүн гүнзгий үзлэгийн тухай биш юм. Энэ нь таны програмын хамгийн урд хаалга болох харилцан үйлчлэлийн давхаргыг сайтар боловсруулсан цөөн хэдэн дүрээр ашиглаж байгаа тухай юм. Энэ нь таны аюулгүй чатбот руу зөв хэллэг зохиосон хүний тоон дүйцэхүйц зүйл бөгөөд чухал мэдээллийг бага багаар дамжуулдаг.
Загварын аюулгүй байдлын хуурмаг
Олон аж ахуйн нэгжүүд "аюулгүй" LLM-д их хэмжээний хөрөнгө оруулалт хийж, өмчийн загваруудаа нарийн тааруулж эсвэл хамгаалалтын хашлага бүхий аж ахуйн нэгжийн түвшний API-д тулгуурладаг. Далд таамаглал нь хэрэв загвар нь өөрөө бат бөх байвал түүн дээр бүтээгдсэн програм нь уг хамгаалалтыг өвлөн авах болно. Сүүлийн үеийн жагсаалууд үүнийг аюултай ташаа ойлголт гэдгийг харуулж байна. Энэ эмзэг байдал нь загварын үндсэн тагнуул эсвэл сургалтын өгөгдөлд байдаггүй; Энэ нь бидний эргэн тойронд бүтээдэг интерфейс дотор байдаг [1]. Энэ бол "бат бөх хонгил, урд хаалга" гэсэн сонгодог асуудал юм. Та дэлхийн хамгийн дэвшилтэт, хатуужуулсан LLM-тэй байж болох ч хэрэв таны програмын оролтын задлан шинжлэгч гэнэн эсвэл гаралтын шүүлтүүр байхгүй бол та чухал мэдээллийг хэнд ч олох боломжтой үлдээх болно.
Энэхүү "шуурхай тарилга" арга нь LLM-ийн төрөлхийн мөн чанар болох зааварчилгааг дагах, хэв маягийг бүрэн гүйцэд хийх чадварыг ашигладаг учраас онцгой анхаарал татаж байна. Халдагчид хэрэглэгчийн оролтод болгоомжтой бүтээгдсэн угтварыг оруулснаар загварын дотоод төлөвийг удирдаж, хэзээ ч төлөвлөөгүй мэдээллийг задлахад хүргэдэг [3]. Энд "нэг бит" буюу давтагдах тал нь маш чухал юм. Энэ нь зүгээр нэг эмх замбараагүй мэдээллийн овоолго биш, аргачлалтай, хяналттай шүүрэлтийг илэрхийлдэг. Халдлага үйлдэгч “Нууц “А” тэмдэгтийн эхний дүр мөн үү?” гэж дахин асууж байна гэж төсөөлөөд үз дээ. дараа нь ""Б" мөн үү?" гэх мэт. Энэ нь удаан, тийм ээ, гэхдээ энэ нь бас гайхалтай үр дүнтэй бөгөөд хэрэв та үүнийг тусгайлан хайгаагүй бол илрүүлэхэд хэцүү юм.
Таны хөтөч, тэдний зэвсэг
Энэ нь хөтөч дээр суурилсан мөлжлөг нь тоглоомыг бүхэлд нь өөрчилдөг. Энэ нь:
- Ороход саад тотгор бага: Вэб хөгжүүлэх үндсэн ур чадвартай, хөтөчтэй хэн ч үүнийг оролдож болно. Тусгай багаж хэрэгсэл эсвэл AI-ийн гүн мэдлэг шаардлагагүй.
- Клиент талын гүйцэтгэл: Довтолгоо нь хэрэглэгчийн машинаас үүсэлтэй тул сүлжээний захад байгаа хэрэглэгчийн хууль ёсны оролтоос ялгахад хэцүү болгодог.
- Шууд аюул: Хэрэв таны LLM програм ажиллаж байгаа бөгөөд вэб интерфэйсээр нэвтрэх боломжтой бол энэ векторт аль хэдийн өртөмтгий байна. Энэ бол ирээдүйн засвар биш; Энэ бол одоогийн онцгой байдал.
Үүний үр дагаврыг анхаарч үзээрэй: өмчлөлийн кодын хэсгүүд, дотоод баримт бичиг, хэрэглэгчийн өгөгдөл, API түлхүүрүүд, эсвэл буруу мэдээлэл түгээх эсвэл хортой контент үүсгэхийн тулд LLM-ийн зан үйлийг үл тоомсорлох. Энэ бүгдийг энгийн бичвэрийн хайрцгаар дамжуулан гаргаж авах эсвэл нөлөөлж болно.
Хариуцлага таных
Энэ нь OpenAI эсвэл Google зэрэг загвар үйлчилгээ үзүүлэгчдийн дараагийн загварын шинэчлэлт дээрээ засах асуудал биш юм. Энэ нь програмын аюулгүй байдлын асуудал бөгөөд үүнийг бууруулах хариуцлага нь эдгээр системийг байршуулж буй хөгжүүлэгчид, аюулгүй байдлын баг болон CTO-уудын үүрэг хариуцлага юм. Таны LLM бол хүчирхэг, гэхдээ эцсийн дүндээ гэнэн хөдөлгүүр юм. Хэдийгээр тэдгээр заавар нь гэм хоргүй мэт санагдах хэрэглэгчийн оролт дотор нуугдаж байсан ч хэлсэн зүйлээ хийх болно.
За, чи одоо юу хийж байна?
Яаралтай тэмцэх арга хэмжээ:
- Түрэмгий оролтыг ариутгах: Энэ нь SQL injection эсвэл XSS-ээс сэргийлэхээс ч илүү юм. Та LLM-д орох * тэмдэгт бүрийг* сайтар нягталж үзэх хэрэгтэй. Шуурхай тарилга, ердийн бус тэмдэгтийн дараалал эсвэл хүлээгдэж буй ярианы урсгалаас гарах оролдлогыг харуулсан хэв маягийг хайж олоорой [4]. Энэ нь "муу үгс" -ийг хаах тухай биш юм; Энэ нь эсрэг талын дохионуудыг тодорхойлох явдал юм. Үндсэн регекс болон эвристик шинжилгээнээс гадна хорлонтой санааг илрүүлэхийн тулд семантик шинжилгээг хэрэгжүүл. Аномаль оролтын хэв маягийг тодорхойлохын тулд токенизаци болон оруулах шинжилгээг ашиглана уу. Шуурхай тариа хийх оролдлогыг илрүүлэхийн тулд тусгайлан бэлтгэгдсэн хоёрдогч, жижиг LLM эсвэл дүрэмд суурилсан системийг ашиглах талаар бодож үзээрэй. Дүрд тоглох заавар, тодорхой өгөгдөл задлах хүсэлт эсвэл өмнөх зааврыг тойрч гарах оролдлого зэрэг хэв маягийг хайж олоорой.
- ** Бат бөх гаралтын шүүлтүүр ба баталгаажуулалт:** LLM-ийн гаралтад хэзээ ч бүү итгэ. LLM-ээр үүсгэгдсэн аливаа текстийг хэрэглэгчдэд харуулах эсвэл өөр систем ашиглахаас өмнө энэ нь баталгаажуулалтын хатуу давхаргаар дамжин өнгөрөх ёстой. Энэ нь эмзэг түлхүүр үгсийг агуулж байна уу? Энэ нь хүлээгдэж буй форматтай таарч байна уу? Энэ нь кодыг гүйцэтгэх эсвэл системийн дотоод сануулгыг илрүүлэхийг оролддог уу? Хэрэв таны LLM нь баримт бичгийг хураангуйлах ёстой боловч файлын замыг жагсааж эхэлбэл танд асуудал байна.
- Давхаргатай шуурхай инженерчлэл: Бүрэн шийдэл биш ч сайн зохион бүтээсэн системийн сануулгууд болон цөөн тооны жишээнүүд нь хүссэн зан үйлийг бататгаж, халдагчид загварыг хулгайлахад хэцүү болгодог. Гэсэн хэдий ч, зөвхөн шуурхай инженерчлэл хангалтгүй гэдгийг ойлгох; Энэ бол анхдагч бамбай биш харин гүн гүнзгий хамгаалалт юм.
- ** LLM-ийн харилцан үйлчлэлийн хамгийн бага давуу эрх:** Таны LLM нь илчлэхийг хүсэх боломжтой өгөгдөл бүрд хандах шаардлагатай юу? Хандалтын хатуу хяналтыг хэрэгжүүл. Хэрэв LLM нь зөвхөн нийтийн баримт бичгийн талаархи асуултад хариулах ёстой бол дотоод мэдээллийн сан эсвэл эмзэг API-д программын хандалт байхгүй эсэхийг шалгаарай.
- Хяналт ба гажиг илрүүлэх: Та LLM-ийн ер бусын зан үйлийг идэвхтэй хайж байх хэрэгтэй. Тодорхой төрлийн асуулга, ердийн загвараас гажсан гаралт, мэдээлэл задлах оролдлого нь яаралтай сэрэмжлүүлэг өгөх ёстой.
Энэ бол өргөн хүрээний "AI аюулгүй байдлын" тухай биш юм. Энэ нь таны LLM програмуудын харилцан үйлчлэлийн давхаргыг тодорхой, харуулсан, шууд ашиглах боломжтой халдлагын векторын эсрэг хамгаалах тухай юм. Бид интерфэйс дээр аюулгүй байдлын хангалтгүй арга хэмжээ авдаг эдгээр гайхалтай хүчирхэг системийг бүтээсээр ирсэн. Эдгээр цоорхойг ашиглах нь ямар амархан болохыг саяхны жагсаал харууллаа. Онолын хэлэлцүүлэг хийх цаг өнгөрсөн. LLM програмуудыг хамгаалахын тулд яаралтай арга хэмжээ авах шаардлагатай.
Эх сурвалж
[1] Том хэлний загвар хэрэглээний OWASP шилдэг 10 - https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: Interactive Prompt Injection Challenge - https://gandalf.lakera.ai/ [3] Шуурхай тарилгын халдлага | Вэб аюулгүй байдлын академи — https://portswigger.net/web-security/llm-attacks/prompt-injection [4] Шуурхай тарилга гэж юу вэ, түүнээс хэрхэн сэргийлэх вэ? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it