The Browser e le Backdoor: Client-Side LLM Secret Extraction Demystified
Ka nako e telele, re 'nile ra nka "litemoso tsa ts'ireletso ea AI" e le litšokelo tse hole kapa litabatabelo tsa thuto. Re utloile ka ente e potlakileng, likotlo tsa chankana, le ho lutla ha data ka lithane tse khutsitseng, hangata ho lateloa ke shrug le "re tla fihla ho eona." Leha ho le joalo, lipontšo tsa morao tjena tse kopanetsoeng li felisitse khopolo-taba eo ea boiketlo. Hona ha e sa le ts'oenyeho ea khopolo-taba; ke ts'ebeliso e sebetsang, e thehiloeng ho sebatli, ea lehlakoreng la bareki bakeng sa ho fumana lintlha tsa bohlokoa ho Mehlala e Meholo ea Lipuo (LLMs) [2]. Haeba u sebelisa lits'ebetso tse tsamaisoang ke LLM, haholo eng kapa eng e shebaneng le webo, "bothata ba hau ba kamoso" bo fetohile bo teng hona joale, bo phatlalalitsoeng haholo, 'me bo ka hlabisang lihlong haholo.
Sena ha se sehlooho se seng sa "AI e kotsi". Ena ke pontšo e hlakileng, e hlakileng ea hore na sebapali se lonya, se sebelisa sebatli sa sona feela, se ka qobellang LLM ea hau ho hlahisa tlhahisoleseling e tebileng. Nahana ka seo ka nakoana. Ha e bue ka litlhaselo tse thata tsa lehlakore la seva kapa tlhahlobo e tebileng ea mohlala. E mabapi le lera la tšebelisano-monyako o ka pele oa ts'ebeliso ea hau-e sebelisoang hampe ka litlhaku tse 'maloa tse entsoeng ka hloko. Ke mokhoa oa dijithale oa motho ea qapang poleloana e nepahetseng ho chatbot ea hau eo ho thoeng e bolokehile, 'me e fana ka lintlha tsa bohlokoa, hangata hanyane ka hanyane.
The Illusion of Model Security
Likhoebo tse ngata li tsetelitse haholo ho li-LLM tse "sireletsehileng", ebang ke ho lokisa mekhoa e metle kapa ho itšetleha ka li-API tsa boemo ba khoebo tseo ho nahanoang hore li na le lits'oants'o. Maikutlo a hlakileng ke hore haeba mohlala ka boeona o le matla, kopo e hahiloeng holim'a eona e tla rua tšireletso eo. Lipontšo tsa morao-rao li pepesa sena e le maikutlo a fosahetseng a kotsi. Kotsi ha e teng ka har'a bohlale ba mantlha ba mohlala kapa boitsebiso ba eona ba koetliso; e ho interface eo re e ahang ho e potoloha [1]. Ke bothata ba "robust vault, flimsy front door" bothata. O kanna oa ba le LLM e tsoetseng pele, e thata ka ho fetesisa lefatšeng, empa haeba sekhetho sa kopo ea hau se sa tsebe letho, kapa sefahla sa hau sa tlhahiso se le sieo, ha e le hantle u siea tlhahisoleseling ea bohlokoa e pepesitsoe hore mang kapa mang a ka e fumana.
Mokhoa ona oa "ente e potlakileng" o sebetsa haholo hobane o phahamisa sebopeho sa tlhaho sa LLM: bokhoni ba eona ba ho latela litaelo le lipaterone tse felletseng. Ka ho kenya sehlongoapele se entsoeng ka hloko molemong oa mosebelisi, mohlaseli a ka fetola boemo ba ka hare ba mohlala, a o qobella ho senola tlhahisoleseling eo e neng e sa rereloa ho e etsa [3]. Karolo ea "one-bit" kapa e pheta-phetoang e bohlokoa mona. E fana ka maikutlo a mokhoa o laolehileng, o laoloang, eseng feela ho lahla data e ferekaneng. Ak'u nahane mohlaseli a botsa khafetsa, "Na motho oa pele oa sephiri ke 'A'?" ebe "Na ke 'B'?" joalo joalo. E ea lieha, e, empa e boetse e sebetsa ka mokhoa o makatsang ebile ho thata ho e lemoha haeba u sa e batle ka ho toba.
Sebatli sa Hao, Sebetsa sa Tsona
Taba ea hore ena ke ts'ebeliso ea * sebatli * e fetola papali ka botlalo. E bolela:
- Sethibelo se Tlase ho Kena: Mang kapa mang ea nang le litsebo tsa mantlha tsa nts'etsopele ea tepo le sebatli a ka leka sena. Ha ho na lisebelisoa tse khethehileng kapa tsebo e tebileng ea AI e hlokahalang.
- Tlhahiso ea Lehlakore la Client: Tlhaselo e tsoa mochining oa mosebelisi, e leng ho etsang hore ho be thata ho khetholla ho tsoa ho kenyelletso e nepahetseng ea mosebelisi moeling oa marang-rang.
- Matšokelo a Hanghang: Haeba sesebelisoa sa hau sa LLM se fumaneha 'me se fumaneha ka har'a sehokelo sa Marang-rang, se se se kotsing ea vector ena. Sena ha se sekhechana sa kamoso; ke tshohanyetso ya jwale.
Ak'u nahane ka litlamorao: likotlo tsa khoutu ea thepa, litokomane tsa ka hare, lintlha tsa bareki, linotlolo tsa API, kapa esita le ho qhekella ka tsela e poteletseng ea boitšoaro ba LLM ea hau ho hasa litaba tse fosahetseng kapa ho hlahisa litaba tse kotsi. Tsena tsohle li ka ntšoa kapa tsa susumetsoa, hanyane ka hanyane, ka lebokose le bonolo la mongolo.
Boikarabello ke ba Hao
Sena ha se bothata hore bafani ba mohlala ba kang OpenAI kapa Google ba lokisoe ntlafatsong ea bona ea mohlala e latelang. Bona ke bothata ba *ts'ireletso ea lits'ebetso, 'me boikarabello ba ho bebofatsa bo oela mahetleng a bahlahisi, lihlopha tsa ts'ireletso, le li-CTO tse tsamaisang litsamaiso tsena. LLM ea hau ke enjene e matla, empa e se nang kelello. E tla etsa seo e se bolelloang, leha litaelo tseo li patiloe ka har'a tlhahiso ea mosebelisi e bonahalang e se na molato.
Joale, u etsa'ng joale?
Mehato ea ho Thibela Hanghang:
- Aggressive Input Sanitization: Sena se feta ho thibela ente ea SQL kapa XSS. U hloka ho hlahlobisisa *sebapali se seng le se seng se kenyang LLM ea hau. Batla mekhoa e bontšang ente ea kapele, tatellano e sa tloaelehang ea litlhaku, kapa boiteko ba ho tsoa lipuisanong tse lebeletsoeng [4]. Sena ha se taba ea ho thibela "mantsoe a mabe"; e mabapi le ho hlwaya maikutlo a bahanyetsi. Ntle le tlhahlobo ea mantlha ea regex le heuristic, sebelisa tlhahlobo ea semantic ho fumana sepheo se sebe. Sebelisa tokenization le tlhahlobo ea embedding ho fumana mekhoa e sa tloaelehang ea ho kenya. Nahana ka ho sebelisa LLM ea bobeli, e nyane kapa sistimi e thehiloeng ho melao e koetliselitsoeng ho lemoha liteko tsa ho enta kapele. Batla mekhoa e kang litaelo tsa ho bapala karolo e itseng, likopo tse hlakileng tsa ho ntša lintlha, kapa ho leka ho tlōla litaelo tse fetileng.
- Tlhahiso e Matla le Tlhophiso: Le ka mohla u se ke ua tšepa tlhahiso ea LLM ka botlalo. Pele mongolo ofe kapa ofe o hlahisitsoeng ke LLM o bontšoa ho mosebelisi kapa o sebelisoa ke sistimi e 'ngoe, e tlameha * ho feta mothating o tiileng oa netefatso. E na le mantsoe a bohlokoa a bohlokoa? Na e lumellana le mekhoa e lebelletsoeng? Na e leka ho etsa khoutu kapa ho senola likeletso tsa sistimi e ka hare? Haeba LLM ea hau e lokela ho akaretsa tokomane, empa e qala ho thathamisa litsela tsa lifaele, u na le bothata.
- Layered Prompt Engineering: Le hoja e se tharollo e feletseng, litlhahiso tsa tsamaiso e hlophisitsoeng hantle le mehlala e fokolang e ka thusa ho matlafatsa boitšoaro bo lakatsehang le ho etsa hore ho be thata ho mohlaseli ho koetela mohlala. Leha ho le joalo, utloisisa hore boenjiniere ba kapele feela ha boa lekana; ke tšireletso ka botebo, eseng thebe ea mantlha.
- Monyetla o Monyane bakeng sa Litšebelisano tsa LLM: Na LLM ea hau e hlile e hloka ho fihlella karolo e 'ngoe le e 'ngoe ea data eo e ka susumetsoang ho e hlahisa? Kenya tšebetsong litaolo tse tiileng tsa phihlello. Haeba LLM e tlameha feela ho araba lipotso mabapi le litokomane tsa sechaba, etsa bonnete ba hore ha e na phihlello ea mananeo ho li-database tsa kahare kapa li-API tse hlokolosi.
- Tlhokomelo le Boitshwaro bo Fosahetseng: U lokela ho shebana le boits'oaro bo sa tloaelehang ba LLM. Li-spikes ka mefuta e itseng ea lipotso, liphetho tse khelohang mekhoa e tloaelehileng, kapa liteko tse pheta-phetoang tsa ho ntša tlhahisoleseling li lokela ho tsosa tlhokomeliso hanghang.
Sena ha se sa bua ka "tšireletseho ea AI" e pharaletseng. Sena se mabapi le ho boloka karolo ea ts'ebelisano ea lits'ebetso tsa hau tsa LLM khahlano le vector e khethehileng, e bonts'itsoeng, le e ka sebelisoang hanghang. Re ntse re aha litsamaiso tsena tse makatsang, tse matla, hangata ka mekhoa ea ts'ireletso e sa lekaneng. Lipontšo tsa morao-rao li re bontšitse hantle hore na ho bonolo hakae ho sebelisa likheo tsena. Nako ea lipuisano tsa tiori e fetile. Ho hlokahala khato hang hang ho boloka lits'ebetso tsa LLM.
##Mehloli [1] Top 10 ea OWASP bakeng sa Likopo tsa Mohlala oa Puo e Kholo — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: Phephetso ea ente e potlakileng ea ho sebelisana — https://gandalf.lakera.ai/ [3] Litlhaselo tsa ente ka potlako | Web Security Academy - https://portswigger.net/web-security/llm-attacks/prompt-injection [4] Ente e Potlakileng ke Eng le Mokhoa oa ho E Thibela? - https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it