Ny navigateur amin'ny maha-varavarana an-damosina: Nofoanana ny fitrandrahana tsiambaratelo LLM amin'ny lafiny mpanjifa
Efa ela loatra no noraisinay ho toy ny fandrahonana lavitra na fahalianana akademika ny "fampitandremana momba ny fiarovana AI". Nandre momba ny fanindronana haingana, ny fiatoana am-ponja, ary ny fivoahan'ny angon-drakitra amin'ny feo mangingina izahay, izay matetika arahin'ny fikorotanana sy ny hoe "ho tonga amin'izany izahay." Na izany aza, ny fihetsiketsehana ifanakalozan-kevitra vao haingana dia nandrava an'io illusion mampahazo aina io. Tsy vulnerability teorika intsony izany; izany dia fanararaotana mivantana, mifototra amin'ny navigateur, amin'ny lafiny mpanjifa amin'ny fitrandrahana vaovao saro-pady avy amin'ny Large Language Models (LLMs) [2]. Raha mampiasa rindranasa LLM ianao, indrindra fa ny zavatra rehetra mitodika amin'ny tranonkala, dia lasa andraikitry ny besinimaro sy tena mahamenatra tokoa ny "olana ho avy" anao.
Tsy lohatenim-baovao mahazatra "AI dia mampidi-doza" ity. Ity dia fihetsiketsehana mivaingana sy azo tsapain-tanana amin'ny fomba ahafahan'ny mpilalao ratsy fanahy iray, amin'ny fampiasana ny mpitety tranonkalany ihany, no manery ny LLM anao hanambara vaovao saro-pady. Diniho kely izany. Tsy momba ny fanafihana amin'ny lafiny server saro-pady na fandinihana lalina modely. Mikasika ny sosona fifaneraserana — ny varavarana fidirana indrindra amin'ny fampiharanao — izay araraotina miaraka amin'ireo tarehin-tsoratra vitsivitsy novolavolaina tsara. Izy io dia mitovy nomerika amin'ny olona mamorona fehezanteny mety amin'ny chatbot heverinao ho azo antoka, ary manolotra angon-drakitra manakiana, matetika tsikelikely.
Ny Illusion of Model Security
Orinasa maro no nampiasa vola be tamin'ny LLM "azo antoka", na ny modely fananan-tany na ny fiankinan-doha amin'ny API naorin'ny orinasa miaraka amin'ny tohatra fiambenana. Ny fiheverana an-kolaka dia hoe raha matanjaka ilay modely, dia handova izany fiarovana izany ny fampiharana aorina eo amboniny. Mampiharihary izany ho hevi-diso mampidi-doza ny fihetsiketsehana vao haingana. Ny vulnerability dia tsy ao amin'ny faharanitan-tsain'ny modely na ny angona fanofanana azy; ao amin'ny interface aorinay manodidina azy [1]. Io no olana mahazatra "vault matanjaka, varavarana fidirana marefo". Mety manana LLM efa mandroso sy mafy indrindra eran'izao tontolo izao ianao, fa raha tsy misy dikany ny parser fampidirana an'ny fampiharanao, na tsy misy ny sivana vokatrao, dia mamela fampahalalana manan-danja ho hitan'ny olona rehetra ianao.
Ity teknika "tsindrona haingana" ity dia mampanahy manokana satria mampiasa ny toetran'ny LLM: ny fahaizany manaraka ny toromarika sy ny lamina feno. Amin'ny alàlan'ny fampidirana prefix voarindra tsara ao anatin'ny fidirana an'ny mpampiasa, ny mpanafika dia afaka manodikodina ny toetran'ny modely, manery azy hanambara vaovao izay tsy noheverina ho [3]. Ny lafiny "iray-bit" na iterative dia tena zava-dehibe eto. Izany dia midika hoe exfiltration fomba sy voafehy, fa tsy fanariam-baovao mikorontana fotsiny. Alaivo sary an-tsaina ny mpanafika iray manontany hoe: "A" ve ny toetra voalohany amin'ny tsiambaratelo? avy eo "B' ve?" sy ny sisa. Miadana, eny, fa tena mandaitra sy sarotra fantarina ihany koa raha tsy mikaroka azy manokana ianao.
Ny mpitety tranonkalanao, ny fiadiany
Manova tanteraka ny lalao ny hoe fanararaotana miorina amin'ny navigateur ity. Midika izany hoe:
- Sakantsakana ambany amin'ny fidirana: Afaka manandrana izany izay rehetra manana fahaiza-manao fototra amin'ny fampivoarana tranonkala sy navigateur. Tsy mila fitaovana manokana na fahalalana AI lalina.
- Fampiharana amin'ny lafiny mpanjifa: Avy amin'ny masinin'ny mpampiasa ny fanafihana, ka sarotra kokoa ny manavaka ny fampidiran'ny mpampiasa ara-dalàna eo amin'ny sisin'ny tambajotra.
- Fandrahonana avy hatrany: Raha velona sy azo idirana amin'ny alàlan'ny interface Internet ny fampiharana LLM-nao, dia efa mora tratran'ity vector ity. Tsy patch ho avy ity; maika amin'izao fotoana izao.
Eritrereto ny vokany: sombin-kaody fananan-tany, antontan-taratasy anatiny, angon-drakitra mpanjifa, lakilen'ny API, na fanodinkodinana an-kolaka ny fihetsiky ny LLM anao mba hanaparitahana vaovao diso na hiteraka atiny manimba. Izany rehetra izany dia azo alaina na voataona, kely amin'ny ezaka mafy, amin'ny alàlan'ny boaty lahatsoratra tsotra.
Anao ny andraikitra
Tsy olana ho an'ny mpamatsy modely toa an'i OpenAI na Google izany mba hamboarina amin'ny fanavaozana modely manaraka. Olana * fiarovana fampiharana * izany, ary ny andraikitry ny fanalefahana dia eo an-tsorok'ireo mpamorona, ekipa fiarovana ary CTO mampiasa ireo rafitra ireo. Ny LLM-nao dia maotera matanjaka, saingy tsy misy dikany amin'ny farany. Hanao izay ambarany izy, na dia miafina ao anatin'ny fidiran'ny mpampiasa toa tsy misy dikany aza ireo torolalana ireo.
Ka, inona no ataonao izao?
Fiatrehana avy hatrany:
- ** Fanadiovana fampidirana mahery vaika:** Mihoatra noho ny fisorohana ny tsindrona SQL na XSS izany. Mila mandinika ny toetra rehetra miditra ao amin'ny LLM-nao ianao. Mitadiava lamina manondro ny tsindrona haingana, ny filaharan'ny toetra tsy mahazatra, na ny fikasana hiala amin'ny fifampiresahana andrasana [4]. Tsy mikasika ny fanakanana ny "teny ratsy" izany; momba ny famantarana ny bitsika manohitra izany. Ankoatra ny regex fototra sy ny famakafakana heuristika, ampiharo ny famakafakana semantika hamantarana ny fikasan-dratsy. Mampiasà famakafakana tokenization sy fametahana mba hamantarana ireo lamina fampidirana tsy mety. Eritrereto ny mampiasa LLM faharoa, kely kokoa na rafitra mifototra amin'ny fitsipika voaofana manokana hamantarana andrana fanindronana haingana. Mitadiava lamina toy ny toromarika milalao anjara, fangatahana fitrandrahana angona mazava, na fiezahana handalo ny toromarika teo aloha.
- Fanasivana sy Fanamarinana vokatra matanjaka: Aza matoky an-kolaka ny vokatra navoakan'ny LLM. Alohan'ny hisehoan'ny lahatsoratra vokarin'ny LLM amin'ny mpampiasa iray na ampiasain'ny rafitra hafa, dia tsy maintsy mandalo amina sosona fanamarinana henjana. Misy teny fanalahidy saro-pady ve izy io? Mifanaraka amin'ny endrika andrasana ve izany? Miezaka manatanteraka kaody ve izy io na manambara ny baikon'ny rafitra anatiny? Raha toa ka tokony hamintina antontan-taratasy ny LLM-nao, nefa manomboka mitanisa ny lalan'ny rakitra, dia manana olana ianao.
- Layered Prompt Engineering: Na dia tsy vahaolana tanteraka aza, dia afaka manampy amin'ny fanamafisana ny fitondran-tena tiana sy ny hanasarotra ny mpanafika haka ilay maodely ny baikon'ny rafitra voalamina tsara sy ohatra vitsivitsy. Na izany aza, fantaro fa ny injeniera haingana dia tsy ampy; fiarovana lalina io fa tsy ampinga voalohany.
- Tombontsoa faran'izay kely indrindra ho an'ny Fifandraisana amin'ny LLM: Tena mila fidirana amin'ny angon-drakitra rehetra ve ny LLM-nao izay mety hanosika azy hambara? Mampihatra fanaraha-maso henjana amin'ny fidirana. Raha toa ka tokony hamaly fanontaniana momba ny antontan-taratasy ho an'ny daholobe fotsiny ny LLM dia ataovy izay hahazoana antoka fa tsy manana fidirana programa amin'ny angon-drakitra anatiny na API saro-pady izy.
- Fanaraha-maso sy Fikarohana Anomaly: Mila mazoto mitady fihetsika tsy mahazatra LLM ianao. Ny fisondrotana amin'ny karazana fanontaniana manokana, ny vokatra mivoaka amin'ny lamina mahazatra, na ny andrana miverimberina haka vaovao dia tokony hiteraka fanairana avy hatrany.
Tsy resaka "fiarovana AI" malalaka intsony izany. Izany dia momba ny fiarovana ny sosona fifaneraserana amin'ny rindranasa LLM anao amin'ny vesatra fanafihana manokana, aseho ary azo trandrahana avy hatrany. Nanangana ireo rafitra mahagaga sy matanjaka ireo izahay, matetika miaraka amin'ny fepetra fiarovana tsy ampy amin'ny interface. Nasehon'ireo fihetsiketsehana vao haingana fa mora ny manararaotra ireo banga ireo. Efa lasa ny fotoana hanaovana fifanakalozan-kevitra ara-teorika. Ilaina ny hetsika haingana mba hahazoana antoka ny fampiharana LLM.
Loharano
[1] OWASP Top 10 ho an'ny fampiharana modely amin'ny fiteny lehibe — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: Fanamby amin'ny fampidirana tsindrona haingana — https://gandalf.lakera.ai/ [3] Fanafihana tsindrona haingana | Web Security Academy — https://portswigger.net/web-security/llm-attacks/prompt-injection [4] Inona no atao hoe tsindrona haingana sy ny fomba hisorohana izany? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it