An Brabhsálaí mar Dhíon Cúlra: Eastóscadh Rúnda LLM Taobh an Chliaint Demystified
Le ró-fhada, chaitheamar le "rabhaidh slándála AI" mar bhagairtí i bhfad i gcéin nó fiosracht acadúil. Chuala muid faoi instealladh pras, jailbreaks, agus sceitheadh sonraí i toin suaite, go minic ina dhiaidh sin shrug agus "beidh muid a bhaint amach dó." Mar sin féin, rinne taispeántais idirghníomhacha le déanaí an seachmaill chompordach sin a mhilleadh. Ní leochaileacht theoiriciúil í seo a thuilleadh; is saothrú beo, brabhsálaí-bhunaithe, ar thaobh an chliaint é chun faisnéis íogair a bhaint as Múnlaí Móra Teanga (LLManna) [2]. Má tá feidhmchláir faoi thiomáint LLM á n-imscaradh agat, go háirithe aon rud ar an ngréasán, d’eascair d’fhadhb sa todhchaí mar dhliteanas an-i láthair, an-phoiblí, agus d’fhéadfadh go mbeadh náire ort.
Ní ceannlíne cineálach eile é seo "AI is risky". Léiriú sonrach, inláimhsithe é seo ar an gcaoi ar féidir le gníomhaí mailíseach, ag baint úsáide as a bhrabhsálaí amháin, do LLM a bhrú chun faisnéis íogair a nochtadh. Smaoinigh ar sin ar feadh nóiméad. Ní bhaineann sé le hionsaithe casta ar thaobh an fhreastalaí nó le hinspreagadh múnla domhain. Is éard atá i gceist leis ná an ciseal idirghníomhaíochta - an doras tosaigh d'iarratas - a shaothrú le cúpla carachtar atá deartha go cúramach. Is ionann é agus duine éigin ag cruthú na habairte ceart do do chatbot a cheaptar a bheith slán, agus tugann sé sonraí ríthábhachtacha ar láimh, go minic beagán ar ball.
An Illusion na Slándála Múnla
Tá infheistíocht mhór déanta ag go leor fiontar i LLManna “slán”, bíodh siad ag mionchoigeartú i múnlaí dílseánaigh nó ag brath ar APIanna de ghrád fiontair le ráillí cosanta ceaptha. Is é an toimhde intuigthe, má tá an tsamhail féin láidir, go bhfaighidh an feidhmchlár a tógadh ar a bharr an t-urrús sin mar oidhreacht. Nochtadh léirithe le déanaí seo mar mhíthuiscint chontúirteach. Níl an leochaileacht i gcroífhaisnéis na samhla ná ina sonraí oiliúna; tá sé sa chomhéadan a thógaimid timpeall air [1]. Tá sé an clasaiceach "bogha láidir, doras tosaigh flimsy". B'fhéidir go bhfuil an LLM cruaite is forbartha ar domhan agat, ach má tá parsálaí ionchuir d'fheidhmchláir naive, nó mura bhfuil do scagaire aschuir ann, go bunúsach tá faisnéis ríthábhachtach á fhágáil agat do dhuine ar bith a aimsiú.
Is ábhar imní ar leith an teicníc “instealladh pras” seo toisc go luíonn sé le nádúr dúchasach an LLM: a cumas treoracha agus patrúin iomlána a leanúint. Trí réimír atá tógtha go cúramach a instealladh isteach in ionchur úsáideora, is féidir leis an ionsaitheoir staid inmheánach an mhúnla a ionramháil, rud a chuir iallach air faisnéis a nochtadh nach raibh sé i gceist aige a dhéanamh [3]. Tá an ghné "aon-ghiotán" nó atriallach ríthábhachtach anseo. Ciallaíonn sé dí-scagadh modheolaíoch, rialaithe, ní hamháin dumpáil sonraí chaotic. Samhlaigh ionsaitheoir ag iarraidh go atriallach, "An é an chéad charachtar den rún 'A'?" ansin "An bhfuil sé 'B'?" agus mar sin de. Tá sé mall, tá, ach tá sé thar a bheith éifeachtach agus deacair a bhrath mura bhfuil tú á lorg go sonrach.
Do Bhrabhsálaí, a n-arm
Athraítear an cluiche go hiomlán toisc gur leas a bhaint as brabhsálaí é seo. Ciallaíonn sé:
- Bacainn Íseal ar Iontráil: Is féidir le haon duine a bhfuil bunscileanna forbartha gréasáin aige nó aici tabhairt faoi seo. Níl aon uirlisí speisialaithe nó eolas domhain AI ag teastáil.
- ** Forghníomhú Taobh an Chliaint:** Eascraíonn an t-ionsaí ó mheaisín an úsáideora, rud a fhágann go bhfuil sé níos deacra idirdhealú a dhéanamh idir ionchur dlisteanach úsáideora ar imeall an líonra.
- Bagairt Láithreach: Má tá d’fheidhmchlár LLM beo agus inrochtana trí chomhéadan gréasáin, tá sé *leochaileach cheana féin don veicteoir seo. Ní paiste todhchaí é seo; is éigeandáil láithreach é.
Smaoinigh ar na himpleachtaí: sníomhanna cód dílseánaigh, doiciméadú inmheánach, sonraí custaiméirí, eochracha API, nó fiú ionramháil subtle ar iompar do LLM chun faisnéis mhícheart a scaipeadh nó ábhar díobhálach a ghiniúint. Is féidir é seo ar fad a bhaint as nó tionchar a imirt, beagán le beagán dian, trí bhosca téacs simplí.
Is leatsa an fhreagracht
Ní fadhb í seo do sholáthraithe samhlacha ar nós OpenAI nó Google le réiteach sa chéad nuashonrú múnla eile. Is fadhb slándála iarratais í seo, agus is ar na forbróirí, na foirne slándála agus na CTOanna a imscarann na córais seo a thiteann an fhreagracht as maolú go mór. Is inneall cumhachtach, ach naive sa deireadh, é do LLM. Déanfaidh sé an méid a dúradh leis, fiú má tá na treoracha sin i bhfolach laistigh d'ionchur úsáideora atá cosúil go neamhchiontach.
Mar sin, cad a dhéanann tú * anois*?
Frithbhearta Láithreach:
- Sláintíocht Ionchuir Ionsaitheach: Téann sé seo níos faide ná instealladh SQL nó XSS a chosc. Ní mór duit grinnscrúdú a dhéanamh ar gach carachtar a théann isteach i do LLM. Cuardaigh patrúin a léiríonn instealladh pras, seichimh charachtair neamhghnácha, nó iarrachtaí chun briseadh amach as sreafaí comhrá a bhfuiltear ag súil leo [4]. Ní bhaineann sé seo le "drochfhocail" a bhlocáil; tá sé faoi leideanna sáraíochta a aithint. Taobh amuigh d’anailís bhunúsach regex agus heuristic, cuir anailís shéimeantach i bhfeidhm chun rún mailíseach a bhrath. Úsáid comharthaíocht agus anailís neadaithe chun patrúin ionchuir aimhrialta a aithint. Smaoinigh ar LLM tánaisteach, níos lú nó córas bunaithe ar rialacha a úsáid atá oilte go sonrach chun iarrachtaí pras insteallta a bhrath. Cuardaigh patrúin mar threoracha rólghlacadh, iarratais fhollasacha astarraingthe sonraí, nó iarrachtaí chun treoracha roimhe seo a sheachaint.
- Scagachán agus Bailíochtú Aschuir Láidir: Ná bíodh muinín agat as aschur LLM go hintuigthe. Sula dtaispeánfar aon téacs a ghintear LLM d’úsáideoir nó sula n-úsáideann córas eile é, * caithfidh sé * dul trí shraith dhian bailíochtaithe. An bhfuil eochairfhocail íogaire ann? An dtagann sé leis na formáidí a bhfuiltear ag súil leo? An ndéanann sé iarracht cód a rith nó leideanna córais inmheánaigh a nochtadh? Má tá do LLM ceaptha achoimre a dhéanamh ar dhoiciméad, ach tosaíonn sé ag liostú cosáin comhaid, tá fadhb agat.
- Innealtóireacht Pras Sraitheanna: Cé nach réiteach iomlán é, is féidir le leideanna dea-dheartha córais agus samplaí cúpla lámhaigh cuidiú leis an iompar atá ag teastáil a threisiú agus é a dhéanamh níos deacra d'ionsaitheoir an tsamhail a urghabháil. Mar sin féin, a thuiscint nach leor innealtóireacht phras amháin; is cosaint dhomhain é, ní príomhsciath.
- An Pribhléid is Lú maidir le hIdirghníomhaíochtaí LLM: An bhfuil rochtain ag teastáil ó do LLM ar gach píosa sonraí a d'fhéadfaí a spreagadh le nochtadh? Cuir rialuithe rochtana dian i bhfeidhm. Mura bhfuil an LLM ceaptha ach ceisteanna a fhreagairt faoi dhoiciméid phoiblí, cinntigh nach bhfuil aon rochtain ríomhchláraithe aige ar bhunachair shonraí inmheánacha nó ar APIanna íogaire.
- Faireachán agus Aimhrialtacht a Bhrath: Ní mór duit a bheith gníomhach sa tóir ar iompar neamhghnách LLM. Ba cheart go spreagfadh spící i gcineálacha sonracha fiosrúchán, aschuir a chlaonann ó ghnáthphatrúin, nó iarrachtaí arís agus arís eile ar fhaisnéis a bhaint as foláirimh láithreach.
Ní bhaineann sé seo le "slándáil AI" leathan níos mó. Baineann sé seo le ciseal idirghníomhaíochta d’fheidhmchláir LLM a dhaingniú i gcoinne veicteoir ionsaithe ar leith, léirithe agus insaothraithe láithreach. Táimid tar éis na córais dochreidte, chumhachtacha seo a thógáil, go minic le bearta slándála neamhleor ag an gcomhéadan. Léirigh taispeántais le déanaí dúinn go beacht cé chomh héasca agus atá sé leas a bhaint as na bearnaí sin. Tá an t-am le haghaidh plé teoiriciúil caite. Tá gníomh láithreach ag teastáil chun feidhmchláir LLM a dhaingniú.
Foinsí
[1] OWASP Na 10 bhFeidhmchlár is Fearr maidir le Múnlaí Móra Teangacha - https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: Dúshlán Instealladh Pras Idirghníomhach - https://gandalf.lakera.ai/ [3] Ionsaithe insteallta pras | Acadamh Slándála Gréasáin - https://portswigger.net/web-security/llm-attacks/prompt-injection [4] Cad is Instealladh Pras ann agus Conas é a Chosc? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it