Am brobhsair mar dhoras cùil: tarraing dìomhair taobh teachdaiche LLM air a chuir às
Airson ro fhada, tha sinn air dèiligeadh ri “rabhaidhean tèarainteachd AI” mar bhagairtean fad às no feòrachas acadaimigeach. Tha sinn air cluinntinn mu in-stealladh sgiobalta, jailbreaks, agus aodion dàta ann an tònaichean sàmhach, gu tric le shrug agus “gheibh sinn thuige.” Ach, tha taisbeanaidhean eadar-ghnìomhach o chionn ghoirid air an mealladh comhfhurtail sin a mhilleadh. Chan e so-leòntachd teòiridheach a tha seo tuilleadh; tha e na chleachdadh beò, stèidhichte air brabhsair, taobh teachdaiche airson fiosrachadh mothachail a thoirt a-mach à Modalan Cànain Mòr (LLMn) [2]. Ma tha thu a’ cleachdadh thagraidhean le cumhachd LLM, gu h-àraidh rud sam bith air an lìon, tha an “duilgheadas agad san àm ri teachd” dìreach air fàs gu bhith na uallach poblach, gu math poblach agus a dh’ fhaodadh a bhith gu math tàmailteach.
Chan e ceann-naidheachd coitcheann eile a tha seo “Tha AI cunnartach”. Tha seo na dhearbhadh sònraichte, susbainteach air mar as urrainn do chleasaiche droch-rùnach, a’ cleachdadh am brabhsair aca a-mhàin, do LLM a cho-èigneachadh gus fiosrachadh mothachail fhoillseachadh. Beachdaich air sin airson mionaid. Chan eil e mu dheidhinn ionnsaighean iom-fhillte taobh an fhrithealaiche no sealladh domhainn de mhodail. Tha e mu dheidhinn an ìre eadar-obrachaidh - fìor dhoras aghaidh an tagraidh agad - a bhith air a chleachdadh le beagan charactaran air an dealbhadh gu faiceallach. Is e an aon rud didseatach a th’ ann do chuideigin a bhith ag ullachadh an abairt cheart don chatbot agad a tha còir a bhith tèarainte, agus bidh e gu dìcheallach a’ toirt seachad dàta èiginneach, gu tric mean air mhean.
An Illusion de thèarainteachd mhodail
Tha mòran iomairtean air tasgadh mòr a dhèanamh ann an LLMn “tèarainte”, an dàrna cuid a’ gleusadh mhodalan seilbhe no an urra ri APIan aig ìre iomairt le rèilichean dìon. Is e a’ bharail shoilleir, ma tha am modail fhèin làidir, gum faigh an tagradh a chaidh a thogail a bharrachd air an tèarainteachd sin. Tha taisbeanaidhean o chionn ghoirid a’ nochdadh seo mar mhì-thuigse cunnartach. Chan eil an so-leòntachd ann am prìomh fhiosrachadh a’ mhodail no an dàta trèanaidh aige; tha e anns an interface a thogas sinn timcheall air [1]. Is e seo an duilgheadas clasaigeach "bogha làidir, doras aghaidh flimsy". Is dòcha gu bheil an LLM as adhartaiche agus as cruaidhe agad san t-saoghal, ach ma tha parser cuir a-steach an tagraidh agad naive, no mura bheil an sìoltachan toraidh agad ann, tha thu gu bunaiteach a’ fàgail fiosrachadh èiginneach fosgailte do dhuine sam bith a lorg.
Tha an dòigh “stealladh sgiobalta” seo gu sònraichte draghail leis gu bheil e a’ faighinn buannachd bho nàdar gnèitheach an LLM: a chomas stiùireadh a leantainn agus pàtrain coileanta. Le bhith a’ stealladh ro-leasachan a chaidh a thogail gu faiceallach a-steach do chuir a-steach neach-cleachdaidh, faodaidh an neach-ionnsaigh suidheachadh a’ mhodail a làimhseachadh, a’ toirt air fiosrachadh fhoillseachadh nach robh e an dùil a-riamh [3]. Tha an taobh "aon-phìos" no ath-aithris deatamach an seo. Tha e a’ ciallachadh às-shìoladh rianail, fo smachd, chan e dìreach dump dàta chaotic. Smaoinich air neach-ionnsaigh a 'faighneachd gu tur, "An e a' chiad charactar den dìomhair 'A'?" an uair sin "An e 'B' a th' ann?" Agus mar sin air adhart. Tha e slaodach, tha, ach tha e cuideachd air leth èifeachdach agus duilich a lorg mura h-eil thu a’ coimhead air a shon gu sònraichte.
Am brobhsair agad, an armachd aca
Tha an fhìrinn gur e brath * stèidhichte air brabhsair * a tha seo ag atharrachadh a’ gheama gu tur. Tha e a' ciallachadh:
- ** Bacaidh ìosal airson faighinn a-steach: ** Faodaidh duine sam bith le sgilean leasachaidh lìn bunaiteach agus brobhsair feuchainn air seo. Chan eil feum air innealan sònraichte no eòlas domhainn AI.
- ** Cur an gnìomh taobh teachdaiche: ** Tha an ionnsaigh a’ tighinn bho inneal an neach-cleachdaidh, ga dhèanamh nas duilghe dealachadh a dhèanamh bho chuir a-steach dligheach luchd-cleachdaidh aig oir an lìonraidh.
- ** Cunnart sa bhad: ** Ma tha an tagradh LLM agad beò agus ruigsinneach tro eadar-aghaidh lìn, tha e * mar-thà * so-leònte don vectar seo. Chan e pìos san àm ri teachd a tha seo; tha e na èiginn làithreach.
Beachdaich air na buaidhean: criomagan còd seilbh, sgrìobhainnean taobh a-staigh, dàta teachdaiche, iuchraichean API, no eadhon làimhseachadh seòlta air giùlan an LLM agad gus fiosrachadh ceàrr a sgaoileadh no susbaint cronail a ghineadh. Faodar seo uile a thoirt a-mach no buaidh a thoirt air, rud beag air bheag, tro bhogsa teacsa sìmplidh.
Is ann leatsa a tha an t-uallach
Chan eil seo na dhuilgheadas dha solaraichean modail leithid OpenAI no Google a chàradh san ath ùrachadh modail aca. Is e duilgheadas * tèarainteachd tagraidh * a tha seo, agus tha an uallach airson lasadh a’ tuiteam gu ìre mhòr air guailnean luchd-leasachaidh, sgiobaidhean tèarainteachd, agus CTOn a bhios a’ cleachdadh nan siostaman sin. Tha an LLM agad na einnsean cumhachdach, ach aig a’ cheann thall naive. Nì e na chaidh innse dha, eadhon ged a tha an stiùireadh sin falaichte taobh a-staigh cuir a-steach neach-cleachdaidh a tha coltach gu neo-chiontach.
Mar sin, dè nì thu * a-nis*?
Frith-bheartan sa bhad:
- Slànachadh cuir a-steach ionnsaigheach: Tha seo a’ dol nas fhaide na bhith a’ casg in-stealladh SQL no XSS. Feumaidh tu sgrùdadh a dhèanamh air * gach caractar * a thig a-steach don LLM agad. Coimhead airson pàtrain a tha mar chomharra air in-stealladh sgiobalta, sreathan caractar neo-àbhaisteach, no oidhirpean gus briseadh a-mach à sruthan còmhraidh ris a bheil dùil [4]. Chan ann mu dheidhinn “droch fhaclan” a tha seo; tha e mu dheidhinn a bhith ag aithneachadh brosnachaidhean nàmhaid. Seachad air mion-sgrùdadh regex agus heuristic bunaiteach, cuir an gnìomh mion-sgrùdadh semantach gus rùn droch-rùnach a lorg. Cleachd tokenization agus mion-sgrùdadh freumhachadh gus pàtrain inntrigidh neo-riaghailteach a chomharrachadh. Beachdaich air a bhith a’ cleachdadh LLM àrd-sgoile, nas lugha no siostam stèidhichte air riaghailtean air an trèanadh gu sònraichte gus oidhirpean stealladh sgiobalta a lorg. Coimhead airson pàtrain mar stiùiridhean cluich-ròl, iarrtasan às-tharraing dàta soilleir, no oidhirpean ri dhol seachad air stiùireadh a bh’ ann roimhe.
- Sìoladh agus Dearbhadh Toraidh Treas: Na cuir earbsa gu bràth ann an toradh an LLM. Mus tèid teacsa sam bith a ghineadh LLM a thaisbeanadh do neach-cleachdaidh no a chleachdadh le siostam eile, feumaidh e * * a dhol tro shreath dearbhaidh teann. A bheil faclan-luirg mothachail ann? A bheil e a’ freagairt ris na cruthan ris a bheil dùil? A bheil e a’ feuchainn ri còd a chuir an gnìomh no molaidhean siostam a-staigh fhoillseachadh? Ma tha còir aig an LLM agad geàrr-chunntas a dhèanamh air sgrìobhainn, ach gu bheil e a’ tòiseachadh a’ liostadh slighean faidhle, tha duilgheadas agad.
- Innleadaireachd Pìos Sreathach: Ged nach e fuasgladh coileanta a th’ ann, faodaidh molaidhean siostam air an deagh dhealbhadh agus beagan eisimpleirean de dhealbhan cuideachadh le bhith a’ neartachadh giùlan a tha thu ag iarraidh agus ga dhèanamh nas duilghe do neach-ionnsaigh am modail a thoirt thairis. Ach, tuig nach eil innleadaireachd sgiobalta leis fhèin gu leòr; tha e na dhìon domhainn, chan e prìomh sgiath.
- An sochair as lugha airson eadar-obrachaidhean LLM: A bheil fìor fheum aig an LLM agad air cothrom air a h-uile pìos dàta a dh’ fhaodadh a bhith air a bhrosnachadh? Cuir an gnìomh smachdan ruigsinneachd teann. Mura h-eil còir aig an LLM ach ceistean a fhreagairt mu sgrìobhainnean poblach, dèan cinnteach nach eil cothrom prògramaidh aige air stòran-dàta a-staigh no APIan mothachail.
- Sùileachadh agus Aithneachadh Neo-riaghailteachd: Feumaidh tu a bhith gu gnìomhach a' coimhead airson giùlan neo-àbhaisteach LLM. Bu chòir spìcean ann an seòrsachan sònraichte de cheistean, toraidhean a ghluaiseas bho phàtranan àbhaisteach, no oidhirpean a-rithist air fiosrachadh a tharraing a-mach rabhaidhean sa bhad.
Chan eil seo mu dheidhinn “tèarainteachd AI” farsaing tuilleadh. Tha seo mu dheidhinn an ìre eadar-obrachaidh de na tagraidhean LLM agad a dhèanamh tèarainte an aghaidh vectar ionnsaigh sònraichte, air a dhearbhadh agus air a chleachdadh sa bhad. Tha sinn air a bhith a’ togail nan siostaman iongantach, cumhachdach sin, gu tric le ceumannan tèarainteachd mì-fhreagarrach aig an eadar-aghaidh. Tha taisbeanaidhean o chionn ghoirid air sealltainn dhuinn dìreach cho furasta ‘s a tha e brath a ghabhail air na beàrnan sin. Tha an ùine airson còmhraidhean teòiridheach seachad. Tha feum air gnìomh sa bhad gus tagraidhean LLM a dhèanamh tèarainte.
Stòran
[1] OWASP Top 10 airson Iarrtasan Modail Cànain Mòr - https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: Dùbhlan brosnachaidh brosnachaidh eadar-ghnìomhach - https://gandalf.lakera.ai/ [3] Ionnsaighean stealladh sgiobalta | Acadamaidh Tèarainteachd Lìn - https://portswigger.net/web-security/llm-attacks/prompt-injection [4] Dè a th’ ann an stealladh sgiobalta agus mar a chuireas e casg air? - https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it