O le Su'esu'ega e fai ma Faitotoa i tua: Client-Ide LLM Fa'alilo Aveesea Fa'alilolilo
Mo se taimi umi, ua matou faia "AI lapataʻiga saogalemu" o ni faʻamataʻu mamao poʻo le fia iloa o aʻoaʻoga. Ua matou faalogo e uiga i tui vave, jailbreaks, ma le leakage faamatalaga i leo lemu, e masani ona sosoo ai ma se faamimigi ma se "tatou oo i ai." Ae ui i lea, o faʻataʻitaʻiga fefaʻatauaʻiga talu ai nei na faʻaumatia ai lena faʻafouga lelei. E le'o se fa'aletonu fa'aa'oa'oga; ose fa'aoga ola, e fa'atatau ile su'esu'ega, fa'aogaina e tagata o tausia mo le su'eina o fa'amatalaga ma'ale'ale mai Large Language Models (LLMs) [2]. Afai o lo'o e fa'aogaina ni talosaga e fa'aogaina e le LLM, ae maise lava so'o se mea e fa'asaga i luga ole laiga, o lau "fa'afitauli i le lumana'i" ua fa'ato'a avea o se noataga tele, fa'alaua'itele, ma e ono matua maasiasi ai.
E le'o se isi fa'aulutala "AI e lamatia". Ole fa'aaliga fa'apitoa lea ole auala e fa'aogaina ai e se tagata fai mea leaga, na'o latou su'esu'ega, ona fa'amalosi lau LLM e fa'aalia fa'amatalaga ma'ale'ale. Mafaufau i lena mea mo sina taimi. E le'o fa'atatau i osofa'iga lavelave i le itu-aumau po'o le su'esu'eina loloto o fa'ata'ita'iga. E fa'atatau i le va'aiga o feso'ota'iga—le faitoto'a pito i luma o lau tusi talosaga-o lo'o fa'aogaina i ni nai mataitusi ua fa'aeteete. O le numera fa'atusa lea o se tasi o lo'o tu'u sa'o le fasifuaitau i lau chatbot e fa'apea e malupuipuia, ma e tu'uina atu ma le fa'amaoni i luga o fa'amatalaga taua, e masani lava ona fa'asolosolo.
Le Faafoliga o le Saogalemu Faataitaiga
Le tele o atina'e ua fa'atupe tele i LLM "saogalemu", pe fa'alelei lelei fa'ata'ita'iga fa'apitoa po'o fa'alagolago i APIs-vaega atina'e ma fa'apea o latou puipui. O le manatu fa'atusa e fa'apea afai o le fa'ata'ita'iga lava ia e malosi, o le talosaga e fausia i luga o le a maua ai lena puipuiga. O faʻataʻitaʻiga talu ai nei ua faʻaalia ai lenei mea o se manatu sese matautia. O le fa'aletonu e le'o i totonu o le fa'ata'ita'iga fa'ata'ita'iga po'o ana fa'amatalaga a'oa'oga; o lo'o i totonu o le interface tatou te fausia fa'ata'amilo ai [1]. O le fa'afitauli masani lea o le "fa'ato'aga malosi, faitoto'a vaivai i luma". Atonu e iai sau LLM pito sili ona maualuga, ma'a'a i le lalolagi, ae afai e fa'alētonu le parser fa'aoga a lau tusi talosaga, pe leai fo'i lau fa'amama galuega, o lo'o e tu'ua fa'amatalaga taua e fa'aalia mo so'o se tasi e su'e.
O lenei faiga "tu'i vave" e fa'apitoa lava ona e fa'aogaina ai le natura o le LLM: o lona gafatia e mulimuli i fa'atonuga ma fa'ata'ita'iga atoatoa. E ala i le tuiina o se prefix ua fausia ma le faaeteete i totonu o se tagata faʻaoga, e mafai e le tagata osofaʻi ona faʻaogaina le tulaga i totonu o le faʻataʻitaʻiga, faʻamalosia e faʻaalia faʻamatalaga e leʻi fuafuaina e [3]. O le "tasi-bit" poʻo le faʻasologa e taua tele iinei. O lo'o fa'atusalia ai se fa'ata'ita'iga fa'apitoa, fa'atonutonuina, ae le na'o se fa'aputugā fa'amaumauga fa'aletonu. Va'ai faalemafaufau i se tagata osofa'i fesili faifai pea, "O le uiga muamua o le mealilo 'A'?" ona "O le 'B'?" ma faapena atu ai lava. E telegese, ioe, ae e matua ofoofogia foi ma faigata ona iloa pe afai e te le o suʻeina faapitoa.
Lau Su'esu'e, La Latou Auupega
O le mea moni o lenei mea o se * browser-based * faʻaoga e suia atoa ai le taʻaloga. O lona uiga:
- Low Barrier to Entry: So'o se tasi e iai tomai fa'avae i le atina'eina o upegatafa'ilagi ma se su'esu'ega e mafai ona taumafai lea. Leai se mea faigaluega faʻapitoa poʻo se malamalama loloto AI e manaʻomia.
- Fa'atinoga o Tagata Fa'atau: O le osofa'iga e afua mai i le masini a le tagata fa'aoga, e fa'afaigata ai ona iloa le fa'ailoga mai fa'aoga tatau a tagata fa'aoga i le pito o feso'ota'iga.
- Fa'amata'u Fa'amata'u: Afai o lo'o ola lau talosaga LLM ma mafai ona fa'aogaina e ala i se 'upega tafa'ilagi, ua *a'afia lava i lenei ve'a. E le o se patch i le lumanai; ose fa'alavelave fa'afuase'i i le taimi nei.
Manatu i a'afiaga: snippets code proprietary, fa'amaumauga i totonu, fa'amaumauga a tagata fa'atau, ki API, po'o le fa'aogaina maaleale o lau amio a le LLM e fa'asalalau ai fa'amatalaga sese pe fa'atupu ai mea leaga. O nei mea uma e mafai ona maua mai pe fa'aaafiaina, fa'ato'a fa'atiga, e ala i se atigipusa faigofie.
O le Tiute e ia te oe
E le o se fa'afitauli lea mo kamupani fa'ata'ita'i pei o OpenAI po'o Google e fa'aleleia i le isi a latou fa'afouga fa'atusa. Ole fa'afitauli lea o le *fa'aoga saogalemu, ma o le matafaioi mo le fa'aitiitia o lo'o pa'u tonu lava i luga o tauau o tagata atia'e, vaega o le puipuiga, ma CTO o lo'o fa'aogaina nei faiga. O lau LLM ose afi mamana, ae i'u lava ina valea. O le a faia le mea o loʻo taʻuina atu, tusa lava pe natia na faatonuga i totonu e foliga mai e leai se afaina o tagata faʻaoga.
O lea, o le a lau mea e fai * nei *?
Fa'asagaga Fa'afuase'i:
- Aggressive Input Sanitization: Ole mea lea e sili atu nai lo le puipuia ole tui ole SQL poo le XSS. E mana'omia lou su'esu'eina mata'i uma e ulufale i lau LLM. Vaavaai mo mamanu e faʻaalia ai le vave tui, faʻasologa uiga ese, poʻo le taumafai e alu ese mai le faʻamoemoeina o talanoaga [4]. E le o le taofia lea o "upu leaga"; e uiga i le fa'ailoaina o fa'aoso fa'aleaga. I tua atu o le regex faavae ma le suʻesuʻega heuristic, faʻatino suʻesuʻega semantic e iloa ai le faʻamoemoe leaga. Fa'aaogā fa'ailoga ma fa'apipi'i au'ili'ili e fa'ailoa ai fa'asologa o mea e tu'u ai fa'aletonu. Mafaufau e fa'aaoga se LLM lona lua, la'ititi la'ititi po'o se faiga fa'avae e fa'atatau i tulafono ua a'oa'oina fa'apitoa e su'esu'e vave ai le tui. Va'ai mo fa'ata'ita'iga e pei o fa'atonuga fa'atino, fa'amatalaga manino e su'e fa'amaumauga, po'o le taumafai e pasi fa'atonuga muamua.
- Fili'iliga ma le Fa'amaonia o Galuega Fa'atino: Aua ne'i fa'atuatuaina fa'alilolilo galuega a le LLM. A'o le'i fa'aali atu so'o se tusitusiga na gaosia e le LLM i se tagata fa'aoga po'o fa'aoga e se isi faiga, e tatau lava ona uia se vaega fa'amaonia malosi. E iai ni upu ma'ale'ale? E fetaui ma fa'atulagaga fa'amoemoeina? E taumafai e fa'atino le code pe fa'aalia fa'alotoifale fa'atonuga? Afai o lau LLM e tatau ona aoteleina se pepa, ae amata ona lisiina ala faila, e iai sau faʻafitauli.
- Layered Prompt Engineering: E ui lava e le o se fofo atoatoa, o faiga fa'atonu lelei ma ni nai ata fa'ata'ita'iga e mafai ona fesoasoani e fa'amalosia amioga mana'omia ma fa'afaigata ai mo se tagata osofa'i ona faoa le fa'ata'ita'iga. Ae ui i lea, ia malamalama e le lava le inisinia vave; o se puipuiga loloto, ae le o se talipupuni muamua.
- ** Tulaga Fa'atauva'a mo LLM Feso'ota'iga:** E mana'omia moni e lau LLM le avanoa i vaega uma o fa'amatalaga e ono fa'aosofia e fa'aalia? Fa'atino fa'atonuga fa'atonu. Afai e na'o le LLM e tali fesili e uiga i fa'amaumauga a le lautele, ia mautinoa e leai se avanoa fa'apolokalame i fa'amaumauga i totonu po'o API ma'ale'ale.
- Su'esu'eina ma le Su'esu'eina o le Anomaly: E tatau ona e su'e mataalia mo amioga LLM e le masani ai. O le fa'aoso i ituaiga fa'amatalaga fa'apitoa, fa'ai'uga e 'ese mai fa'ata'ita'iga masani, po'o le taumafai fa'afia e fa'ailoa mai fa'amatalaga e tatau ona fa'aoso vave fa'aaliga.
E le o toe fa'atatau i le lautele "AI saogalemu" toe. O le mea lea e fa'atatau i le fa'amautuina o le vaega o feso'ota'iga o au talosaga LLM e fa'asaga i se mea fa'apitoa, fa'ata'ita'i, ma vave fa'aaoga fa'atosina. Sa matou fauina nei faiga mata'ina, mamana, e masani lava ma le le lava o puipuiga malu i le atina'e. O faʻataʻitaʻiga talu ai nei ua faʻaalia ai ia i matou le faigofie tele o le faʻaogaina o nei va. Ua mavae le taimi mo talanoaga fa'apitoa. E mana'omia se gaioiga vave e fa'amautu talosaga LLM.
Punavai
[1] OWASP Top 10 mo Talosaga Faataitaiga Gagana Tele — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: O se Lu'i Tu'i Fa'atosina Fegalegaleai — https://gandalf.lakera.ai/ [3] Osofaiga vave tui | Web Security Academy - https://portswigger.net/web-security/llm-attacks/prompt-injection [4] O le a le tui vave ma le auala e taofia ai? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it