ʻO ka Pūnaewele ma ke ʻano he Backdoor: ʻO ka ʻaoʻao o ka mea kūʻai aku LLM huna huna i hoʻopau ʻia
No ka lōʻihi loa, ua mālama mākou i nā "'ōlelo aʻoaʻo palekana AI" ma ke ʻano he hoʻoweliweli mamao a i ʻole ka ʻimi ʻike kula. Ua lohe mākou e pili ana i ka hoʻokomo koke ʻana, nā hale paʻahao, a me ka leakage ʻikepili i nā leo haʻahaʻa, e ukali pinepine ʻia e ka ʻohi ʻana a me ka "e loaʻa iā mākou." Eia naʻe, ua uhaʻi nā hōʻikeʻike pāʻani hou i kēlā hoʻopunipuni ʻoluʻolu. ʻAʻole kēia he vulnerability theoretical hou; he mea ola, ma ka polokalamu kele pūnaewele, hoʻohana ʻaoʻao ʻaoʻao no ka unuhi ʻana i ka ʻike koʻikoʻi mai Large Language Models (LLMs) [2]. Inā ʻoe e hoʻohana ana i nā noi i hoʻohana ʻia e LLM, ʻoi aku ka nui o nā mea a pau e pili ana i ka pūnaewele, ua lilo kou "pilikia i ka wā e hiki mai ana" i kahi kuleana nui loa, lehulehu, a hilahila loa.
ʻAʻole kēia he poʻomanaʻo "AI is risky". ʻO kēia kahi hōʻike kikoʻī a hiki ke ʻike i ke ʻano o ka mea hana ʻino, me ka hoʻohana wale ʻana i kā lākou polokalamu kele pūnaewele, hiki ke koi i kāu LLM e hōʻike i ka ʻike koʻikoʻi. E noʻonoʻo i kēlā no kekahi manawa. ʻAʻole ia e pili ana i nā hoʻouka ʻaoʻao server paʻakikī a i ʻole ka nānā ʻana i nā kumu hoʻohālike hohonu. E pili ana ia i ka papa hoʻopili—ka puka mua loa o kāu noi—e hoʻohana ʻia me kekahi mau mea i hana maikaʻi ʻia. ʻO ia ka like kikohoʻe o kekahi e hana ana i ka huaʻōlelo kūpono i kāu chatbot i manaʻo ʻia e paʻa, a hāʻawi pono ʻo ia i nā ʻikepili koʻikoʻi, pinepine pinepine.
ʻO ka Illusion of Model Security
Nui nā ʻoihana i kālele nui i nā LLM "palekana", a i ʻole ka hoʻoponopono pono ʻana i nā hiʻohiʻona waiwai a i ʻole ke hilinaʻi ʻana i nā API no ka ʻoihana me nā mea i manaʻo ʻia he kiaʻi. ʻO ka manaʻo paʻa ʻole inā paʻa ke kumu hoʻohālike, ʻo ka noi i kūkulu ʻia ma luna ona e hoʻoili i kēlā palekana. Hōʻike nā hōʻike hou i kēia ma ke ʻano he kuhi hewa. ʻAʻole i loko o ka naʻauao koʻikoʻi o ke kumu hoʻohālike a i ʻole kāna ʻikepili aʻo; aia ma ka interface a mākou e kūkulu ai a puni ia [1]. ʻO ia ka pilikia "robust vault, flimsy front door". Loaʻa paha iā ʻoe ka LLM ʻoi loa a paʻakikī i ka honua, akā inā he naʻaupō ka parser hoʻokomo o kāu noi, a ʻaʻole i loaʻa kāu kānana hoʻopuka, ke waiho nei ʻoe i ka ʻike koʻikoʻi e ʻike ʻia e kekahi.
ʻO kēia ʻano hana "hoʻopiʻi wikiwiki" no ka mea e hoʻohana ana i ke ʻano maoli o ka LLM: kona hiki ke hahai i nā kuhikuhi a me nā kumu hoʻopihapiha. Ma ka hoʻokomo ʻana i kahi prefix i kūkulu pono ʻia i loko o ka hoʻokomo o ka mea hoʻohana, hiki i ka mea hoʻouka ke hoʻopunipuni i ke kūlana kūloko o ke kumu hoʻohālike, e koi ana iā ia e hōʻike i ka ʻike ʻaʻole i manaʻo ʻia e [3]. He mea koʻikoʻi ka ʻaoʻao "hoʻokahi-bit" a i ʻole iterative ma aneʻi. Hōʻike ia i ka exfiltration me ka hoʻomalu ʻia, ʻaʻole wale kahi hoʻokuʻu ʻikepili chaotic. E noʻonoʻo i kahi mea hoʻouka kaua e nīnau ana, "ʻO ke ʻano mua o ka mea huna 'A'?" a laila "ʻO 'B' ia?" a pela aku. He lohi, ʻae, akā maikaʻi loa a paʻakikī ke ʻike inā ʻaʻole ʻoe e ʻimi pono iā ia.
ʻO kāu polokalamu kele pūnaewele, kā lākou mea kaua
ʻO ka ʻoiaʻiʻo he mea hoʻohana i ka * browser-based * hoʻololi i ka pāʻani holoʻokoʻa. ʻO ia hoʻi:
- Ka Pale Haʻahaʻa i ke komo ʻana: Hiki i kēlā me kēia me nā mākau hoʻomohala pūnaewele maʻamau a me kahi polokalamu kele ke hoʻāʻo i kēia. ʻAʻole pono nā mea hana kūikawā a i ʻole ka ʻike hohonu AI.
- Ka hoʻokō ʻaoʻao ʻaoʻao: No ka mīkini o ka mea hoʻohana ka hoʻouka ʻana, ʻoi aku ka paʻakikī o ka hoʻokaʻawale ʻana mai ka hoʻokomo pono o ka mea hoʻohana ma ka ʻaoʻao pūnaewele.
- Hoʻoweliweli koke: Inā ola kāu palapala LLM a hiki ke ʻike ʻia ma o kahi kikowaena pūnaewele, *ua hiki ke hoʻopili ʻia i kēia vector. ʻAʻole kēia he papa e hiki mai ana; he ulia pōpilikia i kēia manawa.
E noʻonoʻo i nā manaʻo: nā snippets code proprietary, nā palapala kūloko, ka ʻikepili o nā mea kūʻai aku, nā kī API, a i ʻole ka hoʻopunipuni maʻalahi o kāu ʻano LLM e hoʻolaha i ka ʻike kuhi hewa a i ʻole ka hoʻopuka ʻana i nā ʻike ʻino. Hiki ke unuhi a hoʻohuli ʻia kēia mau mea a pau, ma o kahi pahu kikokikona maʻalahi.
Nau ke kuleana
ʻAʻole kēia he pilikia no nā mea hoʻolako kumu hoʻohālike e like me OpenAI a i ʻole Google e hoʻoponopono i kā lākou hoʻoponopono hou. He pilikia kēia pplication security, a ke kau pololei nei ke kuleana o ka hoʻēmi ʻana ma luna o nā poʻohiwi o nā mea hoʻomohala, nā hui palekana, a me nā CTO e kau ana i kēia mau ʻōnaehana. ʻO kāu LLM he mīkini ikaika, akā naʻe hope loa. E hana ʻo ia i ka mea i haʻi ʻia, ʻoiai inā hūnā ʻia kēlā mau ʻōlelo i loko o ka hoʻokomo mea hoʻohana hewa ʻole.
No laila, he aha kāu hana i kēia manawa?
Nā Hana Kū'ē koke:
- Aggressive Input Sanitization: ʻOi aku kēia ma mua o ka pale ʻana iā SQL injection a i ʻole XSS. Pono ʻoe e mākaʻikaʻi *i kēlā me kēia ʻano * komo i kāu LLM. E ʻimi i nā hiʻohiʻona e hōʻike ana i ka hoʻokomo koke ʻana, nā ʻano ʻano like ʻole, a i ʻole ka hoʻāʻo e haʻalele i nā kahe kamaʻilio i manaʻo ʻia [4]. ʻAʻole kēia e pili ana i ka pale ʻana i nā "ʻōlelo ʻino"; e pili ana i ka ʻike ʻana i nā ʻōkuhi kūʻē. Ma waho aʻe o ka regex kumu a me ka nānā ʻana heuristic, e hoʻokō i ka loiloi semantic e ʻike i ka manaʻo ʻino. E hoʻohana i ka tokenization a me ka hoʻopili ʻana i ka nānā ʻana e ʻike i nā kumu hoʻokomo anomali. E noʻonoʻo e hoʻohana i kahi LLM kiʻekiʻe, liʻiliʻi liʻiliʻi a i ʻole kahi ʻōnaehana i hoʻomaʻamaʻa pono ʻia no ka ʻike ʻana i nā hoʻāʻo ʻīwī koke. E ʻimi i nā hiʻohiʻona e like me nā ʻōlelo aʻoaʻo pāʻani, nā noi unuhi ʻikepili a i ʻole nā hoʻāʻo e kāʻalo i nā ʻōlelo aʻo mua.
- Ke kānana a me ka hōʻoia ʻana i nā mea hoʻopukapuka ikaika: Mai hilinaʻi loa i ka hoʻopuka a LLM. Ma mua o ka hōʻike ʻia ʻana o kekahi kikokikona i haku ʻia e LLM i ka mea hoʻohana a i ʻole hoʻohana ʻia e kekahi ʻōnaehana ʻē aʻe, pono ia e hele i loko o kahi papa hōʻoia paʻa. Loaʻa iā ia nā huaʻōlelo koʻikoʻi? Kūlike anei ia me nā ʻano i manaʻo ʻia? Ke hoʻāʻo nei e hoʻokō i ke code a hōʻike paha i nā ʻōnaehana kūloko? Inā manaʻo ʻia kāu LLM e hōʻuluʻulu i kahi palapala, akā hoʻomaka ia e papa inoa i nā ala faila, pilikia ʻoe.
- Layered Prompt Engineering: ʻOiai ʻaʻole ia he hopena piha, hiki i nā ʻōnaehana i hoʻolālā maikaʻi ʻia a me nā hiʻohiʻona kiʻi liʻiliʻi ke kōkua i ka hoʻoikaika ʻana i ke ʻano i makemake ʻia a paʻakikī i ka mea hoʻouka kaua e hao i ke kumu hoʻohālike. Eia naʻe, e hoʻomaopopo ʻaʻole lawa ka ʻenehana wikiwiki wale nō; he pale hohonu, ʻaʻole he pale mua.
- Kumi li'ili'i loa no ka LLM Interactions: Pono anei kāu LLM e komo i kēlā me kēia ʻāpana ʻikepili i hiki ke hoʻoikaika ʻia e hōʻike? E hoʻokō i nā mana hoʻokō koʻikoʻi. Inā manaʻo ʻia ka LLM e pane i nā nīnau e pili ana i nā palapala lehulehu, e hōʻoia i ka loaʻa ʻole o ka polokalamu i nā ʻikepili kūloko a i ʻole nā API koʻikoʻi.
- Monitoring and Anomaly Detection: Pono ʻoe e ʻimi ikaika i nā ʻano LLM maʻamau. ʻO ka piʻi ʻana i nā ʻano nīnau kikoʻī, nā hopena i haʻalele i nā ʻano maʻamau, a i ʻole nā hoʻāʻo pinepine e unuhi i ka ʻike e hoʻomaka koke i nā makaʻala.
ʻAʻole kēia e pili ana i ka laulā "AI Security" hou. E pili ana kēia i ka hoʻopaʻa ʻana i ka papa pilina o kāu mau noi LLM e kūʻē i kahi vector hoʻouka kikoʻī, hōʻike ʻia, a hoʻohana koke ʻia. Ke kūkulu nei mākou i kēia mau ʻōnaehana kupaianaha, ikaika, pinepine me nā ana palekana kūpono ʻole ma ka interface. Ua hōʻike mai nā hōʻikeʻike hou iā mākou i ka maʻalahi o ka hoʻohana ʻana i kēia mau āpau. Ua hala ka manawa no nā kūkākūkā manaʻo. Pono e hana koke e hoʻopaʻa i nā noi LLM.
Nā kumu
[1] OWASP Top 10 no nā noi hoʻohālike ʻōlelo nui — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] ʻO Lakera Gandalf: He Paʻi Hoʻopiʻi Kūkākūkā Interactive — https://gandalf.lakera.ai/ [3] Hoʻouka koke ʻia ʻo | Ke Kula Kaiapuni Pūnaewele — https://portswigger.net/web-security/llm-attacks/prompt-injection [4] He aha ka Prompt Injection a pehea e pale aku ai? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it