Ko te Pūtirotiro hei Tumuri: Ko te taha Kiritaki LLM Tangohanga Ngaro Kua Whakakorehia
Mo te roa rawa, kua kiia e matou nga "whakatupato haumarutanga AI" hei whakatumatuma tawhiti, he hiahia mohio ranei. Kua rongo matou mo te werohanga tere, te jailbreak, me te rerenga o nga raraunga i roto i nga reo maru, he maha nga wa ka whai mai i te kohi me te "ka eke tatou." Heoi, ko nga whakaaturanga tauwhitiwhiti tata nei kua pakaru taua pohehe pai. Ehara tenei i te whakaraeraetanga whakaaro; he mahi ora, he kaitirotiro, taha-kiritaki mo te tango korero tairongo mai i nga Tauira Reo Nui (LLM) [2]. Mena kei te whakamahi koe i nga tono a-LLM, ina koa ko nga mea katoa e anga atu ana ki te paetukutuku, ko to "raruraru a muri ake nei" ka puta mai he taunahatanga nui, tino whanui, me te tino whakama.
Ehara tenei i tetahi atu kupu matua "AI he morearea". He whakaaturanga motuhake tenei mo te pehea e taea ai e te kaiwhakaari kino, ma te whakamahi anake i tana kaitirotiro, te akiaki i to LLM ki te whakaatu korero tairongo. Whakaarohia mo te wa poto. Ehara i te mea e pa ana ki nga whakaeke taha-server uaua, ki te tirotiro tauira hohonu ranei. E pa ana ki te paparanga tauwhitiwhiti—te kuaha o mua o to tono—e whakamahia ana me etahi tohu kua ata mahia. Ko te ahua mamati o te tangata e hanga ana i te kianga tika ki to korero korero e kiia ana he haumaru, a ka tukuna e ia nga raraunga whakahirahira, he moka noa.
Te Pohewa o te Tauira Haumarutanga
He maha nga hinonga kua whakapau kaha ki roto i nga LLM "haumaru", he pai te whakatika i nga tauira rangatira, kei te whakawhirinaki ranei ki nga API reanga hinonga me nga arai arai. Ko te whakapae, mena he pakari te tauira, ko te tono i hangaia i runga ake ka riro i a ia taua haumarutanga. Ko nga whakaaturanga o tata nei e whakaatu ana he pohehe kino tenei. Ko te whakaraeraetanga karekau i roto i te maaramatanga matua o te tauira, i ana raraunga whakangungu ranei; kei roto i te atanga ka hangaia e matou a tawhio noa [1]. Koinei te raru "he pakari, he kuaha o mua". Kei a koe pea te LLM tino matatau me te whakapakeke o te ao, engari mena he poauau te kaiporooro whakauru o to tono, karekau ranei to tātari putanga, ka waiho e koe nga korero whakahirahira kia kitea e te tangata.
Ko tenei tikanga "whanga wawe" he mea tino awangawanga na te mea ka whakamahia e ia te ahua o te LLM: tona kaha ki te whai i nga tohutohu me te whakaoti i nga tauira. Na roto i te werohanga i tetahi prefix kua oti te hanga ki roto i te whakaurunga a te kaiwhakamahi, ka taea e te kaitukino te raweke i te ahua o roto o te tauira, me te akiaki i a ia ki te whakaatu i nga korero kaore ano kia mahia [3]. Ko te ahua "kotahi-bit" ranei he mea nui ki konei. Ko te tikanga, ko te tangohanga whakahaere, ehara i te putunga raraunga noa. Whakaarohia te kaitawhai e patai ana, "Ko te ahua tuatahi o te mea ngaro 'A'?" ka "Ko 'B'?" me etahi atu. He puhoi, ae, engari he tino whai hua, he uaua ki te kitea mena kaore koe i te rapu motuhake.
To Pūtirotiro, Ta ratou patu
Ko te mea he mahi i runga i te kaitirotiro tenei ka huri katoa te keemu. Ko te tikanga:
- Tara iti ki te urunga: Ka taea e te tangata whai pukenga whanaketanga paetukutuku taketake me te kaitirotiro te whakamatau i tenei. Kaore he taputapu motuhake, he matauranga AI hohonu ranei e hiahiatia ana.
- Mahinga Taha-Kaihoko: I ahu mai te whakaeke mai i te miihini a te kaiwhakamahi, ka uaua ake te wehewehe mai i te whakaurunga kaiwhakamahi tika i te taha whatunga.
- Whakamatau Inamata: Mena kei te noho ora to tono LLM me te uru atu ma te atanga tukutuku, kua whakaraerae ki tenei vector. Ehara tenei i te papaki a meake nei; he ohorere i naianei.
Whakaarohia nga paanga: nga waahanga waehere rangatira, nga tuhinga o roto, nga raraunga kaihoko, nga taviri API, me te raweke ngawari ranei o to whanonga LLM ki te horapa korero pohehe, ki te whakaputa ihirangi kino ranei. Ko enei katoa ka taea te tango, te awe ranei, moka ma te moka, ma te pouaka kuputuhi ngawari.
Nau te kawenga
Ehara tenei i te raru mo nga kaiwhakarato tauira penei i a OpenAI, i a Google ranei hei whakatika i roto i a raatau whakahou tauira ka whai ake. He raruraru te haumarutanga tono tenei, a ko te kawenga mo te whakaiti ka taka ki runga i nga pakihiwi o nga kaiwhakawhanake, roopu haumaru, me nga CTO e whakamahi ana i enei punaha. Ko to LLM he miihini kaha, engari i te mutunga he maamaa, he miihini. Ka mahia e ia nga mea e kiia ana, ahakoa ka hunahia aua tohutohu ki roto i te whakaurunga kaiwhakamahi ahua harakore.
Na, ka aha koe inaianei?
Nga Whakatutuki Inamata:
- Te Whakakotahitanga Whakauru Kaitaua: Kei tua atu tenei i te aukati i te werohanga SQL, te XSS ranei. Me tirotiro e koe nga ahuatanga katoa ka uru ki to LLM. Rapua nga tauira e tohu ana mo te werohanga tere, nga raupapa ahua rereke, me te ngana ki te wehe atu i nga rerenga korero e tumanakohia ana [4]. Ehara tenei mo te aukati i nga "kupu kino"; ko te tautuhi i nga akiaki a te hoariri. I tua atu i te regex taketake me te tātari heuristic, whakatinanahia te tātaritanga ororongo kia kitea te whakaaro kino. Whakamahia te whakamaaramatanga me te tātaritanga whakauru ki te tautuhi i nga tauira whakauru kehe. Whakaarohia te whakamahi i te LLM tuarua, iti ake, he punaha ture-a-ture ranei kua whakangungua ki te kimi i nga whakamatautau werohanga tere. Rapua nga tauira penei i nga tohutohu whakaari, tono tangohanga raraunga marama, ngana ki te hipa i nga tohutohu o mua.
- Te Tatari me te Whakamana Putanga Pai: Kaua rawa e whirinaki ki te whakaputanga a te LLM. I mua i te whakaaturanga o nga tuhinga i hangaia e te LLM ki tetahi kaiwhakamahi, ka whakamahia ranei e tetahi atu punaha, me haere i roto i tetahi paparanga whakamanatanga. He kupumatua tairongo kei roto? Ka taurite ki nga whakatakotoranga e tumanakohia ana? Kei te ngana ki te mahi waehere, ki te whakaatu ranei i nga akiaki a-roto? Mēnā ka whakarāpopotohia e tō LLM tētahi tuhinga, engari ka tīmata te whakarārangi i ngā ara kōnae, he raru koe.
- Te Hangarau Whakataki Paparanga: Ahakoa ehara i te otinga oti, ka taea e nga tono a te punaha i hangaia pai me nga tauira maataki iti te awhina ki te whakakaha i te whanonga e hiahiatia ana, ka uaua ake mo te kaitukino ki te kahaki i te tauira. Heoi, kia mohio koe he iti rawa te miihini tere anake; he whakamarumaru hohonu, ehara i te maru tuatahi.
- Te Whakaaetanga Iti rawa mo nga Whakawhitiwhitinga LLM: Kei te tino hiahia to LLM ki te uru ki nga waahanga raraunga katoa tera pea ka akiakihia ki te whakaatu? Whakatinana i nga mana uru kaha. Mena ko te LLM anake te whakautu i nga paatai mo nga tuhinga a te iwi, me whakarite kia kore e uru ki nga papaa raraunga o roto, ki nga API tairongo ranei.
- Te Aroturuki me te Tirohanga Anomaly: Me kaha koe ki te rapu i nga whanonga LLM rerekee. Ko te pikinga o nga momo patai, ko nga putanga ka kotiti ke i nga tauira noa, ko te ngana tonu ki te tango korero ka puta he matohi tonu.
Ehara tenei mo te whanui "AI haumarutanga" inaianei. Ko tenei e pa ana ki te whakamarumaru i te paparanga tauwhitinga o o tono LLM mai i tetahi kaitao whakaeke motuhake, kua whakaatuhia, me te whakamahi tonu. Kua hangahia e matou enei punaha whakamiharo, kaha, he maha nga wa kaore i te tika nga tikanga haumaru i te atanga. Ko nga whakaaturanga o naianei kua whakaatu mai ki a maatau te ngawari o te whakamahi i enei waahi. Kua pahemo te wa mo nga matapaki whakaaro. Me mahi tonu kia mau i nga tono LLM.
Puna
[1] OWASP Top 10 mo nga Tauira Tauira Reo Nui — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] Lakera Gandalf: He Wero Whakawhanawhanga Ake Tauwhitiwhiti — https://gandalf.lakera.ai/ [3] Nga whakaeke werohanga tere | Te Whare Wananga Haumarutanga Tukutuku — https://portswigger.net/web-security/llm-attacks/prompt-injection [4] He aha te werohanga tere me pehea te aukati? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it