አሳሹ እንደ የኋላ በር፡ የደንበኛ-ጎን LLM ሚስጥራዊ ማውጣት ተሰርዟል።
ለረጅም ጊዜ፣ "AI የደህንነት ማስጠንቀቂያዎችን" እንደ ሩቅ ስጋት ወይም የአካዳሚክ ጉጉዎች አድርገናል። ስለ አፋጣኝ መርፌ ፣የእስር ቤት መቋረጥ እና የመረጃ ፍሰት በተዘጋ ቃናዎች ፣ብዙውን ጊዜ ትከሻ እና “እንደርሳለን” እንደሚባለው ሰምተናል። ሆኖም፣ የቅርብ ጊዜ መስተጋብራዊ ማሳያዎች ያንን ምቹ ቅዠት ሰብረውታል። ይህ ከአሁን በኋላ የንድፈ ተጋላጭነት አይደለም; ሚስጥራዊነት ያለው መረጃን ከትልቅ የቋንቋ ሞዴሎች (LLMs) ለማውጣት የቀጥታ፣ በአሳሽ ላይ የተመሰረተ፣ በደንበኛ በኩል የሚደረግ ብዝበዛ ነው። በኤል.ኤም.ኤል. የተጎለበተ አፕሊኬሽኖችን እያሰማራህ ከሆነ፣ በተለይም ማንኛውንም ነገር ከድር ጋር የሚጋጭ፣ የአንተ "የወደፊት ችግር" አሁን በጣም የአሁን፣ በጣም ይፋ የሆነ እና በጣም አሳፋሪ ተጠያቂነት ሆኗል።
ይህ ሌላ አጠቃላይ "AI አደገኛ ነው" ርዕስ አይደለም. ይህ ተንኮል አዘል ተዋናይ እንዴት አሳሽቸውን ብቻ በመጠቀም የእርስዎን LLM ሚስጥራዊነት ያለው መረጃ እንዲገልጥ እንደሚያስገድድ የሚያሳይ ልዩ፣ ተጨባጭ ማሳያ ነው። ያንን ለአፍታ አስቡበት። ስለ ውስብስብ የአገልጋይ-ጎን ጥቃቶች ወይም ጥልቅ ሞዴል ውስጣዊ እይታ አይደለም። ስለ መስተጋብር ንብርብር - የመተግበሪያዎ የፊት በር - በጥቂት በጥንቃቄ በተሰሩ ገጸ-ባህሪያት ጥቅም ላይ ይውላል። ደህንነቱ የተጠበቀ ወደሚባለው የቻትቦትዎ ትክክለኛ ሀረግ የሆነ ሰው ዲጂታል አሃዛዊ ነው፣ እና በትህትና ወሳኝ ውሂብን ብዙ ጊዜ በጥቂቱ ይሰጣል።
የሞዴል ደህንነት ቅዠት
ብዙ ኢንተርፕራይዞች በ"አስተማማኝ" LLMs ላይ ከፍተኛ ኢንቨስት አድርገዋል፣ ወይ በጥሩ ማስተካከያ የባለቤትነት ሞዴሎች ወይም በድርጅት-ደረጃ ኤፒአይዎች ከጠባቂ መንገዶች ጋር በመተማመን። ስውር ግምት ሞዴሉ ራሱ ጠንካራ ከሆነ በላዩ ላይ የተገነባው መተግበሪያ ያንን ደህንነት ይወርሳል. የቅርብ ጊዜ ሰልፎች ይህንን እንደ አደገኛ የተሳሳተ ግንዛቤ ያጋልጣሉ። ተጋላጭነቱ በአምሳያው ዋና የማሰብ ችሎታ ወይም በሥልጠና መረጃው ውስጥ አይደለም; በዙሪያው በምንገነባው በይነገጽ ውስጥ ነው [1]። የጥንታዊው "ጠንካራ ቮልት፣ ደካማ የፊት በር" ችግር ነው። በዓለም ላይ በጣም የላቀ፣ የደነደነ LLM ሊኖርህ ይችላል፣ ነገር ግን የመተግበሪያህ ግቤት ተንታኝ የዋህ ከሆነ፣ ወይም የውጤት ማጣሪያህ ከሌለ፣ ማንኛውም ሰው እንዲያገኝ ወሳኝ መረጃን ትተሃል።
ይህ "ፈጣን መርፌ" ቴክኒክ በተለይ አሳሳቢ ነው ምክንያቱም የኤል.ኤም.ኤም.ን ውስጣዊ ተፈጥሮ: መመሪያዎችን የመከተል ችሎታውን እና ቅጦችን ሙሉ በሙሉ ስለሚጠቀም። በጥንቃቄ የተሰራ ቅድመ ቅጥያ በተጠቃሚው ግብአት ውስጥ በማስገባት አጥቂው የአምሳያው ውስጣዊ ሁኔታ ሊጠቀምበት ይችላል፣ ይህም ፈጽሞ ያልታሰበውን መረጃ እንዲገልጽ ያስገድደዋል። “አንድ-ቢት” ወይም ተደጋጋሚ ገጽታ እዚህ ላይ ወሳኝ ነው። እሱ የሚያመለክተው ስልታዊ፣ ቁጥጥር የሚደረግበት ነው፣ የተመሰቃቀለ የውሂብ መጣል ብቻ አይደለም። አስቡት አንድ አጥቂ ደጋግሞ "የመጀመሪያው የምስጢር 'ሀ' ገፀ ባህሪ ነው?" ከዚያ "B" ነው? ወዘተ. ቀርፋፋ ነው፣ አዎ፣ ግን ደግሞ በሚያስደንቅ ሁኔታ ውጤታማ እና ልዩ ካልፈለጉት ለመለየት ከባድ ነው።
የእርስዎ አሳሽ፣ መሳሪያቸው
ይህ በአሳሽ ላይ የተመሰረተ ብዝበዛ መሆኑ ጨዋታውን ሙሉ በሙሉ ይለውጠዋል። ማለት፡-
- ዝቅተኛ የመግባት እንቅፋት፡ ማንኛውም መሰረታዊ የድር ልማት ችሎታ ያለው እና አሳሽ ያለው ይህን ሊሞክር ይችላል። ምንም ልዩ መሳሪያዎች ወይም ጥልቅ AI እውቀት አያስፈልግም.
- የደንበኛ-ጎን አፈፃፀም፡ ጥቃቱ የሚመነጨው ከተጠቃሚው ማሽን በመሆኑ በኔትወርኩ ጠርዝ ላይ ካለው ህጋዊ የተጠቃሚ ግብዓት ለመለየት አስቸጋሪ ያደርገዋል።
- ወዲያው ዛቻ፡ የኤልኤልኤም አፕሊኬሽን ቀጥታ ስርጭት እና በድር በይነገጽ የሚገኝ ከሆነ ቀድሞውንም ለዚህ ቬክተር የተጋለጠ ነው። ይህ የወደፊት መጣፊያ አይደለም; አሁን ያለ ድንገተኛ አደጋ ነው።
አንድምታውን ግምት ውስጥ ያስገቡ፡ የባለቤትነት ኮድ ቅንጥቦች፣ የውስጥ ሰነዶች፣ የደንበኛ ውሂብ፣ የኤፒአይ ቁልፎች፣ ወይም ደግሞ የተሳሳተ መረጃን ለማሰራጨት ወይም ጎጂ ይዘት ለማመንጨት የእርስዎን LLM ባህሪ በድብቅ ማጭበርበር። ይህ ሁሉ በቀላል የጽሑፍ ሳጥን በጥቂቱ ሊወጣ ወይም ሊነካ ይችላል።
ኃላፊነቱ ያንተ ነው።
እንደ OpenAI ወይም Google ያሉ የሞዴል አቅራቢዎች በሚቀጥለው የሞዴል ዝማኔያቸው ውስጥ እንዲጠግኑት ይህ ችግር አይደለም። ይህ የመተግበሪያ ደህንነት ችግር ነው፣ እና የመቀነሱ ሃላፊነት እነዚህን ስርዓቶች በሚያሰማሩ ገንቢዎች፣ የደህንነት ቡድኖች እና CTO ትከሻ ላይ ነው። የእርስዎ LLM ኃይለኛ፣ ግን በመጨረሻ የዋህ ሞተር ነው። ምንም እንኳን እነዚያ መመሪያዎች ምንም ጉዳት የሌላቸው በሚመስሉ የተጠቃሚ ግብአት ውስጥ ቢደበቁም የታዘዘውን ያደርጋል።
ታዲያ አሁን ምን ታደርጋለህ?
አፋጣኝ እርምጃዎች፡-
- ** ኃይለኛ የግቤት ንጽህና ማድረግ፡** ይህ የSQL መርፌን ወይም XSSን ከመከላከል ያለፈ ነው። ወደ LLM የሚገቡትን እያንዳንዱን ቁምፊ መመርመር ያስፈልግዎታል። ፈጣን መርፌ፣ ያልተለመዱ የቁምፊ ቅደም ተከተሎች፣ ወይም ከሚጠበቀው የውይይት ፍሰት ለመውጣት የሚደረጉ ሙከራዎችን የሚያመለክቱ ንድፎችን ይፈልጉ [4]። ይህ "መጥፎ ቃላትን" ማገድ አይደለም; ተቃራኒ ጥያቄዎችን መለየት ነው። ከመሠረታዊ regex እና heuristic ትንተና ባሻገር፣ ተንኮል-አዘል ዓላማን ለመለየት የትርጉም ትንታኔን ይተግብሩ። ያልተለመዱ የግቤት ቅጦችን ለመለየት ማስመሰያ እና የመክተት ትንተና ይጠቀሙ። ፈጣን የክትባት ሙከራዎችን ለመለየት የሰለጠነ ሁለተኛ፣ ትንሽ ኤልኤልኤም ወይም ደንብን መሰረት ያደረገ ስርዓት ለመቅጠር ያስቡበት። እንደ የሚና-ተጫዋች መመሪያዎች፣ ግልጽ ውሂብ የማውጣት ጥያቄዎች፣ ወይም ከዚህ ቀደም መመሪያዎችን ለማለፍ ሙከራዎችን የመሳሰሉ ቅጦችን ይፈልጉ።
- ጠንካራ የውጤት ማጣሪያ እና ማረጋገጫ፡ የኤልኤልኤምን ውጤት በተዘዋዋሪ አትመኑ። ማንኛውም በኤል ኤም ኤል የመነጨ ጽሁፍ ለተጠቃሚ ከመታየቱ ወይም በሌላ ስርዓት ከመጠቀሙ በፊት *በጠንካራ የማረጋገጫ ንብርብር ማለፍ አለበት። ሚስጥራዊነት ያላቸው ቁልፍ ቃላት ይዟል? ከተጠበቁ ቅርጸቶች ጋር ይዛመዳል? ኮድ ለማስፈጸም ይሞክራል ወይም የውስጥ ስርዓት ጥያቄዎችን ያሳያል? የእርስዎ LLM ሰነድ ማጠቃለል ካለበት፣ ነገር ግን የፋይል መንገዶችን መዘርዘር ከጀመረ ችግር አለብዎት።
- ላይየርድ ፈጣን ኢንጂነሪንግ፡ የተሟላ መፍትሄ ባይሆንም በጥሩ ሁኔታ የተነደፉ የስርዓት ጥያቄዎች እና ጥቂት ምሳሌዎች የተፈለገውን ባህሪ ለማጠናከር እና አጥቂ ሞዴሉን ለመጥለፍ አስቸጋሪ ያደርጉታል። ሆኖም ፈጣን ምህንድስና ብቻውን በቂ እንዳልሆነ ተረዱ። ዋናው መከላከያ ሳይሆን ጥልቀት ያለው መከላከያ ነው.
- ለኤል.ኤም.ኤም መስተጋብር ዝቅተኛ ልዩ መብት፡ የእርስዎ LLM ለመግለጥ ሊነሳ የሚችለውን እያንዳንዱን መረጃ በእርግጥ ማግኘት ይፈልጋል? ጥብቅ የመዳረሻ መቆጣጠሪያዎችን ይተግብሩ. LLM ስለ ህዝባዊ ሰነዶች ጥያቄዎችን ብቻ መመለስ ካለበት፣ ውስጣዊ የውሂብ ጎታዎችን ወይም ሚስጥራዊነት ያላቸውን APIs ፕሮግራማዊ መዳረሻ እንደሌለው ያረጋግጡ።
- ክትትል እና Anomaly Detection: ያልተለመደ የኤልኤልኤም ባህሪን በንቃት መፈለግ ያስፈልግዎታል። በተወሰኑ የጥያቄ ዓይነቶች ውስጥ ያሉ ስፒሎች፣ ከመደበኛ ቅጦች የራቁ ውጤቶች፣ ወይም መረጃን ለማውጣት ተደጋጋሚ ሙከራዎች ወዲያውኑ ማንቂያዎችን ማስነሳት አለባቸው።
ይህ ከአሁን በኋላ ስለ ሰፊ "AI ደህንነት" አይደለም. ይህ የኤልኤልኤም አፕሊኬሽኖችዎን መስተጋብር ሽፋን ከተወሰነ፣ ከታየ እና ወዲያውኑ ሊበዘበዝ ከሚችል የጥቃት ቬክተር መጠበቅ ነው። እነዚህን አስገራሚ፣ ኃይለኛ ስርዓቶችን እየገነባን ነበር፣ ብዙ ጊዜ በበይነገፁ በቂ ያልሆነ የደህንነት እርምጃዎች። እነዚህን ክፍተቶች ለመጠቀም ምን ያህል ቀላል እንደሆነ የቅርብ ጊዜ ማሳያዎች አሳይተውናል። የቲዎሬቲክ ውይይቶች ጊዜ አልፏል. የኤልኤልኤም አፕሊኬሽኖችን ደህንነት ለመጠበቅ አፋጣኝ እርምጃ ያስፈልጋል።
ምንጮች
[1] OWASP ከፍተኛ 10 ለትልቅ የቋንቋ ሞዴል መተግበሪያዎች — https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] ላካራ ጋንዳልፍ፡ በይነተገናኝ ፈጣን መርፌ ፈተና - https://gandalf.lakera.ai/ [3] ፈጣን መርፌ ጥቃቶች | የድር ደህንነት አካዳሚ - https://portswigger.net/web-security/llm-attacks/prompt-injection [4] ፈጣን መርፌ ምንድን ነው እና እንዴት መከላከል ይቻላል? - https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent- it