ஒரு பின்கதவாக உலாவி: கிளையன்ட்-சைட் எல்எல்எம் ரகசிய பிரித்தெடுத்தல் நீக்கப்பட்டது

பிரவுசர் ஒரு பின்கதவாக: கிளையன்ட்-சைட் எல்எல்எம் ரகசிய பிரித்தெடுத்தல் நீக்கப்பட்டது

நீண்ட காலமாக, "AI பாதுகாப்பு எச்சரிக்கைகள்" தொலைதூர அச்சுறுத்தல்கள் அல்லது கல்வி ஆர்வங்கள் என நாங்கள் கருதுகிறோம். உடனடி ஊசி போடுதல், ஜெயில்பிரேக்குகள் மற்றும் டேட்டா கசிவு போன்றவற்றைப் பற்றி நாங்கள் கேள்விப்பட்டிருக்கிறோம், அதைத் தொடர்ந்து அடிக்கடி தோள்களைக் குலுக்கி "நாங்கள் அதை அடைவோம்". இருப்பினும், சமீபத்திய ஊடாடும் ஆர்ப்பாட்டங்கள் அந்த வசதியான மாயையை உடைத்துவிட்டது. இது ஒரு தத்துவார்த்த பாதிப்பு அல்ல; இது பெரிய மொழி மாதிரிகள் (LLMs) [2] இருந்து முக்கியமான தகவல்களை பிரித்தெடுப்பதற்கான நேரடி, உலாவி அடிப்படையிலான, கிளையன்ட் பக்க சுரண்டல். நீங்கள் LLM-இயங்கும் பயன்பாடுகளை பயன்படுத்துகிறீர்கள் என்றால், குறிப்பாக இணையம் எதிர்கொள்ளும் எதையும், உங்கள் "எதிர்கால பிரச்சனை" மிகவும் தற்போதைய, மிகவும் பொது மற்றும் மிகவும் சங்கடமான பொறுப்பாக மாறும்.

இது மற்றொரு பொதுவான "AI இஸ் ரிஸ்கி" தலைப்பு இல்லை. ஒரு தீங்கிழைக்கும் நடிகர், அவர்களின் உலாவியை மட்டும் பயன்படுத்தி, எப்படி முக்கியமான தகவலை வெளிப்படுத்த உங்கள் LLM ஐ வற்புறுத்த முடியும் என்பதற்கான ஒரு குறிப்பிட்ட, உறுதியான நிரூபணம் இது. என்று ஒரு கணம் எண்ணிப் பாருங்கள். இது சிக்கலான சர்வர் பக்க தாக்குதல்கள் அல்லது ஆழமான மாதிரி உள்நோக்கம் பற்றியது அல்ல. இது ஒரு சில கவனமாக வடிவமைக்கப்பட்ட எழுத்துக்களைக் கொண்டு பயன்படுத்தப்படும் தொடர்பு அடுக்கு-உங்கள் பயன்பாட்டின் முன் கதவு பற்றியது. இது உங்கள் பாதுகாப்பான சாட்போட்டில் சரியான சொற்றொடரை உருவாக்குவதற்கு சமமான டிஜிட்டல் ஆகும், மேலும் இது முக்கியமான தரவைக் கடமையாக ஒப்படைக்கிறது, பெரும்பாலும் பிட் பிட்.

மாதிரி பாதுகாப்பு மாயை

பல நிறுவனங்கள் "பாதுகாப்பான" எல்எல்எம்களில் பெருமளவில் முதலீடு செய்துள்ளன, தனியுரிம மாதிரிகளை நன்றாகச் சரிசெய்கிறது அல்லது கார்ட்ரெயில்கள் எனக் கூறப்படும் நிறுவன-தர APIகளை நம்பியிருக்கிறது. மாடல் வலுவாக இருந்தால், அதன் மேல் கட்டமைக்கப்பட்ட பயன்பாடு அந்த பாதுகாப்பைப் பெறும் என்பது மறைமுகமான அனுமானம். சமீபத்திய ஆர்ப்பாட்டங்கள் இது ஒரு ஆபத்தான தவறான கருத்து என அம்பலப்படுத்துகின்றன. பாதிப்பு மாதிரியின் முக்கிய நுண்ணறிவு அல்லது அதன் பயிற்சி தரவுகளில் இல்லை; அதைச் சுற்றி நாம் உருவாக்கும் இடைமுகத்தில் உள்ளது [1]. இது உன்னதமான "வலுவான பெட்டகம், மெலிந்த முன் கதவு" பிரச்சனை. உலகில் மிகவும் மேம்பட்ட, கடினமான LLM உங்களிடம் இருக்கலாம், ஆனால் உங்கள் பயன்பாட்டின் உள்ளீட்டு பாகுபடுத்தி அப்பாவியாக இருந்தால் அல்லது உங்கள் அவுட்புட் வடிப்பான் இல்லாதிருந்தால், முக்கியமான தகவலை எவரும் கண்டுபிடிக்கும்படி விட்டுவிடுகிறீர்கள்.

இந்த "உடனடி ஊசி" நுட்பம் குறிப்பாக முக்கியமானது, ஏனெனில் இது LLM இன் உள்ளார்ந்த தன்மையை மேம்படுத்துகிறது: வழிமுறைகள் மற்றும் முழுமையான வடிவங்களைப் பின்பற்றுவதற்கான அதன் திறன். பயனரின் உள்ளீட்டில் கவனமாகக் கட்டமைக்கப்பட்ட முன்னொட்டைச் செலுத்துவதன் மூலம், தாக்குபவர் மாதிரியின் உள் நிலையைக் கையாளலாம், இது ஒருபோதும் விரும்பாத தகவலை வெளிப்படுத்தும்படி கட்டாயப்படுத்துகிறது [3]. "ஒன்-பிட்" அல்லது மீண்டும் செயல்படும் அம்சம் இங்கே முக்கியமானது. இது ஒரு முறையான, கட்டுப்படுத்தப்பட்ட வெளியேற்றத்தைக் குறிக்கிறது, குழப்பமான தரவுத் திணிப்பு மட்டுமல்ல. "ரகசியத்தின் முதல் எழுத்து 'A'தானா?" என்று தாக்குபவர் மீண்டும் மீண்டும் கேட்பதை கற்பனை செய்து பாருங்கள். பிறகு "அது 'பி' தானா?" மற்றும் பல. இது மெதுவாக உள்ளது, ஆம், ஆனால் இது நம்பமுடியாத அளவிற்கு பயனுள்ளதாக இருக்கும் மற்றும் நீங்கள் குறிப்பாக தேடவில்லை என்றால் கண்டறிவது கடினம்.

உங்கள் உலாவி, அவர்களின் ஆயுதம்

இது உலாவி அடிப்படையிலான சுரண்டல் என்பது விளையாட்டை முழுவதுமாக மாற்றுகிறது. இதன் பொருள்:

• ** நுழைவதற்கான குறைந்த தடை:** அடிப்படை இணைய மேம்பாட்டு திறன் மற்றும் உலாவி உள்ள எவரும் இதை முயற்சிக்கலாம். சிறப்பு கருவிகள் அல்லது ஆழமான AI அறிவு தேவையில்லை.
• கிளையன்ட்-சைட் எக்ஸிகியூஷன்: தாக்குதல் பயனரின் இயந்திரத்திலிருந்து உருவாகிறது, நெட்வொர்க் விளிம்பில் உள்ள முறையான பயனர் உள்ளீட்டிலிருந்து வேறுபடுத்துவது கடினமாகிறது.
• உடனடி அச்சுறுத்தல்: உங்கள் LLM பயன்பாடு நேரலையில் மற்றும் இணைய இடைமுகம் வழியாக அணுகக்கூடியதாக இருந்தால், அது இந்த வெக்டருக்கு ஏற்கனவே பாதிக்கப்படக்கூடியது. இது எதிர்கால இணைப்பு அல்ல; இது தற்போதைய அவசரநிலை.

தாக்கங்களை கவனியுங்கள்: தனியுரிம குறியீடு துணுக்குகள், உள் ஆவணங்கள், வாடிக்கையாளர் தரவு, API விசைகள் அல்லது தவறான தகவலை பரப்ப அல்லது தீங்கு விளைவிக்கும் உள்ளடக்கத்தை உருவாக்க உங்கள் LLM இன் நடத்தையை நுட்பமாக கையாளுதல். இவை அனைத்தையும் ஒரு எளிய உரைப் பெட்டியின் மூலம் பிரித்தெடுக்கலாம் அல்லது பாதிக்கலாம்.

பொறுப்பு உங்களுடையது

OpenAI அல்லது Google போன்ற மாடல் வழங்குநர்கள் தங்கள் அடுத்த மாடல் புதுப்பிப்பில் சரிசெய்வதில் இது ஒரு பிரச்சனையல்ல. இது ஒரு பயன்பாட்டு பாதுகாப்பு பிரச்சனையாகும், மேலும் தணிப்பதற்கான பொறுப்பு டெவலப்பர்கள், பாதுகாப்பு குழுக்கள் மற்றும் இந்த அமைப்புகளை பயன்படுத்தும் CTOக்களின் தோள்களில் முழுமையாக விழுகிறது. உங்கள் LLM ஒரு சக்திவாய்ந்த, ஆனால் இறுதியில் அப்பாவியான, இயந்திரம். தீங்கற்ற பயனர் உள்ளீட்டிற்குள் அந்த அறிவுறுத்தல்கள் மறைக்கப்பட்டிருந்தாலும், அது சொன்னதைச் செய்யும்.

எனவே, நீங்கள் இப்போது என்ன செய்கிறீர்கள்?

உடனடி எதிர் நடவடிக்கைகள்:

1. ** ஆக்கிரமிப்பு உள்ளீடு சுத்திகரிப்பு:** இது SQL ஊசி அல்லது XSS ஐத் தடுப்பதற்கு அப்பாற்பட்டது. உங்கள் LLM-ல் நுழையும் ஒவ்வொரு எழுத்தையும் நீங்கள் ஆராய வேண்டும். உடனடி ஊசி, அசாதாரண பாத்திர வரிசைகள் அல்லது எதிர்பார்க்கப்படும் உரையாடல் ஓட்டங்களில் இருந்து வெளியேறும் முயற்சிகள் ஆகியவற்றைக் குறிக்கும் வடிவங்களைத் தேடுங்கள் [4]. இது "கெட்ட வார்த்தைகளை" தடுப்பது அல்ல; இது எதிரியான தூண்டுதல்களை அடையாளம் காண்பது. அடிப்படை ரீஜெக்ஸ் மற்றும் ஹூரிஸ்டிக் பகுப்பாய்விற்கு அப்பால், தீங்கிழைக்கும் நோக்கத்தைக் கண்டறிய சொற்பொருள் பகுப்பாய்வைச் செயல்படுத்தவும். முரண்பாடான உள்ளீட்டு வடிவங்களை அடையாளம் காண டோக்கனைசேஷன் மற்றும் உட்பொதித்தல் பகுப்பாய்வைப் பயன்படுத்தவும். உடனடி ஊசி முயற்சிகளைக் கண்டறிவதற்காக இரண்டாம் நிலை, சிறிய LLM அல்லது விதி அடிப்படையிலான அமைப்பைப் பயன்படுத்துவதைக் கவனியுங்கள். ரோல்-பிளேமிங் வழிமுறைகள், வெளிப்படையான தரவு பிரித்தெடுத்தல் கோரிக்கைகள் அல்லது முந்தைய வழிமுறைகளைத் தவிர்ப்பதற்கான முயற்சிகள் போன்ற வடிவங்களைத் தேடுங்கள்.
2. வலுவான வெளியீட்டு வடிகட்டுதல் மற்றும் சரிபார்த்தல்: LLM இன் வெளியீட்டை மறைமுகமாக நம்ப வேண்டாம். எல்எல்எம்-உருவாக்கப்பட்ட எந்த உரையும் ஒரு பயனருக்குக் காட்டப்படும் அல்லது மற்றொரு அமைப்பால் பயன்படுத்தப்படுவதற்கு முன், அது *கடுமையான சரிபார்ப்பு அடுக்கு வழியாகச் செல்ல வேண்டும். இதில் முக்கிய வார்த்தைகள் உள்ளதா? எதிர்பார்க்கப்படும் வடிவங்களுடன் பொருந்துகிறதா? இது குறியீட்டை இயக்க முயற்சிக்கிறதா அல்லது உள் அமைப்பு தூண்டுதல்களை வெளிப்படுத்துகிறதா? உங்கள் LLM ஒரு ஆவணத்தை சுருக்கமாகக் கூற வேண்டும், ஆனால் அது கோப்பு பாதைகளை பட்டியலிடத் தொடங்கினால், உங்களுக்குச் சிக்கல் உள்ளது.
3. லேயர்டு ப்ராம்ப்ட் இன்ஜினியரிங்: ஒரு முழுமையான தீர்வாக இல்லாவிட்டாலும், நன்கு வடிவமைக்கப்பட்ட சிஸ்டம் ப்ராம்ட்கள் மற்றும் சில-ஷாட் எடுத்துக்காட்டுகள் விரும்பிய நடத்தையை வலுப்படுத்த உதவுவதோடு, தாக்குபவர் மாதிரியை கடத்துவதை கடினமாக்கும். இருப்பினும், உடனடி பொறியியல் மட்டும் போதாது என்பதை புரிந்து கொள்ளுங்கள்; இது ஒரு ஆழமான பாதுகாப்பு, முதன்மையான கவசம் அல்ல.
4. எல்.எல்.எம் தொடர்புகளுக்கான குறைந்தபட்ச சலுகை: உங்கள் LLM க்கு உண்மையாகவே அது வெளிப்படுத்தத் தூண்டப்படும் தரவுகளின் ஒவ்வொரு பகுதிக்கும் அணுகல் தேவையா? கடுமையான அணுகல் கட்டுப்பாடுகளை செயல்படுத்தவும். LLM ஆனது பொது ஆவணங்கள் பற்றிய கேள்விகளுக்கு மட்டுமே பதிலளிக்க வேண்டும் என்றால், அதற்கு உள் தரவுத்தளங்கள் அல்லது உணர்திறன் API களுக்கு நிரல் அணுகல் இல்லை என்பதை உறுதிப்படுத்தவும்.
5. கண்காணிப்பு மற்றும் ஒழுங்கின்மை கண்டறிதல்: அசாதாரண LLM நடத்தையை நீங்கள் தீவிரமாக தேட வேண்டும். குறிப்பிட்ட வகை வினவல்களில் ஸ்பைக்குகள், இயல்பான வடிவங்களில் இருந்து விலகும் வெளியீடுகள் அல்லது தகவலைப் பிரித்தெடுப்பதற்கான தொடர்ச்சியான முயற்சிகள் உடனடி விழிப்பூட்டல்களைத் தூண்டும்.

இது பரந்த "AI பாதுகாப்பு" பற்றியது அல்ல. இது ஒரு குறிப்பிட்ட, நிரூபிக்கப்பட்ட மற்றும் உடனடியாகச் சுரண்டக்கூடிய தாக்குதல் வெக்டருக்கு எதிராக உங்கள் LLM பயன்பாடுகளின் தொடர்பு அடுக்கைப் பாதுகாப்பதாகும். இந்த நம்பமுடியாத, சக்திவாய்ந்த அமைப்புகளை நாங்கள் உருவாக்கி வருகிறோம், பெரும்பாலும் இடைமுகத்தில் போதிய பாதுகாப்பு நடவடிக்கைகள் இல்லை. இந்த இடைவெளிகளைப் பயன்படுத்துவது எவ்வளவு எளிது என்பதை சமீபத்திய ஆர்ப்பாட்டங்கள் நமக்குக் காட்டுகின்றன. தத்துவார்த்த விவாதங்களுக்கான நேரம் கடந்துவிட்டது. LLM பயன்பாடுகளைப் பாதுகாக்க உடனடி நடவடிக்கை தேவை.

ஆதாரங்கள்

[1] பெரிய மொழி மாதிரி பயன்பாடுகளுக்கான OWASP முதல் 10 - https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] லகேரா கந்தால்ஃப்: ஒரு ஊடாடும் உடனடி ஊசி சவால் — https://gandalf.lakera.ai/ [3] உடனடி ஊசி தாக்குதல்கள் | இணைய பாதுகாப்பு அகாடமி — https://portswigger.net/web-security/llm-attacks/prompt-injection [4] உடனடி ஊசி என்றால் என்ன மற்றும் அதை எவ்வாறு தடுப்பது? — https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it