ବ୍ରାଉଜର୍ ଏକ ବ୍ୟାକଡୋର୍ ଭାବରେ: କ୍ଲାଏଣ୍ଟ-ସାଇଡ୍ LLM ସିକ୍ରେଟ୍ ଏକ୍ସଟ୍ରାକସନ୍ ଡିମିଷ୍ଟାଇଡ୍ |
ବହୁତ ଦିନ ଧରି, ଆମେ "AI ସୁରକ୍ଷା ଚେତାବନୀ" କୁ ଦୂର ବିପଦ କିମ୍ବା ଏକାଡେମିକ୍ କ uri ତୁହଳ ଭାବରେ ବ୍ୟବହାର କରିଛୁ | ଆମେ ପ୍ରମ୍ପ୍ଟ ଇଞ୍ଜେକ୍ସନ୍, ଜେଲ୍ରବ୍ରେକ୍, ଏବଂ ହ୍ୟାସ୍ ଟୋନ୍ରେ ଡାଟା ଲିକ୍ ବିଷୟରେ ଶୁଣିଛୁ, ପ୍ରାୟତ a ଏକ ଶ୍ରଗ୍ ଏବଂ “ଆମେ ଏହା ପହଞ୍ଚିବା” | ଅବଶ୍ୟ, ସାମ୍ପ୍ରତିକ ଇଣ୍ଟରାକ୍ଟିଭ୍ ପ୍ରଦର୍ଶନଗୁଡ଼ିକ ସେହି ଆରାମଦାୟକ ଭ୍ରମକୁ ଭାଙ୍ଗି ଦେଇଛି | ଏହା ଆଉ ଏକ ତତ୍ତ୍ୱଗତ ଦୁର୍ବଳତା ନୁହେଁ; ବଡ଼ ଭାଷା ମଡେଲଗୁଡିକ (LLMs) ରୁ ସମ୍ବେଦନଶୀଳ ସୂଚନା ବାହାର କରିବା ପାଇଁ ଏହା ଏକ ଜୀବନ୍ତ, ବ୍ରାଉଜର୍-ଆଧାରିତ, କ୍ଲାଏଣ୍ଟ-ସାଇଡ୍ ଶୋଷଣ | ଯଦି ଆପଣ LLM- ଚାଳିତ ପ୍ରୟୋଗଗୁଡ଼ିକୁ ନିୟୋଜିତ କରୁଛନ୍ତି, ବିଶେଷକରି ୱେବ୍-ମୁହାଁମୁହିଁ, ଆପଣଙ୍କର “ଭବିଷ୍ୟତ ସମସ୍ୟା” କେବଳ ଏକ ଉପସ୍ଥାପିତ, ଅତି ସାର୍ବଜନୀନ ଏବଂ ସମ୍ଭବତ very ଅତ୍ୟନ୍ତ ଲଜ୍ଜାଜନକ ଦାୟିତ୍। |
ଏହା ଅନ୍ୟ ଏକ ଜେନେରିକ୍ "AI ବିପଦପୂର୍ଣ୍ଣ" ହେଡଲାଇନ୍ ନୁହେଁ | ଏହା ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ, ଦୃଷ୍ଟାନ୍ତମୂଳକ ପ୍ରଦର୍ଶନ, କିପରି ଜଣେ ଦୁଷ୍ଟ ଅଭିନେତା, କେବଳ ସେମାନଙ୍କ ବ୍ରାଉଜର୍ ବ୍ୟବହାର କରି, ଆପଣଙ୍କର LLM କୁ ସମ୍ବେଦନଶୀଳ ସୂଚନା ପ୍ରକାଶ କରିବାକୁ ବାଧ୍ୟ କରିପାରିବ | କିଛି ସମୟ ପାଇଁ ତାହା ବିଚାର କର | ଏହା ଜଟିଳ ସର୍ଭର ପାର୍ଶ୍ୱ ଆକ୍ରମଣ କିମ୍ବା ଗଭୀର ମଡେଲ ଆନ୍ତରିକତା ବିଷୟରେ ନୁହେଁ | ଏହା ପାରସ୍ପରିକ ସ୍ତର ବିଷୟରେ - ଆପଣଙ୍କର ପ୍ରୟୋଗର ଅତି ଦ୍ୱାର - କିଛି ଯତ୍ନର ସହିତ ନିର୍ମିତ ଅକ୍ଷର ସହିତ ଶୋଷିତ | ଏହା ତୁମର ଡିଜିଟାଲ୍ ଚାଟ୍ବଟ୍ ପାଇଁ ସଠିକ୍ ବାକ୍ୟାଂଶ ତିଆରି କରୁଥିବା ବ୍ୟକ୍ତିଙ୍କ ଡିଜିଟାଲ୍ ସମାନ, ଏବଂ ଏହା ଗୁରୁତ୍ data ପୂର୍ଣ୍ଣ ତଥ୍ୟକୁ ହସ୍ତାନ୍ତର କରେ, ପ୍ରାୟତ bit ଟିକେ ବିଟ୍ |
ମଡେଲ୍ ସିକ୍ୟୁରିଟିର ଭ୍ରମ |
ଅନେକ ଉଦ୍ୟୋଗ “ସୁରକ୍ଷିତ” LLM ଗୁଡ଼ିକରେ ଅଧିକ ବିନିଯୋଗ କରିଛନ୍ତି, ମାଲିକାନା ମଡେଲଗୁଡିକ ସୂକ୍ଷ୍ମ-ସଜାଇବା କିମ୍ବା ଅନୁମାନ କରାଯାଉଥିବା ରାକ୍ଷୀ ସହିତ ଏଣ୍ଟରପ୍ରାଇଜ୍-ଗ୍ରେଡ୍ API ଉପରେ ନିର୍ଭର କରିବା | ଅନ୍ତର୍ନିହିତ ଧାରଣା ହେଉଛି ଯଦି ମଡେଲ୍ ନିଜେ ଦୃ ust ଅଟେ, ଏହା ଉପରେ ନିର୍ମିତ ପ୍ରୟୋଗ ସେହି ସୁରକ୍ଷାକୁ ଉତ୍ତରାଧିକାରୀ କରିବ | ସାମ୍ପ୍ରତିକ ପ୍ରଦର୍ଶନଗୁଡିକ ଏହାକୁ ଏକ ବିପଜ୍ଜନକ ଭୁଲ ଧାରଣା ଭାବରେ ପ୍ରକାଶ କରିଛି | ଦୁର୍ବଳତା ମଡେଲର ମୂଳ ବୁଦ୍ଧି କିମ୍ବା ଏହାର ତାଲିମ ତଥ୍ୟରେ ନାହିଁ; ଏହା * ଇଣ୍ଟରଫେସ୍ * ରେ ଆମେ ଏହାର ଚାରିପାଖରେ ନିର୍ମାଣ କରୁ | ଏହା ହେଉଛି କ୍ଲାସିକ୍ "ଦୃ ust ଭାଲ୍ଟ, im ଲସି ସାମ୍ନା ଦ୍ୱାର" ସମସ୍ୟା | ଆପଣଙ୍କ ପାଖରେ ହୁଏତ ଦୁନିଆରେ ସବୁଠାରୁ ଉନ୍ନତ, କଠିନ LLM ଥାଇପାରେ, କିନ୍ତୁ ଯଦି ଆପଣଙ୍କର ଅନୁପ୍ରୟୋଗର ଇନପୁଟ୍ ପାର୍ସର୍ ଅଜ୍ଞାତ ଅଟେ, କିମ୍ବା ଆପଣଙ୍କର ଆଉଟପୁଟ୍ ଫିଲ୍ଟର୍ ଅବାସ୍ତବ, ତେବେ ଆପଣ ଗୁରୁତ୍ information ପୂର୍ଣ୍ଣ ସୂଚନାକୁ କାହାକୁ ଖୋଜିବାକୁ ଛାଡିଦେବେ |
ଏହି "ପ୍ରମ୍ପ୍ଟ ଇଞ୍ଜେକ୍ସନ୍" କ que ଶଳଟି ବିଶେଷ ଭାବରେ ଜଡିତ କାରଣ ଏହା LLM ର ଅନ୍ତର୍ନିହିତ ପ୍ରକୃତିକୁ ଉପଯୋଗ କରିଥାଏ: ନିର୍ଦ୍ଦେଶାବଳୀ ଏବଂ ସଂପୂର୍ଣ୍ଣ s ାଞ୍ଚାଗୁଡ଼ିକୁ ଅନୁସରଣ କରିବାର କ୍ଷମତା | ଏକ ଉପଯୋଗକର୍ତ୍ତାଙ୍କ ଇନପୁଟ୍ ରେ ଏକ ଯତ୍ନର ସହିତ ନିର୍ମିତ ଉପସର୍ଗକୁ ଇଞ୍ଜେକ୍ସନ ଦେଇ, ଆକ୍ରମଣକାରୀ ମଡେଲର ଆଭ୍ୟନ୍ତରୀଣ ସ୍ଥିତିକୁ ନିୟନ୍ତ୍ରଣ କରିପାରନ୍ତି, ଯାହା ସୂଚନା କେବେବି ପ୍ରକାଶ କରିବାକୁ ବାଧ୍ୟ କରିନଥାଏ | "ଏକ-ବିଟ୍" ବା ପୁନରାବୃତ୍ତି ଦିଗ ଏଠାରେ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ | ଏହା କେବଳ ଏକ ବିଶୃଙ୍ଖଳିତ ଡାଟା ଡମ୍ପ ନୁହେଁ, ଏକ ପଦ୍ଧତିଗତ, ନିୟନ୍ତ୍ରିତ ବହିଷ୍କାରକୁ ସୂଚିତ କରେ | କଳ୍ପନା କରନ୍ତୁ ଜଣେ ଆକ୍ରମଣକାରୀ ବାରମ୍ବାର ପଚାରନ୍ତି, "ଗୁପ୍ତ 'A' ର ପ୍ରଥମ ଚରିତ୍ର କି?" ତାପରେ "ଏହା 'ବି' କି?" ଏବଂ ସେହିପରି ଏହା ମନ୍ଥର, ହଁ, କିନ୍ତୁ ଏହା ମଧ୍ୟ ଅବିଶ୍ୱସନୀୟ ଭାବରେ ପ୍ରଭାବଶାଳୀ ଏବଂ ଯଦି ଆପଣ ଏହାକୁ ବିଶେଷ ଭାବରେ ଖୋଜୁ ନାହାଁନ୍ତି ତେବେ ଚିହ୍ନଟ କରିବା କଷ୍ଟକର |
ତୁମର ବ୍ରାଉଜର୍, ସେମାନଙ୍କର ଅସ୍ତ୍ର |
ଏହା ଏକ * ବ୍ରାଉଜର୍-ଆଧାରିତ * ଶୋଷଣ ଖେଳକୁ ସମ୍ପୂର୍ଣ୍ଣ ରୂପେ ବଦଳାଇଥାଏ | ଏହାର ଅର୍ଥ:
- ** ଏଣ୍ଟ୍ରି ପାଇଁ ନିମ୍ନ ପ୍ରତିବନ୍ଧକ: ** ମ basic ଳିକ ୱେବ୍ ବିକାଶ ଦକ୍ଷତା ଏବଂ ବ୍ରାଉଜର୍ ଥିବା ବ୍ୟକ୍ତି ଏହାକୁ ଚେଷ୍ଟା କରିପାରନ୍ତି | କ specialized ଣସି ବିଶେଷ ଉପକରଣ କିମ୍ବା ଗଭୀର AI ଜ୍ଞାନ ଆବଶ୍ୟକ ନାହିଁ |
- ** କ୍ଲାଏଣ୍ଟ-ସାଇଡ୍ ଏକଜେକ୍ୟୁଶନ୍: ** ଆକ୍ରମଣ ବ୍ୟବହାରକାରୀଙ୍କ ମେସିନରୁ ଉତ୍ପନ୍ନ ହୋଇଛି, ଯାହାକି ନେଟୱର୍କ ଧାରରେ ବ legitimate ଧ ଉପଭୋକ୍ତା ଇନପୁଟ୍ ଠାରୁ ଭିନ୍ନ କରିବା କଷ୍ଟକର କରିଥାଏ |
- ** ତତକ୍ଷଣାତ୍ ଧମକ: ** ଯଦି ଆପଣଙ୍କର LLM ପ୍ରୟୋଗ ଏକ ୱେବ୍ ଇଣ୍ଟରଫେସ୍ ମାଧ୍ୟମରେ ଜୀବନ୍ତ ଏବଂ ଉପଲବ୍ଧ, ତେବେ ଏହା ଏହି ଭେକ୍ଟର ପାଇଁ * ପୂର୍ବରୁ * ଅସୁରକ୍ଷିତ ଅଟେ | ଏହା ଭବିଷ୍ୟତର ପ୍ୟାଚ୍ ନୁହେଁ; ଏହା ବର୍ତ୍ତମାନର ଜରୁରୀକାଳୀନ ପରିସ୍ଥିତି |
ଏହାର ପ୍ରଭାବକୁ ବିଚାର କରନ୍ତୁ: ଭୁଲ ତଥ୍ୟ ବିସ୍ତାର କରିବାକୁ କିମ୍ବା କ୍ଷତିକାରକ ବିଷୟବସ୍ତୁ ସୃଷ୍ଟି କରିବାକୁ ମାଲିକାନା କୋଡ୍ ସ୍ନିପେଟ୍, ଆଭ୍ୟନ୍ତରୀଣ ଡକ୍ୟୁମେଣ୍ଟେସନ୍, ଗ୍ରାହକ ତଥ୍ୟ, API କି, କିମ୍ବା ଆପଣଙ୍କ LLM ର ଆଚରଣର ସୂକ୍ଷ୍ମ ମନିପୁଲେସନ୍ | ଏକ ସରଳ ପାଠ୍ୟ ବାକ୍ସ ମାଧ୍ୟମରେ ଏହି ସବୁକୁ ବାହାର କରାଯାଇପାରିବ କିମ୍ବା ପ୍ରଭାବିତ କରାଯାଇପାରିବ |
ଦାୟିତ୍ Your ତୁମର ଅଟେ |
OpenAI କିମ୍ବା ଗୁଗୁଲ୍ ପରି ମଡେଲ୍ ପ୍ରଦାନକାରୀଙ୍କ ପାଇଁ ସେମାନଙ୍କର ପରବର୍ତ୍ତୀ ମଡେଲ୍ ଅପଡେଟ୍ ରେ ଠିକ୍ କରିବା ପାଇଁ ଏହା କ problem ଣସି ଅସୁବିଧା ନୁହେଁ | ଏହା ଏକ * ପ୍ରୟୋଗ ସୁରକ୍ଷା * ସମସ୍ୟା, ଏବଂ ହ୍ରାସ ପାଇଁ ଦାୟିତ୍ develop ଏହି ସିଷ୍ଟମଗୁଡିକ ନିୟୋଜିତ ବିକାଶକାରୀ, ସୁରକ୍ଷା ଦଳ ଏବଂ CTO ର କାନ୍ଧରେ ପଡ଼େ | ତୁମର LLM ଏକ ଶକ୍ତିଶାଳୀ, କିନ୍ତୁ ଶେଷରେ ନିର୍ବୋଧ, ଇଞ୍ଜିନ୍ | ଏହା ଯାହା କୁହାଯାଇଛି ତାହା କରିବ, ଯଦିଓ ସେହି ନିର୍ଦ୍ଦେଶଗୁଡ଼ିକ ନିର୍ଦ୍ଦୋଷ ଦେଖାଯାଉଥିବା ଉପଭୋକ୍ତା ଇନପୁଟ୍ ମଧ୍ୟରେ ଲୁକ୍କାୟିତ |
ତେବେ, ଆପଣ ବର୍ତ୍ତମାନ * କ’ଣ କରନ୍ତି?
ତୁରନ୍ତ ପ୍ରତିକ୍ରିୟା:
1। ** ଆକ୍ରମଣାତ୍ମକ ଇନପୁଟ୍ ସାନିଟାଇଜେସନ୍: ** ଏହା SQL ଇଞ୍ଜେକ୍ସନ୍ କିମ୍ବା XSS ରୋକିବା ବାହାରେ | ତୁମର LLM ପ୍ରବେଶ କରୁଥିବା ପ୍ରତ୍ୟେକ ଅକ୍ଷର * ଯାଞ୍ଚ କରିବା ଆବଶ୍ୟକ | ପ୍ରମ୍ପ୍ଟ ଇଞ୍ଜେକ୍ସନ୍, ଅସାଧାରଣ ଚରିତ୍ର କ୍ରମ, କିମ୍ବା ଆଶା କରାଯାଉଥିବା କଥାବାର୍ତ୍ତା ପ୍ରବାହରୁ ଭାଙ୍ଗିବାକୁ ଚେଷ୍ଟା କରୁଥିବା s ାଞ୍ଚାଗୁଡ଼ିକୁ ଖୋଜ | ଏହା "ଖରାପ ଶବ୍ଦ" ରୋକିବା ବିଷୟରେ ନୁହେଁ; ଏହା ପ୍ରତିକୂଳ ପ୍ରମ୍ପ୍ଟଗୁଡ଼ିକୁ ଚିହ୍ନିବା ବିଷୟରେ | ମ basic ଳିକ ରେଜେକ୍ସ ଏବଂ ହ୍ୟୁରିଷ୍ଟିକ୍ ବିଶ୍ଳେଷଣ ବାହାରେ, ଦୁଷ୍ଟ ଉଦ୍ଦେଶ୍ୟ ଚିହ୍ନଟ କରିବାକୁ ଅର୍ଥଗତ ବିଶ୍ଳେଷଣ କାର୍ଯ୍ୟକାରୀ କର | ଅନୋମାଲ୍ ଇନପୁଟ୍ s ାଞ୍ଚାଗୁଡ଼ିକୁ ଚିହ୍ନିବା ପାଇଁ ଟୋକେନାଇଜେସନ୍ ଏବଂ ଏମ୍ବେଡିଂ ଆନାଲିସିସ୍ ବ୍ୟବହାର କରନ୍ତୁ | ଏକ ସେକେଣ୍ଡାରୀ, ଛୋଟ LLM କିମ୍ବା ଏକ ନିୟମ-ଆଧାରିତ ସିଷ୍ଟମକୁ ତୁରନ୍ତ ଇଞ୍ଜେକ୍ସନ ପ୍ରୟାସ ଚିହ୍ନଟ କରିବାକୁ ତାଲିମ ପ୍ରାପ୍ତ କରିବାକୁ ଚିନ୍ତା କର | ଭୂମିକା ନିର୍ବାହ ନିର୍ଦ୍ଦେଶାବଳୀ, ସ୍ପଷ୍ଟ ତଥ୍ୟ ନିଷ୍କାସନ ଅନୁରୋଧ, କିମ୍ବା ପୂର୍ବ ନିର୍ଦ୍ଦେଶକୁ ବାଇପାସ୍ କରିବାକୁ ଚେଷ୍ଟା ପରି s ାଞ୍ଚା ଖୋଜ | 2। ** ଦୃ ust ଆଉଟପୁଟ୍ ଫିଲ୍ଟରିଂ ଏବଂ ବ id ଧତା: ** LLM ର ଆଉଟପୁଟ୍କୁ କେବେବି ବିଶ୍ trust ାସ କରନ୍ତୁ ନାହିଁ | ଯେକ any ଣସି LLM- ଉତ୍ପାଦିତ ପାଠ୍ୟ ଏକ ଉପଭୋକ୍ତାଙ୍କୁ ପ୍ରଦର୍ଶିତ ହେବା ପୂର୍ବରୁ କିମ୍ବା ଅନ୍ୟ ଏକ ସିଷ୍ଟମ ଦ୍ୱାରା ବ୍ୟବହୃତ ହେବା ପୂର୍ବରୁ, ଏହା * ଏକ କଠୋର ବ valid ଧତା ସ୍ତର ଦେଇ ଯିବା ଆବଶ୍ୟକ | ଏଥିରେ ସମ୍ବେଦନଶୀଳ କୀ ଶବ୍ଦ ଅଛି କି? ଏହା ଆଶା କରାଯାଉଥିବା ଫର୍ମାଟ୍ ସହିତ ମେଳ ଖାଉଛି କି? ଏହା କୋଡ୍ ଏକଜେକ୍ୟୁଟ୍ କରିବାକୁ କିମ୍ବା ଆଭ୍ୟନ୍ତରୀଣ ସିଷ୍ଟମ୍ ପ୍ରମ୍ପ୍ଟଗୁଡିକୁ ପ୍ରକାଶ କରିବାକୁ ଚେଷ୍ଟା କରେ କି? ଯଦି ଆପଣଙ୍କର LLM ଏକ ଡକ୍ୟୁମେଣ୍ଟକୁ ସଂକ୍ଷିପ୍ତ କରିବାକୁ ଅନୁମାନ କରାଯାଏ, କିନ୍ତୁ ଏହା ଫାଇଲ୍ ପଥ ତାଲିକାଭୁକ୍ତ କରିବା ଆରମ୍ଭ କରେ, ତେବେ ଆପଣଙ୍କର ଏକ ଅସୁବିଧା ଅଛି | ।। ତଥାପି, ବୁ understand ନ୍ତୁ ଯେ କେବଳ ପ୍ରମ୍ପ୍ଟ ଇଞ୍ଜିନିୟରିଂ ପର୍ଯ୍ୟାପ୍ତ ନୁହେଁ; ଏହା ଗଭୀରତାରେ ଏକ ପ୍ରତିରକ୍ଷା, ଏକ ପ୍ରାଥମିକ ield ାଲ ନୁହେଁ | 4। ** LLM ପାରସ୍ପରିକ କ୍ରିୟା ପାଇଁ ସର୍ବନିମ୍ନ ସୁବିଧା: ** ଆପଣଙ୍କର LLM ପ୍ରକୃତରେ ପ୍ରତ୍ୟେକ ତଥ୍ୟକୁ ପ୍ରବେଶ ଆବଶ୍ୟକ କରେ ଯାହା ସମ୍ଭବତ reveal ଏହାକୁ ପ୍ରକାଶ କରିବାକୁ କୁହାଯାଇପାରେ | କଠୋର ପ୍ରବେଶ ନିୟନ୍ତ୍ରଣକୁ କାର୍ଯ୍ୟକାରୀ କରନ୍ତୁ | ଯଦି LLM କେବଳ ସାର୍ବଜନୀନ ଡକ୍ୟୁମେଣ୍ଟେସନ୍ ସମ୍ବନ୍ଧୀୟ ପ୍ରଶ୍ନର ଉତ୍ତର ଦେବାକୁ ଅନୁମାନ କରାଯାଏ, ନିଶ୍ଚିତ କରନ୍ତୁ ଯେ ଏହାର ଆଭ୍ୟନ୍ତରୀଣ ଡାଟାବେସ୍ କିମ୍ବା ସମ୍ବେଦନଶୀଳ API ଗୁଡ଼ିକର କ program ଣସି ପ୍ରୋଗ୍ରାମେଟିକ୍ ଆକ୍ସେସ୍ ନାହିଁ | 5। ** ମନିଟରିଂ ଏବଂ ଅନୋମାଲି ଚିହ୍ନଟ: ** ଆପଣ ଅସାଧାରଣ LLM ଆଚରଣ ପାଇଁ ସକ୍ରିୟ ଭାବରେ ସନ୍ଧାନ କରିବା ଆବଶ୍ୟକ କରନ୍ତି | ନିର୍ଦ୍ଦିଷ୍ଟ ପ୍ରକାରର ପ୍ରଶ୍ନଗୁଡ଼ିକରେ ସ୍ପାଇକ୍, ସାଧାରଣ s ାଞ୍ଚାରୁ ବିଚ୍ଛିନ୍ନ ହୋଇଥିବା ଫଳାଫଳ, କିମ୍ବା ସୂଚନା ବାହାର କରିବାକୁ ବାରମ୍ବାର ପ୍ରୟାସ ତୁରନ୍ତ ସତର୍କତା ସୃଷ୍ଟି କରିବା ଉଚିତ |
ଏହା ଆଉ ବ୍ୟାପକ "AI ସୁରକ୍ଷା" ବିଷୟରେ ନୁହେଁ | ଏହା ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ, ପ୍ରଦର୍ଶିତ ଏବଂ ତୁରନ୍ତ ଶୋଷଣକାରୀ ଆକ୍ରମଣ ଭେକ୍ଟର ବିରୁଦ୍ଧରେ ଆପଣଙ୍କର LLM ପ୍ରୟୋଗଗୁଡ଼ିକର ପାରସ୍ପରିକ ସ୍ତର ସୁରକ୍ଷିତ କରିବା ବିଷୟରେ | ଆମେ ଏହି ଅବିଶ୍ୱସନୀୟ, ଶକ୍ତିଶାଳୀ ସିଷ୍ଟମ ଗଠନ କରୁଛୁ, ପ୍ରାୟତ the ଇଣ୍ଟରଫେସରେ ପର୍ଯ୍ୟାପ୍ତ ସୁରକ୍ଷା ବ୍ୟବସ୍ଥା ସହିତ | ସାମ୍ପ୍ରତିକ ପ୍ରଦର୍ଶନଗୁଡିକ ଆମକୁ ଦେଖାଇଛି ଯେ ଏହି ଫାଙ୍କଗୁଡିକ ବ୍ୟବହାର କରିବା କେତେ ସହଜ | ତତ୍ତ୍ୱିକ ଆଲୋଚନା ପାଇଁ ସମୟ ଅତୀତ | LLM ପ୍ରୟୋଗଗୁଡ଼ିକୁ ସୁରକ୍ଷିତ କରିବା ପାଇଁ ତୁରନ୍ତ କାର୍ଯ୍ୟ ଆବଶ୍ୟକ |
ଉତ୍ସ |
[1] ବଡ଼ ଭାଷା ମଡେଲ ପ୍ରୟୋଗଗୁଡ଼ିକ ପାଇଁ OWASP ଶ୍ରେଷ୍ଠ ୧୦ - https://owasp.org/www-project-top-10-for-large-language-model-applications/ [2] ଲାକେରା ଗାଣ୍ଡାଲଫ୍: ଏକ ଇଣ୍ଟରାକ୍ଟିଭ୍ ପ୍ରମ୍ପ୍ଟ ଇଞ୍ଜେକ୍ସନ୍ ଚ୍ୟାଲେଞ୍ଜ - https://gandalf.lakera.ai/ [3] ତୁରନ୍ତ ଇଞ୍ଜେକ୍ସନ୍ ଆକ୍ରମଣ | ୱେବ୍ ସିକ୍ୟୁରିଟି ଏକାଡେମୀ - https://portswigger.net/web-security/llm-attacks/prompt-injection [4] ପ୍ରମ୍ପ୍ଟ ଇଞ୍ଜେକ୍ସନ୍ କ’ଣ ଏବଂ ଏହାକୁ କିପରି ରୋକାଯାଇପାରିବ? - https://www.tenable.com/blog/what-is-prompt-injection-and-how-to-prevent-it