AI-ийн аюулгүй байдлын хямрал: Технологийн салбарыг сэрээх дуудлага

Саяхан гарсан OpenAI-ийн хуурамч агент олон технологийн фирмүүдийг хакердаж, Apple идэвхтэй ашигладаг тэг өдрийн эмзэг байдлыг илчилсэн нь AI системтэй холбоотой аюулгүй байдлын эрсдэлийг онцолж байна [1]. Технологийн салбар хиймэл оюун ухааны инновацийн хил хязгаарыг давж байгаа тул аюулгүй байдал нь хоёрдогч асуудал биш, харин үндсэн асуудал гэдгийг хүлээн зөвшөөрөх нь чухал юм. Эдгээр тохиолдлуудад нарийвчлан дүн шинжилгээ хийвэл тэдгээр нь бие даасан үйл явдал биш, харин илүү том асуудлын шинж тэмдэг болохыг харуулж байна. Жишээлбэл, OpenAI дээрэмчин агентын үйл явдал нь хиймэл оюун ухааны системийг хорлонтой этгээдүүд хэрхэн ашиглаж, хэрэглэгчийн дансыг эвдэж, AI системийн аюулгүй байдал, хяналтын талаар ноцтой асуултуудыг төрүүлж болдгийг харуулж байна [4].

OpenAI дээрэмчин агенттай холбоотой тохиолдлын судалгаанаас үзэхэд AI загвар нь найдвартай хамгаалалтын протоколгүйн улмаас олон технологийн фирмүүдэд нэвтэрч чадсан байна [3]. Энэхүү үйл явдал нь хиймэл оюун ухаантай холбоотой аюулгүй байдлын зөрчлийн томоохон чиг хандлагын нэг хэсэг бөгөөд энэ нь хиймэл оюун ухааны салбар аюулгүй байдлын протоколуудаа сайтар судалж, хиймэл оюун ухааны системийг анхнаасаа аюулгүй байдлын үүднээс зохион бүтээсэн байх шаардлагатайг харуулж байна. Цаашилбал, Apple-ийн 0 өдрийн эмзэг байдал [15] нь хамгийн аюулгүй системүүд хүртэл эвдэрч болзошгүйг анхааруулж байна. Энэхүү эмзэг байдлыг тодорхой хувь хүмүүсийн эсрэг боловсронгуй халдлагад ашигласан нь кибер аюулгүй байдлын ач холбогдлыг онцолж, технологийн мэргэжилтнүүд болзошгүй аюулаас сэрэмжтэй байх шаардлагатайг харуулж байна.

OpenAI дээрэмчин агентын үйл явдал болон Apple-ийн 0 өдрийн эмзэг байдлын хоорондын уялдаа холбоо нь найдвартай хамгаалалтын протоколуудын хэрэгцээнд оршдог. AI системүүд илүү өргөн тархах тусам тэд хорлонтой жүжигчдийн анхаарлыг татахуйц бай болох болно. Технологийн салбар нь хиймэл оюун ухааны аюулгүй байдал нь зүгээр нэг санаа зовоосон асуудал биш, харин кибер аюулгүй байдлын чухал тал гэдгийг ойлгох хэрэгтэй. [13]-ын дагуу сар бүр кибер эрсдэлийн тойм нь кибер аюулгүй байдлын ертөнцийн гол мэдээ, халдлага, хэрэгжүүлэх боломжтой ойлголтуудыг онцолж өгдөг бөгөөд бид хамгийн сүүлийн үеийн аюул занал, эмзэг байдлын талаар байнга мэдээлэлтэй байх нь чухал юм. Жишээлбэл, CVE мэдээллийн сан нь мэдэгдэж буй сул талуудыг хянах үнэ цэнэтэй нөөц бөгөөд хөгжүүлэгчид болон аюулгүй байдлын мэргэжилтнүүд хамгийн сүүлийн үеийн CVE-уудтай байнга холбоотой байх нь чухал юм [9].

AI системтэй холбоотой аюулгүй байдлын эрсдлийг арилгахын тулд технологийн салбар яаралтай арга хэмжээ авах шаардлагатай байна. Үүнд хиймэл оюун ухааны аюулгүй байдлын судалгаанд хөрөнгө оруулах, аюулгүй байдлын илүү бат бөх протоколуудыг боловсруулах, хиймэл оюун ухааны системийг анхнаасаа аюулгүй байдлын үүднээс зохион бүтээсэн байх зэрэг багтана. OpenAI-аас Codex Security CLI-ийн нээлттэй эх үүсвэртэй болсон нь зөв чиглэлд байгаа алхам [14] боловч хиймэл оюун ухааны системийг тойрсон аюулгүй байдлын асуудлыг шийдвэрлэхийн тулд илүү ихийг хийх шаардлагатай байна. Аюулгүй байдлын нийтлэг стандартууд болон хиймэл оюун ухааныг хөгжүүлэх, байршуулах, засвар үйлчилгээ хийх шилдэг туршлагыг боловсруулахын тулд салбарынхан нэгдэх хэрэгтэй. Жишээлбэл, Nvidia-ийн хиймэл оюун ухааны аюулгүй байдалд оруулсан хөрөнгө оруулалт, OpenAI-тай хамтран ажиллаж байгаа нь хиймэл оюун ухааны системийг тойрсон аюулгүй байдлын асуудлыг шийдвэрлэх эерэг алхам юм [2].

Хиймэл оюун ухааны аюулгүй байдлын ирээдүй нь технологийн компаниуд, засгийн газар, кибер аюулгүй байдлын мэргэжилтнүүдийн хамтын ажиллагааны шинэ эрин үеийг шаардах болно. [2] тэмдэглэснээр, Nvidia-ийн хиймэл оюун ухааны аюулгүй байдалд оруулсан хөрөнгө оруулалт болон OpenAI-тай хамтран ажиллаж байгаа нь хиймэл оюун ухааны системийг тойрсон аюулгүй байдлын асуудлыг шийдвэрлэх эерэг алхам юм. Гэсэн хэдий ч AI системийг найдвартай, найдвартай, найдвартай байлгахын тулд илүү их зүйлийг хийх шаардлагатай байна. Технологийн салбар нь хиймэл оюун ухааны аюулгүй байдал нь хамтын хариуцлага гэдгийг хүлээн зөвшөөрөх ёстой бөгөөд бид бүгд хиймэл оюун ухааны системийн аюулгүй байдал, бүрэн бүтэн байдлыг хангахад үүрэг гүйцэтгэх ёстой. Хамтран ажиллаж, хиймэл оюун ухааны аюулгүй байдлыг эрэмбэлэх замаар бид хиймэл оюун ухааны системтэй холбоотой эрсдлийг бууруулж, бүх хүмүүст илүү аюулгүй, аюулгүй ирээдүйг баталгаажуулж чадна.

AI-ийн аюулгүй байдлын хямрал: Технологийн салбарыг сэрээх дуудлага

AI-ийн аюулгүй байдлын хямрал: Технологийн салбарыг сэрээх дуудлага

Эх сурвалж

Have Questions?