AI удаашрал нь анхаарал сарниулах явдал юм. Танай байшин шатаж байна.
Шулуухан хэлье: технологийн салбар эцэст нь хиймэл оюун ухаантай "Есүс рүү ирэх" мөчийг өнгөрөөж байгаа ч энэ нь жинхэнэ наманчлал шиг биш, харин стратегийн гол цэг шиг санагддаг. Гэнэт, энэхүү гайхалтай хиймэл оюун ухааны уралдааны архитекторууд болох кофейноор тэжээгддэг спринтуудыг санхүүжүүлсэн нэрт судлаачид болон санхүүчид хурдыг удаашруулахыг уриалж байна [1]. Тэд "дотоод засаглал", "ёс зүйн тогтолцоо", "илүү зориудаар" хурдны тухай ярьж байна. Мөн зах зээл, хэзээд мэдрэмтгий барометр нь чип хувьцааны савлагааг үүсгэж буй хиймэл оюун ухааны хөрөнгө оруулалтын тогтвортой байдлын талаар санаа зовниж, аль хэдийн хариу үйлдэл үзүүлсэн байна [2].
Энэ бол гадны зохицуулалт биш; Энэ нь хиймэл оюун ухааны экосистем дотроос гарч буй дотоод "гажиг шугам" юм. C-suite нь тэдний ирээдүйн бүтээлүүдийн философийн үр дагаврын талаар мэтгэлцэж байх хооронд өнөөгийн байдал идэвхтэй шатаж байна.
Тохиромжтой завсарлага
Цаг хугацааг анхаарч үзээрэй. Олон жилийн турш тарни нь "хурдан хөдөлж, аливаа зүйлийг эвдэх" эсвэл сүүлийн үед "хурдан хөдөлж, AGI-г бий болгох" гэсэн утгатай. Хүчирхэг загварууд аль хэдийн тавигдсан, өрсөлдөөний талбар нь тодорхойлогдсон, бодит, утга учиртай зохицуулалтын төсөөлөл ойртож байгаа энэ үед болгоомжтой байхыг уриалах нь бага зэрэг хонхойж байна. Энэ нь гүн гүнзгий эрсдэлийг жинхэнээсээ сэрээж байна уу, эсвэл сэрээ гарч ирэхээс өмнө эрх мэдлээ нэгтгэж, өрсөлдөгчөө удаашруулж, олон нийтийн ойлголтыг зохицуулах тооцоолсон маневр уу?
Тооцоолол, авъяас чадвар, үндсэн загваруудын зах зээлийг аль хэдийн буланд оруулсан бол болгоомжтой байхыг номлоход хялбар байдаг. Салбарынхан "бүтээгдэхүүний замын зураглал, эрсдлийн үнэлгээ, стратеги төлөвлөлтийг дахин үнэлэх" дээр гэнэт анхаарал хандуулж байгаа нь эрхэмсэг сонсогдож байгаа ч нөөцийг дахин тохируулах тохиромжтой арга мэт сонсогдож байна. Энэ нь үндсэн нөөцөд хандах хандалтыг хянах эсвэл зохицуулалтын тогтолцоонд нөлөөлөх замаар байгуулагдсан аваргуудыг сорьж болох нээлттэй эхийн хувилбарууд эсвэл жижиг тоглогчдыг удаашруулж болзошгүй юм. "Ёс суртахууны тогтолцоо" нь загвар өмсөгчдийг хуссан өгөгдөл дээр сургаж байх үед биш, харин одоо нийгмийг жинхэнэ утгаар нь өөрчлөх хангалттай хүчтэй болсон үед хамгийн чухал зүйл юм.
Эрдэм шинжилгээний болон шинжлэх ухааны нийгэмлэгийн доторх санаа зовниж, нээлттэй асуудлуудыг шийдвэрлэх хиймэл оюун ухааны "шийдэл" нь тэдний салбаруудын бүрэн бүтэн байдалд заналхийлж болзошгүйг анхааруулж байна [3] нь энэхүү дотоод санаа зовнилын гүн гүнзгий байдлын тод үзүүлэлт юм. Гэхдээ үүнийг альтруизм гэж андуурч болохгүй. Энэ нь хиймэл оюун ухаан нь ажлын байр эсвэл дэд бүтцэд үзүүлэх нөлөөллийн тухай биш юм; Энэ нь хяналт-ын тухай – үүнийг хэн, ямар хурдаар эзэмшдэг. Мэтгэлцээн нь "бид үүнийг барих ёстой юу?" "Бид үүнийг хэр хурдан барьж, хэн ашиг олохыг хэн шийдэх вэ?"
Тэд ирээдүйн талаар мэтгэлцэж байхад таны одоогийн байдал алдагдаж байна
Одоо хиймэл оюун ухааны дотоод хагарал гэх хийсвэр, ирээдүйг харсан санаа зоволтоос манай сүлжээнд яг одоо өрнөж буй шууд бодит хямрал руу шилжье. Хиймэл оюун ухааны титанууд машинынхаа сүнсийг тунгаан бодож байх хооронд танай үйл ажиллагааны багууд кибер аюулгүй байдлын бүрэн хэмжээний сүйрлийг арилгахаар чармайж байна.
Бид онолын аюул, ерөнхий чиг хандлагын тухай яриагүй. Бид лантууны хүчээр чухал дэд бүтцийг цохиж, байгууллагын үндсэн программ хангамжид идэвхтэй ашигласан тэг өдрийн эмзэг байдлын талаар ярьж байна.
- Ivanti Connect Secure and Policy Secure (CVE-2023-46805 & CVE-2024-21887): Энэ бол зүгээр нэг алдаа биш; энэ бол цоорсон шарх юм. Ивантигийн VPN болон сүлжээнд нэвтрэх шийдлүүдийн эдгээр сул талуудыг идэвхтэй ашиглаж, халдагчдад нэвтрэлт танилтыг давж, алсын тушаалуудыг гүйцэтгэх боломжийг олгосон. CISA нь эдгээр системд найдвартай алсын зайнаас нэвтрэхэд найдах байгууллагуудад нэн чухал эрсдэлийг онцлон олон удаа анхааруулсан байна [4]. Хаалган дээрх муу хүмүүсийг зогсоох нэг зүйл болох таны үндсэн сүлжээний хамгаалалтыг халдагчид тоо томшгүй олон аж ахуйн нэгжийн сүлжээнд гүн нэвтрэх боломжийг олгохын тулд идэвхтэй ашиглаж байна.
- Cisco IOS XE Web UI (CVE-2023-20198): Хамгийн их ноцтой байдал. Идэвхтэй ашигласан. Энэхүү эмзэг байдал нь нэвтрэлт танигдаагүй халдагчдад давуу эрхтэй бүртгэл үүсгэж, нөлөөлөлд өртсөн Cisco IOS XE төхөөрөмжүүдийг бүрэн хянах боломжийг олгодог. Хэрэв халдагч таны сүлжээний дэд бүтцийн удирдлагын онгоцыг эзэмшдэг бол таны сүлжээг бүхэлд нь эзэмшдэг. Тоглолт дууссан [5].
CISA хөгжилтэй байхын тулд "анхаарал" гаргадаггүй; тэд хөл хөдөлгөөн ихтэй театрт "гал" гэж хашгирч байна. Эдгээр нь зөвхөн онолын аюул биш юм; Эдгээрийг дэлхийн аж ахуйн нэгжүүдийн үндсэн хамгаалалт, удирдлагын тогтолцоог эвдэх зорилгоор идэвхтэй ашиглаж байна.
Жинхэнэ хагарлын шугам
Инээдэм нь маш зузаан тул та үүнийг уйтгартай хутгаар зүсэж болно. Нэг талаас, хиймэл оюун ухааны элитүүд өөрсдийн барьж буй ирээдүйнхээ ёс зүйн үр дагаврыг хэлэлцэж, олон жилийн хяналтгүй хурдатгалын дараа удаашрахыг уриалж байна. Нөгөөтэйгүүр, манай одоогийн суурь технологи нь хаягдалгүй, засварлагдаагүй эмзэг байдлын дор идэвхтэй сүйрч буй шууд, оршин тогтнох аюул заналхийлж байна.
Жинхэнэ "гажиг шугам" нь зөвхөн AI нийгэмлэгийн хүрээнд биш юм; Энэ нь инновацийн зааны ясан цамхаг болон үйл ажиллагааны бодит байдлын суваг хоорондын зай юм. Энэ нь хиймэл оюун ухаанд зориулсан "өөрийгөө зохицуулах" тухай хийсвэр, ирээдүйд чиглэсэн хэлэлцүүлгүүд болон өнөөдрийн бидний найдаж буй системүүдийн аюулгүй байдал, тогтвортой байдлын шууд, тодорхой хэрэгцээний хооронд юм.
Техникийн ерөнхий менежерүүд болон инженерүүд тэргүүлж байгаа тул бид хиймэл оюун ухааны удаашралтай холбоотой философийн маргаанд анхаарлаа сарниулж чадахгүй. Эдгээр хэлэлцүүлэг нь урт хугацаанд чухал ач холбогдолтой боловч таны байшин идэвхтэй шатаж байгаа үед энэ нь тансаг хэрэглээ юм. "Бүтээгдэхүүний замын зураглалыг дахин үнэлэх" нь манай одоо байгаа дэд бүтцийн нурж буй суурийг бэхжүүлэхээс эхлэх ёстой. "Эрсдлийн үнэлгээ" нь үйл ажиллагааны тасралтгүй байдал, мэдээллийн бүрэн бүтэн байдлыг алдагдуулж буй шууд, идэвхтэй ашиглаж буй аюул заналыг өнөөдөр эрэмбэлэх шаардлагатай.
Салбарын тэргүүлэх чиглэлүүд гажуудсан. Бид идэвхтэй ялзарч буй суурин дээр илүү хурдан, гялалзсан зүйлсийг барьж байна. Хиймэл оюун ухааныг удаашруулахыг уриалах нь зайлшгүй шаардлагатай яриа байж болох ч Иванти, Сиско нартай 0 өдрийн турш харьцаж байгаа бидний хувьд дээвэр нь хонхойж байхад хөшигний өнгөний талаар ярилцаж байгаа юм шиг санагдаж байна. Одоо байгаа зүйлдээ анхаарлаа хандуулаарай. Биднийг идэвхтэй цус алдах хүртэл ирээдүй хүлээж болно.
Эх сурвалж
[1] Аварга хиймэл оюун ухааны туршилтуудыг түр зогсоох нээлттэй захидал — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI-ийн хувьцаанууд өсч байгаа ч зарим хөрөнгө оруулагчид сандарч байна — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] Шинжлэх ухаан дахь хиймэл оюун ухааны хувьсгал: амлалтууд ба аюулууд — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure болон Ivanti Policy Secure эмзэг байдлыг ашиглаж буй заналхийлсэн оролцогчид — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE програм хангамжийн вэб UI-ийн эмзэг байдлыг ашиглаж буй аюул заналхийлэгчид — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a