Эзэн хааны шинэ хиймэл оюун ухаан ба түүний доорх ялзарч буй суурь
AI биднийг бүгдийг аврах гэж байсныг санаж байна уу? Аврагчид одоо завсарлага авахыг хүсч байна. Саяхан манай хиймэл оюун ухаанд тулгуурласан ирээдүйн архитекторууд болох "хилийн" судлаачид болон санхүүгийн хүнд жингийнхэн хамтдаа "аюулгүй байдлын асуудал хурцадсан" [1] улмаас хөгжлийг удаашруулахыг шаардаж, тоормос гишгэжээ. Зах зээл, хэзээд мохоо хэрэгсэл, уушиг ханиалгаж хариу: чип хувьцаа болон гол AI тоглогчид уналтанд [2]. Бээжин сэрэмжлүүлгийг шоолж байсан бол Сөүлийн чип компаниуд ирээдүйн хиймэл оюун ухааны дэвшлийн урьдчилгаа төлбөрөөс татгалзсан байна [2].
Энэ бол зөвхөн зааны ясан цамхагийн тухай философийн маргаан биш юм. Энэ бол газар хөдлөлтийн шилжилт, салбарын элитүүдийн увайгүй үйлдлийг олон нийтэд хүлээн зөвшөөрсөн явдал юм. Үнэнийг хэлэхэд, энэ нь хэтэрхий тохиромжтой юм.
AI түр зогсолт: Алтруизм эсвэл Power Play?
Тодруулж хэлье: пуужинг бүтээсэн хүмүүс шүхрээ мартсанаа гэнэт ухаарсан нь харссаны дараа энэ нь ёс суртахууны гүн сэрэх мөч биш юм. Энэ бол хоцрогдсон, өөртөө ашигтай тэмцэл юм. Эдгээр нь өргөн нүдтэй идеалистууд биш юм; Эдгээр нь экспоненциал өсөлт, зах зээлийн ноёрхлыг хөөж, метал руу дөрөө түлхэж байсан титанууд юм. Одоо, "урьдчилан таамаглаагүй үр дагавар" -ын тухай төсөөлөл томорч, магадгүй илүү эелдэгээр хэлбэл, одоогийн хурд нь тогтворгүй, эсвэл тэд тэргүүлэх байр сууриа нэгтгэх шаардлагатай байгааг ухаарсан тул тэд хамтдаа амьсгалахыг уриалж байна.
Зах зээлийн хариу үйлдэл харуулж байна. Чипийн хувьцааны уналт нь зөвхөн айдас биш юм; Энэ нь боломжит удаашралын санхүүгийн шууд үр дагаварын тухай юм. Бээжингийн түлхэлт үү? Үндэсний стратегийн давуу тал нь аюулгүй байдлын хийсвэр санаа зовнилоос давж байгаагийн тод дохио юм. Мөн Сөүлийн чип үйлдвэрлэгчид урьдчилгаа төлбөр төлөхөөс татгалзаж байна уу? Энэ бол гэнэтийн тодорхойгүй ирээдүйн урт хугацааны тогтвортой байдал, ашигт ажиллагаанд эргэлзэж буй хөрөнгийн чимээ юм.
Бидний хувьд техникийн захирал, инженерийн удирдагчид энэ нь эмх замбараагүй байдал руу шууд хөрвүүлдэг. Зохицуулалтын арга хэмжээг хурдасгаж, хиймэл оюун ухааны төслүүдийг дахин эрэмбэлэхийг шаардана. Хиймэл оюун ухаанд зориулсан "хурдан хөдөлж, эвдэх" ёс суртахуун албан ёсоор үхсэн бөгөөд эхний өдрөөсөө бий болох ёстой байсан "Ёс зүйн хиймэл оюун ухааныг хөгжүүлэх" хүрээний эрэл хайгуулаар солигдлоо. Хөрөнгө оруулалт илүү болгоомжтой болж, стратеги өөрчлөгдөнө, тийм ээ, алтны шуурга илүү хэмжсэн, илүү хариуцлагатай хандлага руу шилжиж байгаа тул хөдөлмөрийн зах зээл хүйтнийг мэдрэх болно. Гэхдээ үүнийг цэвэр альтруизм гэж андуурч болохгүй. Энэхүү "түр завсарлага" нь жинхэнэ аюулгүй байдлын тухай юм шиг хяналт, зах зээлийн дахин шалгалт тохируулгатай холбоотой юм.
Титанууд мэтгэлцэж байх хооронд сан сүйрч байна
Одоо хиймэл оюун ухааны элитүүд өөрсдийн оршин тогтнох хямралыг даван туулж, ирээдүйн супер тагнуулын ёс зүйн талаар ярилцаж байх хооронд яг одоо * өрнөж буй аюулгүй байдлын маш бодит, одоо байгаа бөгөөд туйлын гамшигт хямралын талаар ярилцъя.
Энэ долоо хоногт CISA нь Мэдэгдэж буй ашиглалтын эмзэг байдлын каталогид олон шинэ CVE-г нэмсэн [3]. Бид Cisco Secure Email Gateway (CVE-2023-20269) [4]-д батлагдсан root RCE, GitLab (CVE-2023-2825) дахь CVSS 10.0 зам дамжих [3] болон саяхан засвар хийсэн Chrome-ын 0 өдрийн (CVE-482) [3-media]-ийн анхаарал хандуулсан [3-482]-ийн талаар ярьж байна.
Гэхдээ аюулгүй байдлын мэргэжлийн хүн бүрийг хоосон зүйл рүү хашгирах ёстой жинхэнэ сэтгэлийн цохилт бол суурь алдааны байнгын аюул юм. CVE-2021-1647, Microsoft Defender-ийн Malware Protection Engine [5] дахь орон нутгийн давуу эрх нэмэгдүүлэх эмзэг байдлыг авч үзье. Энэ нь тодорхой бус дутагдал байсангүй; Энэ нь олон нийтэд зориулсан "Үзэл баримтлалын нотолгоо"-той бөгөөд зэрлэг байгальд идэвхтэй ашиглагдаж байсан нь манай дижитал хамгаалалтын чухал бүрэлдэхүүн хэсгүүд хэрхэн эвдэрч, хэсэг хугацаанд эмзэг хэвээр байдгийг онцолсон юм.
Бид хиймэл оюун ухаантай байх ёс зүйн талаар хэлэлцэж байх зуур бидний дижитал хамгаалалтын суурь давхарга болох эцсийн цэгүүдийг хамгаалах зорилготой программ хангамж нь халдагч этгээдэд давуу эрх олгох боломжийг олгодог олон нийтэд мэдэгдэж, идэвхтэй ашигладаг дутагдалтай байдгийг харуулсан. Энэ нь таны машины тоормос доголдож, хөдөлгүүр нь шатаж байхад тэнхлэгийн жолоодлогын философийн үр дагаварын талаар маргаж байгаатай адил юм.
Тооцоолол: Нэг зоосны хоёр тал
Эдгээр нь тусдаа түүх биш юм. Эдгээр нь гүн гүнзгий алдаатай зоосны хоёр тал юм: суурь аюулгүй байдал, тогтвортой байдал, хариуцлагаас илүү хурд, шинэлэг байдал, инновацийг хүлээн зөвшөөрдөг технологийн салбар.
Хиймэл оюун ухааны удирдагчдын гэнэтийн удаашруулах уриалга нь хүчирхэг, сайн ойлгогдоогүй системийг зэрлэг байгальд гаргасныхаа дараа *засах зорилготой реактив, өөртөө ашигтай оролдлого юм. "Хурдан хөдөлж, эвдэх" тарни нь дэлхийг өөрчилж болзошгүй технологид хэрэглэхэд хариуцлагагүй төдийгүй аюултай гэдгийг хүлээн зөвшөөрч байна.
Тэг өдрийн довтолгоо, ялангуяа Defender-ийн эгзэгтэй байдал нь мэдээллийн технологийн суурь технологид хэрэглэгдэж буй ийм сэтгэлгээний шууд, зовлонт үр дагавар юм. Энэ нь аюулгүй байдлыг аливаа бүтээгдэхүүн, систем бүрийн салшгүй, тохиролцох боломжгүй бүрэлдэхүүн хэсэг биш харин дараа нь бодож, дагаж мөрдөхийг шалгах хайрцаг эсвэл зардлын төв гэж үздэг соёлын үр дүн юм. Бид дараагийн гялалзсан объект болох дараагийн LLM, дараагийн хиймэл оюун ухааны төлөөлөгчийг хөөх гэж маш завгүй байгаа тул хөл доорх газар ялзарч орхилоо.
CTO болон инженерийн удирдагчдын хувьд мессеж нь шууд бөгөөд шууд байдаг. Таны хангамжийг давсан хиймэл оюун ухааны чиг хандлага бүрийг хөөхөө боль. Үндсэн ойлголтуудыг хоёр дахин бууруул. Ялангуяа Cisco, GitLab зэрэг чухал, идэвхтэй ашигладаг эмзэг байдал болон Defender-ийн өмнөх LPE-ийн жишээнд дурдсан байнгын аюул заналхийллийн хувьд нөхөөсийг эрэмбэлэх. Хүчтэй бууруулах арга хэмжээг хэрэгжүүл. Худалдагчдаасаа зөвхөн онцлог шинж чанараараа бус аюулгүй байдлынхаа төлөө хариуцлага хүлээхийг шаардана уу.
Зах зээлийн уналт, шийдэгдээгүй суурь аюулгүй байдлын асуудлууд нь зөвхөн мэдээ биш юм. Тэд бол тооцоолол юм. Хэт хурдан, хэтэрхий бодлогогүй, эцэст нь хэтэрхий ил гарсан технологийн ертөнц. Өсч, суурийг нь баталгаажуулж, дараа нь зөвхөн дараагийн хил хязгаарыг болгоомжтой авч үзэх цаг болжээ.
Эх сурвалж
[1] Амьдралын ирээдүй институт — Аварга хиймэл оюун ухааны туршилтуудыг түр зогсоох: Нээлттэй захидал — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — хиймэл оюун ухааны мэргэжилтнүүд дэвшилтэт AI системийг хөгжүүлэх ажлыг түр зогсоохыг уриалж байна — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Мэдэгдэж буй ашиглалтын эмзэг байдлын каталог — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance болон Cisco Web Security Appliance-ийн эмзэг байдал — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce- [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Excalation эмзэг байдал — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647