AGI-ийн үүр цайх, Хамгаалагчийн үдэш: Ирээдүй ирж, цус урсаж байна.
OpenAI саяхан AGI зарласан. Дэлхийн хамгийн нэр хүндтэй хиймэл оюун ухааны лаборатори хүн төрөлхтний оюуны хамгийн том үсрэлт [1] хэмээн шампанскийн бөглөө шидэж байхад, Microsoft Defender дээр олон нийтэд танигдсан, засваргүй, олон сая Windows системүүд чимээгүйхэн урсаж байна. Энэ бол хийсвэр гүн ухааны мэтгэлцээн эсвэл холын аюул биш юм. Энэ бол бидний өнөөгийн бодит байдал: нэгэн зэрэг гайхалтай, үндсэндээ эвдэрсэн ирээдүй.
AGI тунхаглал: Хайп эсвэл Харбингер?
Тодорхой хэлье: OpenAI-ийн Хиймэл Ерөнхий Тагнуулын (AGI) босгыг давсан гэсэн илэрхий мэдэгдэл нь хиймэл оюун ухааны шуугиан дэгдээсэн ээлжит мягмар гараг биш юм. Энэ бол тодорхой бус "бид ахиц дэвшил гаргаж байна" эсвэл жишиг тохируулга биш юм. Энэ бол тэргүүлэгч тоглогчийн өвөрмөц, гайхалтай тунхаг юм [1]. Та тэдэнд итгэж байгаа эсэхээс үл хамааран нэхэмжлэл өөрөө технологийн мэргэжилтэн бүрийн стратегийн ландшафтыг үндсээр нь шинэчлэн тодорхойлдог.
Олон жилийн турш AGI нь домогт араатан, онолын төгсгөлийн цэг байв. Одоо энэ нь хэвлэлийн мэдээ юм. Шууд үр дагавар нь гайхалтай юм. Хэрэв үнэн бол бид одоогийн LLM-ийн чадавхийг абакус арифметик шиг харагдуулах автоматжуулалтын парадигмуудын хурдатгалыг судалж байна. Бие даасан код үүсгэх, өөрийгөө оновчтой болгох дэд бүтэц, тэр ч байтугай хиймэл оюун ухаанд суурилсан стратеги төлөвлөлт хийх боломжуудын талаар бодоод үз дээ. Таны хиймэл оюун ухаанд оруулсан хөрөнгө оруулалт, стратегийн төлөвлөлт, бүтээгдэхүүний бүхэл бүтэн замын зураг - энэ бүхэн нь албадан, нэн даруй дахин үнэлгээ авсан.
Гэхдээ энд нэг асуудал байна: AGI-г саяхан зарласан компани нь одоо байгаа загваруудынхаа ёс зүйн хамгаалалтын хашлага, аюулгүй байдлын үр дагавартай заримдаа тэмцэж байсан компани юм. "Хурдан хөдөлж, аливаа зүйлийг эвдэх" ёс суртахууныг ерөнхий оюун ухааны чадвартай зүйлд хэрэглэвэл зүгээр л эрсдэлтэй байдаггүй; энэ бол бодлогогүй юм. Бид одоо хүчирхэг засаглал, эрсдлийн үнэлгээ, магадгүй хиймэл оюун ухааны аюулгүй байдлын талаарх ойлголтоо бүрэн шинэчлэх зайлшгүй шаардлагатай тулгараад байгаа нь онолын дасгал биш, харин нэн даруй үйл ажиллагааны зайлшгүй шаардлага юм. Бид өөрсдийн багаж хэрэгслийг зохион бүтээх боломжтой хэрэгсэлд бэлэн үү? Бидний төсөөлөөгүй байгаа эмзэг байдлыг тодорхойлж, ашиглаж чаддаг системүүдийн хувьд? Учир нь хэрэв AGI энд байгаа бол эдгээр асуултууд "хэрэв"-ээс "хэзээ" рүү шилжсэн.
ShieldBreak: Засаагүй ангал
Одоо, супер тагнуулын талаархи өндөр үнэлэмжээс манай дижитал сангуудын аймшигтай бодит байдал руу шилжинэ. Бид мэдрэмжтэй шарсан талхчдын ёс зүйн талаар ярилцаж завгүй байхад манай дэд бүтэц шууд, үл тоомсорлон халдлагад өртөж байна. Microsoft Defender-ийн тэг өдөр, 'ShieldBreak' (CVE-2026-69414) нь CVE жагсаалтын өөр нэг оруулга биш юм; Энэ бол олон сая Windows системд цоорсон, засваргүй шарх юм.
Энэ бол "тэг өдрийн цунами" биш бөгөөд үүнийг эрэмбэлээд нөхөх боломжтой. Энэ нь орон нутгийн халдагчдад СИСТЕМ-ийн давуу эрх рүү шилжих боломжийг олгодог олон нийтэд зориулсан үзэл баримтлалын баталгаа (PoC) бүхий тодорхой, идэвхтэй ашигладаг эмзэг байдал юм. Тэгээд өшигч? заалт байхгүй [4]. Энэ баримт дангаараа гайхмаар. CISA-ийн Binding Operational Directive (BOD 26-04) үүнд хамрагдсан бөгөөд энэ нь АНУ-ын засгийн газар үүнийг маш чухал бөгөөд яаралтай аюул гэж үзэж байгаа боловч Майкрософт хэрэглэгчидээ эмзэг байдалд оруулав.
Энэ бол зүгээр нэг “даамжирч буй аюул” биш; Энэ бол шууд үйл ажиллагааны хар дарсан зүүд юм. CISO болон аюулгүй байдлын баг зөвхөн сорилттой тулгараад байгаа юм биш; Тэд боломжгүй сонголттой тулгараад байна: мэдэгдэж байгаа, ашиглаж болох алдаатай ажиллах эсвэл олон нийтийн PoC-ийн эсрэг нарийн төвөгтэй, баталгаажаагүй бууруулах арга хэмжээг хэрэгжүүлэхийг оролдох. Энэ нөхцөл байдал нь худалдагчийн нөхөөсийг хүлээхээс хэтэрсэн яаралтай, идэвхтэй хамгаалалтын стратегийг шаарддаг. Бид эцсийн цэгийн аюулгүй байдлын төлөв байдлыг дахин үнэлэх, илрүүлэх дэвшилтэт дүрмийг хэрэгжүүлэх, тэр байтугай эмзэг системийг тусгаарлах түр зуурын, эрс арга хэмжээг авч үзэх талаар ярьж байна.
Мөн ShieldBreak ганцаараа биш. Apple [2], Cisco [3], Elementor Pro зэрэг бусад томоохон үйлдвэрлэгчдээс идэвхтэй ашиглагдаж буй 0 өдрийн өсөлтийг бид харж байна. Мессеж нь тодорхой байна: муу жүжигчид сайн залуусаас илүү хурдан хөдөлж байгаа бөгөөд манай дижитал ертөнцийн үндсэн аюулгүй байдал нэг удаад нэг нэг удаа засч залруулахгүй сул тал болж байна.
Эвгүй тулгарсан байдал: Бурхадыг бүтээх, цус урсгах
Энд цэгүүд хоорондоо холбогддог, эс тэгвээс тэд хүчтэй мөргөлддөг газар юм. Бид дэлхийн хамгийн нөлөө бүхий технологийн компаниудын нэг нь соёл иргэншлийг өөрчилж чадах нээлтийг зарлаж байгаа бол дэлхийн хамгийн том програм хангамж үйлдвэрлэгчдийн нэг нь аюулгүй байдлын тэргүүлэх бүтээгдэхүүндээ маш чухал, засварлагдаагүй сул талыг үлдээж байна.
Инээдэм нь гүн гүнзгий юм. Бид хувиргах оюун ухааныг эрэлхийлж, хиймэл оюун ухаан нь хүн төрөлхтний хамгийн том сорилтуудыг шийддэг ирээдүйг мөрөөдөж байгаа ч бизнесээ удирдаж буй үйлдлийн системээ хамгаалж чадахгүй байна. Бидний суурь дижитал эрүүл ахуй ийм бүрмөсөн алдагдаж байгаа үед бид AGI-д бэлэн байгаа талаар юу хэлж байна вэ?
Энэ бол зөвхөн техникийн асуудал биш; Энэ нь тэргүүлэх чиглэлүүдийн системчилсэн алдаа юм. Инновацийг тасралтгүй эрэлхийлэх нь ихэвчлэн найдвартай хамгаалалт, хариуцлагатай байршуулалтаас болж аюултай ангал үүсгэдэг. Хэрэв AGI үнэхээр ирж, манай дэд бүтэц засварлаагүй цоорхойгоор дүүрсэн бол хорон санаат этгээд (эсвэл бүр муу удирдлагатай AGI өөрөө) эдгээр сул талуудыг ашиглахад юу саад болж байна вэ? AGI нь 'ShieldBreak' эквивалентыг миллисекундэд олон сая системээр тодорхойлж, ашиглах боломж нь аймшигтай хэтийн төлөв юм.
Одоо яах вэ, CTO?
Философийн мэтгэлцээнүүдийг түр март. Танд яаралтай, яаралтай хийх хоёр ажил байна:
- AGI-ийн хувьд: Заргыг хэтрүүлсэн гэж бүү хэрэгс. Үүнийг стратегийн эргэлтийн цэг гэж үз. Удирдлага, архитекторууд, хууль эрх зүй, ёс зүйн багаа цуглуул. AGI бодит байдалд нийцсэн дэлхийн сценарийн төлөвлөлтийг эхлүүл. Энэ нь ямар шинэ хэрэгслийг идэвхжүүлдэг вэ? Энэ нь одоо байгаа ямар процессуудыг устгадаг вэ? Энэ нь ямар шинэ эрсдэлийг бий болгож байна вэ? Та ерөнхийдөө ухаалаг байж болох зүйлийг хэрхэн удирдах вэ? Энэ бол ирээдүйн асуудал биш; Энэ нь стратегийн төлөвлөлт, хөрөнгө оруулалтын одоо асуудал юм.
- ShieldBreak-ийн хувьд: Энэ бол үйл ажиллагааны яаралтай тусламж юм. Таны хамгаалалтын баг CVE-2026-69414-ийн ашиглалтын шинж тэмдгийг идэвхтэй хайж байх шаардлагатай. Олон нийтийн PoC дээр үндэслэн илрүүлэх дүрмийг хэрэгжүүлэх. Хэдийгээр саад учруулж байгаа ч гэсэн түр зуур бууруулах арга хэмжээг авч үзье. Төгсгөлийн цэгийн аюулгүй байдлын байдлыг бүхэлд нь дахин үнэл. Энэ нь одоо "нөхөөс удирдах" тухай биш юм; Энэ нь заналхийллийн идэвхтэй ан агнуур ба ослын хариу арга хэмжээний тухай юм.
Бид хатуу сонголттой тулгарч байна. Нэг талдаа урьд өмнө хэзээ ч байгаагүй тагнуулын амлалт. Нөгөөтэйгүүр, бидний дижитал хэврэг байдлын хурц бодит байдал. Ирээдүй энд байгаа бөгөөд бид түүний боломжуудыг хариуцлагатай ашиглахаас өмнө одоо байгаа цагаа баталгаажуулахыг шаардаж байна.
Эх сурвалж
[1] 'Бид шугамыг давахад тун ойрхон байна': анхааруулга юм ... — https://www.theguardian.com/technology/2026/sep/05/uncontrollable-ai-artificial-general-intelligence-warnings [2] Apple-ийн аюулгүй байдлын шинэчлэлтүүд - https://support.apple.com/en-us/HT201222 [3] Cisco аюулгүй байдлын зөвлөгөө — https://tools.cisco.com/security/center/publicationListing.x [4] CVE Brief - 2026 оны 9-р сарын 5 — https://cvebrief.com/