Бидний хана нурж унахтай адил хиймэл оюун ухаант Мессиа ирж байна
Даваа гарагийн өглөөний кофенд зориулсан сэтгэхүйн туршилтыг энд оруулав: Google саяхан кибер аюулгүй байдлын хамгийн сайн хамгаалагч байхаар бүтээгдсэн 1 сая жетон гаралт бүхий "хилийн хиймэл оюун ухаан" Gemini 4 Argon-ыг хаясан [2]. Энэ нь гялалзсан, хэт дэвшилтэт тойрог замын хамгаалалтын платформтой дижитал дүйцэхүйц юм. Үүний зэрэгцээ, боломжит таамаглал: Microsoft Defender, хэрэв таны шилтгээнд хүрэх бат бөх, бага зэрэг зэвэрсэн бол дижитал хаалгатай дүйцэхүйц 0 өдрийн эмзэг байдал, үүнийг 'RoguePlanet' гэж нэрлэе.
Надад хэлээч, аль нь чамайг шөнө унтуулдаг вэ?
AI-ийн эргэн тойронд байгаа бүх хүчтэй сэтгэл хөдлөл, автоматжуулсан аюул илрүүлэх, эмзэг байдлын дүн шинжилгээ хийх амлалтын хувьд бидний үндсэн хамгаалалтууд хүний гараар хийсэн нүхнүүдээр дүүрэн хэвээр байгаа нь тодорхойгүй үнэн юм. Google нь хиймэл оюун ухаанаар ажилладаг кибер-нирванагийн төсөөллийг бидэнд худалдахыг хүсч байгаа ч одоо байгаа байдал нь бидний хөл доорх газар шороон шороо хэвээр байгааг сануулж байна.
Аргоны мөрөөдөл: 1 сая найдварын тэмдэг (эсвэл ихэмсэг үү?)
Тодруулж хэлбэл: Gemini 4 Аргон бол гайхалтай систем юм. 1 сая жетон гаралтын хязгаар нь зөвхөн том буфер биш юм; энэ нь аналитик гүний үндсэн өөрчлөлтийг илэрхийлдэг [3]. Ослын хариу арга хэмжээний бүхэл бүтэн бүртгэл, сүлжээний хөдөлгөөний бүрэн хог хаягдал эсвэл чухал програмын кодын иж бүрэн кодыг хиймэл оюун ухаанд оруулж, хүний шинжээчдийн баг илрүүлэхэд хэдэн долоо хоног шаардагдах нарийн төвөгтэй аюулын векторууд, нарийн гажиг, боломжит мөлжлөгүүдийг нулимна гэж төсөөлөөд үз дээ. Энэ бол амлалт юм.
Google үүнийг зөвхөн Fairwind хөтөлбөрөөр дамжуулан "итгэлтэй кибер аюулгүй байдлын хамгаалагчдад" түгээх шийдвэр гаргасан нь ухаалаг алхам юм. Энэ нь түүхийг хянаж, эхэн үеийнхэнд өмгөөлөгч байх магадлалыг баталгаажуулж, хамгийн чухал нь Google-д хяналттай орчинд үнэлж баршгүй бодит мэдээллийг цуглуулах боломжийг олгодог. Энэ нь зөвхөн бүтээгдэхүүн борлуулах тухай биш юм; Энэ нь Google-ийн удирдлаган дор аж ахуйн нэгжийн аюулгүй байдлын ирээдүйг тодорхойлох тухай юм. Энэ бол зүгээр нэг LLM биш; Энэ бол хиймэл оюун ухаан нь хүчирхэг зэвсэг болох кибер аюулын эсрэг зоригтой мэдэгдэл юм [5].
Гэхдээ эндээс миний эргэлзээ төрж байна. "Итгэмжлэгдсэн хамгаалагчид." "Итгэмжлэгдсэн" гэж хэн тодорхойлох вэ? Энэ нь асар их нөөцтэй, одоо байгаа Google-ийн гэрээтэй томоохон аж ахуйн нэгжүүд үү? Google-ийн Fairwind багтай шууд холбогддоггүй жижиг байгууллагууд, чухал дэд бүтцийн үйлчилгээ үзүүлэгчид нь илүү эмзэг, илүү дэвшилтэт хэрэглүүр хэрэгтэй гэж хэлж болно? Энэхүү сонгомол хувилбар нь бүтээгдэхүүний хөгжүүлэлтийн үүднээс ойлгомжтой боловч хиймэл оюун ухаанаар бэхжүүлсэн элит болон бусад бүх хүмүүс SIEM дохиоллыг гараар шүүж байгаа хоёр шатлалт аюулгүй байдлын орчныг бий болгох эрсдэлтэй.
Мөн төрөлхийн эрсдэлийг мартаж болохгүй. 1 сая жетон гаралт нь хүчтэй боловч хэрэв загвар нь өөрөө өөрчилсөн эсвэл хордлоготой бол энэ нь бас асар том довтолгооны гадаргуу юм. Халдагчид хамгаалалтыг нь алгасах сануулгыг боловсруулж сурах эсвэл сургалтын багцдаа хортой өгөгдөл оруулах үед юу болох вэ? Бид өвсөн дотроос зүү олох зорилготой хиймэл оюун ухааны тухай ярьж байна, гэхдээ өвс өөрөө эвдэрсэн бол яах вэ?
RoguePlanet: Аюулгүй байдлын тачаангуй бодит байдал
Энэхүү гялалзсан ирээдүйгээс эмх замбараагүй одоо руу шилжихдээ Microsoft Defender дээрх бидний таамаглаж буй "RoguePlanet"-ийн эмзэг байдлыг анхаарч үзээрэй. СИСТЕМ-ийн түвшний хандалт. Боломжит хувилбарт идэвхтэй ашигласан. Энэ нь онолын хувьд сул тал биш юм; Энэ нь дэлхий дээрх хамгийн өргөн хэрэглэгддэг төгсгөлийн аюулгүй байдлын шийдлүүдийн нэг дэх цоорхойг төлөөлдөг. Хамгаалагч бол тоо томшгүй олон байгууллагын үндэс суурь, сая сая машинуудын хамгаалалтын эхний шугам юм. Мөн энэ хувилбарт үүнийг зүгээр л тойрч гарсан.
Энэ бол хиймэл оюун ухааны бүтэлгүйтэл биш. Энэ нь үндсэн програм хангамжийн инженерчлэл, нарийн шалгалт, эдгээр чухал системийг барьж, хадгалж буй хүний элементийн алдаа юм. Бид дэвшилтэт хиймэл оюун ухааны ёс суртахууны үр дагавар, шуурхай инженерчлэлийн нарийн ширийн зүйлийн талаар ярилцаж завгүй байхад хэн нэгэн хаалганы түгжээг онгойлгосон тул халдагчид урд хаалгыг зүгээр л нэвтэлж байна.
Шууд нөлөөлөл нь яаралтай тэмцэл юм. Мэдээллийн технологийн администраторууд болон кибер аюулгүй байдлын багууд одоо маш их хүчин чармайлт гаргаж, засваруудыг эрэмбэлэн, буулт хийх үзүүлэлтүүдийг хайж, аль хэдийн өртөөгүй гэж залбирч байна. Энэ бол хиймэл оюун ухааны ямар ч сэтгэлийн хөөрөл бүрхэж чадахгүй кибер аюулгүй байдлын хатуу, өндөр дарамттай бодит байдал юм. Энэ бол нөхөөсийн менежмент, ослын хариу арга хэмжээний сувагт тоглож буй хүний алдаа, хорон санаатай байнгын, шаргуу тэмцэл юм.
Жинхэнэ хил бол зүгээр л хиймэл оюун ухаан биш; Энэ бол Secure Foundations юм
Gemini 4 Argon болон 'RoguePlanet'-ийн хослол нь зүгээр нэг инээдэм биш юм; энэ бол сэтгэл хөдөлгөм сануулга юм. Бид тогтворгүй хэвээр байгаа суурин дээр улам боловсронгуй, хиймэл оюун ухаанаар ажилладаг хамгаалалтын сүмүүдийг барьж байна.
AI, тэр ч байтугай Аргон шиг хязгаарлагдмал хиймэл оюун ухаан нь хэрэгсэл юм. Хүчирхэг, хувиргагч хэрэгсэл нь эргэлзээгүй. Энэ нь хүний чадавхийг нэмэгдүүлж, уйтгартай ажлуудыг автоматжуулж, бидний өмнө нь харж байгаагүй аюулыг илрүүлэх болно. Гэхдээ энэ нь бүх нийтийн шийдэл биш юм. Энэ нь биднийг аюулгүй код бичих, программ хангамжаа сайтар турших, цаг алдалгүй засвар хийх, бат бөх, олон давхаргат хамгаалалтыг хадгалах үүрэг хариуцлагаас чөлөөлөхгүй.
Аюултай нь хиймэл оюун ухааны сэтгэл татам байдал нь аюултай тайвшрах байдлыг бий болгодог. "Өө, Gemini 4 Аргон үүнийг барих болно." Тэгэх болов уу? Эсвэл 'RoguePlanet' түвшний эмзэг байдал ховор байдаг дэлхийд сургаж, улмаар ижил төстэй, үндсэн дутагдлыг хөшүүрэг болгох дараагийн романы мөлжлөгийг алдах уу? AI нь хэв маягийг танихдаа маш сайн, гэхдээ тэг өдөр нь тодорхойлолтоор шинэ хэв маяг юм.
Кибер аюулгүй байдлын жинхэнэ "шинэ хил" нь асуудалд илүү олон хиймэл оюун ухаан нэмж оруулах явдал биш юм. Энэ нь шинэчлэгдсэн, бараг хийсвэр, үндсэн зүйлд анхаарлаа төвлөрүүлэх тухай юм. Энэ нь програм хангамжийн аюулгүй байдлын амьдралын мөчлөг, аюул заналхийллийн цогц загварчлал, эмзэг байдлын тасралтгүй менежмент, аюулгүй байдлыг анхнаас нь чухалчилдаг соёлын тухай юм. Энэ нь хиймэл оюун ухаан нь цаашдын харааг олж харахад тусалж болох ч бидний аль хэдийн алхаж байгаа алдаа дутагдлыг засахгүй гэдгийг ойлгох явдал юм.
Тиймээс, Google тойрог замд хамгаалалтын платформоо эхлүүлэхээр завгүй байхад шилтгээний ханыг бэхжүүлэхээ мартаж болохгүй. Учир нь яг одоо халдагчид хиймэл оюун ухааныг хакердах гэж оролдоогүй байна; Тэд зүгээр л таны гүйцэтгэх захирлын зөөврийн компьютер дээр засвар хийгдээгүй Windows Defender-ийг ашиглаж байна. Найзууд минь, энэ бол эрүүл ахуйн үндсэн дүрэм байхгүй бол ямар ч сая жетоноор шийдэж чадахгүй асуудал юм.
Эх сурвалж
[2] Өнөөдөр, 2026 оны 10-р сарын 1-ний шилдэг технологийн мэдээ: AMD, Broadcom, Google, LG, Meta ... — https://techstartups.com/2026/10/01/top-tech-news-today-october-1-2026-amd-broadcom-google-lg-meta-micron-openai-red [3] Энэ зууны хамгийн том санаа | 2026 оны 10 сарын 3 | The Economist — https://www.economist.com/weeklyedition/2026-10-03 [5] 2026 оны 9-р сард бидний зарласан хиймэл оюун ухааны хамгийн сүүлийн үеийн мэдээ — https://blog.google/innovation-and-ai/technology/ai/google-ai-updates-september-2026/