Технологийн агуу тооцоо: AI мөрөөдөл нь тэг өдрийн хар дарсан зүүдтэй уулзах үед
Технологийн салбарын анхаарлыг ихэвчлэн өсөн нэмэгдэж буй LLM-ийн шинэчлэлтүүд болон хиймэл оюун ухааныг тойрсон гүн ухааны мэтгэлцээн дээр төвлөрүүлдэг ч бодит байдлыг шалгах ноцтой асуудал өрнөж байна. Энэ бол зүгээр нэг зах зээлийн "засвар" биш; Энэ нь нарийн төвөгтэй аюул занал нь манай дижитал дэд бүтцийг тасралтгүй онилдог тул үнэ цэнэ, үр ашиг, эрсдэлийг системчилсэн байдлаар дахин үнэлэх явдал юм. Зөөлөн буухыг март; Сүүлийн жилүүдэд технологийн салбарын гүн гүнзгий асуудал илчлэв.
Ихэнхдээ үл тоомсорлодог чухал асуудал бол авъяас чадварыг тасралтгүй бууруулах явдал юм. Зөвхөн 2023 онд гэхэд 263,000 гаруй технологийн ажлын байр хасагдсан [1]. Энэ нь зөвхөн стартапуудаар хязгаарлагдахгүй; Google, Amazon, Microsoft, Meta зэрэг томоохон тоглогчид ажиллах хүчээ эрс багасгасан. Энэ нь дан ганц тохиолдлын бус өргөн хүрээтэй, тогтвортой чиг хандлагыг илэрхийлдэг.
AI парадокс: Ямар үнээр үр ашиг вэ?
Өгүүлбэр нь мэдээжийн хэрэг үр дүнтэй байдаг. "Өсөлтийг оновчтой болгох", "үйл ажиллагааг оновчтой болгох", "стратегийн тэргүүлэх чиглэлд нөөцийг дахин хуваарилах" – уншина уу: AI. Хиймэл оюун ухаан нь шинэ ажлын байр бий болгоно гэж бидэнд хэлсэн ч яг одоо энэ нь одоо байгаа газруудыг солих эсвэл ядаж компаниудад бага зардлаар ихийг хийх боломжийг олгож байгаа юм шиг сэжигтэй харагдаж байна. Хиймэл оюун ухаанд тулгуурласан бүтээмжийн амлалт нь ажиллах хүчийг нэмэгдүүлэх замаар бус харин цомхотгох замаар хэрэгжиж байна.
Энэ нь зөвхөн эдийн засгийн мөчлөгийн тухай биш юм. Энэ нь үнэ цэнийг хэрхэн ойлгож, хүргэх үндсэн өөрчлөлт юм. Олон жилийн хэт өсөлт нь дүүрсэн, илүүдэл үүрэг гүйцэтгэж, шатах түвшин тогтворгүй байгааг компаниуд ойлгож байна. Одоо хиймэл оюун ухаан нь код үүсгэхээс эхлээд хэрэглэгчийн дэмжлэг хүртэл бүх зүйлийг автоматжуулна гэж амлаж байгаа тул "шаардлагагүй" эсвэл илүү нарийвчлалтай "автоматчлах боломжтой" гэж тооцогдох эдгээр үүрэгт сүх хамгийн их үүрэг гүйцэтгэдэг.
Инээдэм нь илт харагдаж байна. Хиймэл оюун ухааны судалгаа, ашиглалтад олон тэрбумыг зарцуулж, дараагийн технологийн хязгаарыг эрэлхийлэхийн зэрэгцээ суурь дэд бүтцийг барьж, засварлах үүрэгтэй багийг татан буулгаж байна. Энэ арга нь тогтворгүй суурин дээр нарийн хийцтэй барилга барихтай адил юм.
The Zero-Day Blitzkrieg: Олон фронтын кибер дайн
Мөн сүйрч буй суурийн тухай ярихдаа идэвхтэй ашигласан эмзэг байдлын урьд өмнө байгаагүй өсөлтийн талаар ярилцъя. Энэ бол ерөнхий сэрэмжлүүлэг биш; Энэ бол шууд, олон талт кибер хямрал юм.
Аюулгүй байдлынхаа төлөө магтдаг Apple компани сүүлийн саруудад "маш боловсронгуй халдлагад" ашигласан CVE-2024-23225 гэх мэт олон удаа идэвхтэй ашигласан тэг өдрүүдийг илчилсэн байна [2]. Интернэтийн хаа сайгүй тархсан гарц болох Google Chrome энэ жил л гэхэд 5-р сард дурдсан CVE-2024-4671, CVE-2024-4761 зэрэг олон тооны тэг өдрүүдийг идэвхтэй ашигласан байна [3]. Чухал дутагдлуудын ийм хурдацтай дараалал нь аюулгүй байдлын баг шинээр гарч ирж буй аюул заналхийлэлд байнга хариу үйлдэл үзүүлж байгааг харуулж байна.
Кибер аюулгүй байдал, дэд бүтцийн аюулгүй байдлын агентлаг (CISA) нь өөрийн каталогид ашиглагдаж буй шинэ мэдэгдэж буй сул талуудыг байнга нэмж оруулдаг [4]. Үүнд Zyxel галт ханын алдаа (CVE-2023-28771), "Хятад хэлтэй жүжигчин" ашиглаж 1000 орчим төхөөрөмж эвдэрсэн, F5 BIG-IP RCE (CVE-2023-46747) багтана. CISA нь төрийн дэмжлэгтэй, нарийн төвөгтэй аюулын эсрэг чухал дэд бүтцийг засахын тулд холбооны агентлагуудад засвар хийх богино хугацаатай яаралтай зааварчилгааг байнга гаргадаг. Олон нийтийн нотолгоотой Veeam Backup & Replication (CVE-2023-27532) эмзэг байдлыг мөн идэвхтэй ашиглаж байна [4].
Энэ бол сонирхогчийн хакеруудын ажил биш; Эдгээр нь чухал дэд бүтэц, аж ахуйн нэгжийн систем, эцсийн хэрэглэгчийн төхөөрөмжүүдийг системтэйгээр чиглүүлдэг мэргэжлийн, сайн нөөцтэй дайснууд юм. Тэд илэрсэн даруйдаа эсвэл бүр өмнө нь эмзэг байдлыг ашиглаж байна.
Үл үзэгдэгч холбоо: Бүтэн багууд, цоорхой хамгаалалтууд
Одоо цэгүүдийг холбоно уу. Бид урьд өмнө хэзээ ч байгаагүй олон боловсронгуй, идэвхтэй ашиглаж буй эмзэг байдалтай нүүр тулж байгаа энэ үед дээд хэмжээний цомхотголыг харж байгаа нь тохиолдлын хэрэг мөн үү? Энэ хамаарлыг үл тоомсорлоход хэцүү байдаг.
Дөрөвний нэг сая гаруй ажлын байр цомхотголд орсноор энэ нь зөвхөн "үхсэн жин"-ээс салж байгаа хэрэг биш юм. Энэ нь байгууллагын мэдлэг, аюулгүй байдлын туршлагатай инженерүүд, QA-ын хичээнгүй баг, эдгээр аюулыг илрүүлэх, засварлах, хариу арга хэмжээ авах үүрэгтэй хүмүүсээ алдах гэсэн үг юм. Үлдсэн багууд нарийхан байдаг тул аюулгүй байдлын эрүүл ахуйн шаардлагаас илүү онцлогийн хурдыг чухалчлах шаардлагатай болдог. Энэ нь "хурдан хөдөлж, юмсыг эвдэх" тарни нь чухал системийг ил гаргах эрсдэлтэй орчинг бүрдүүлдэг.
AI-д суурилсан үр ашгийг эрэлхийлэх нь онолын хувьд ашигтай ч аюултай тэнцвэргүй байдлыг бий болгож байна. Бид бүх зүйлд тулгуурласан хүний нөөц, аюулгүй байдлын найдвартай байдлыг үл тоомсорлож, гарцыг оновчтой болгож байна. Авьяаслаг зах зээл ерөнхий мэргэжилтнүүдийн хувьд чангарч байгаа ч аюулгүй байдлын өндөр мэргэшсэн мэргэжилтнүүд, ослын хариуцагч, заналхийллийн анчдын эрэлт маш өндөр хэвээр байна. Гэсэн хэдий ч компаниуд эдгээр чухал үүрэг ролд үнэхээр хөрөнгө оруулалт хийж байна уу, эсвэл хиймэл оюун ухааны шинэ хэрэгслүүд нь тэдний аюулгүй байдлын сорилтыг ид шидээр шийднэ гэж найдаж байна уу? Сүүлийнх нь бодит бус хүлээлт юм.
Прагматизмд уриалж байна
CTO болон инженерийн удирдагчдын хувьд энэ нь зүгээр нэг хайхрамжгүй мэдээ биш юм. Энэ бол анивчсан улаан гэрэл юм.
- "Үр ашигтай" тоглолтуудаа дахин үнэл: Ажлаас халах стратеги чинь таныг үнэхээр илүү уян хатан болгож байна уу, эсвэл та бүтэлгүйтлийн ганц цэг, аюулгүй байдлын цоорхойг үүсгэж байна уу? Зөрчлийн зардал нь цөөн тооны цомхотголын хэмнэлтээс хамаагүй илүү байна.
- Жинхэнэ амлалтаар аюулгүй байдлыг нэн тэргүүнд тавих: Нөхөн засварлах, ослын үед найдвартай хариу арга хэмжээ авах, аюул заналхийллийг идэвхтэй агнах зэрэг аюулгүй байдлын чухал дадлага нь нэмэлт тансаг хэрэглээ биш юм; тэдгээр нь оршин тогтнох шаардлага юм. Хэрэв CISA гурван өдрийн засварын эцсийн хугацааг гаргасан бол таны системүүд аль эрт хамгаалагдсан байх ёстой.
- Хүмүүсдээ хөрөнгө оруулалт хий: Аюулгүй байдал, дэд бүтцийн дээд түвшний инженерүүдийн авъяаслаг зах зээл улам л халуун болж байна. Тэднийг хадгалж, сургаж, хүчирхэгжүүл. Хэрэв таны үндсэн систем эвдэрсэн бол таны AI стратеги ашиггүй болно.
- Үйлдвэрлэгчдээс илүү сайн эрэлт хэрэгцээ: Apple, Google, F5, Zyxel – эдгээр нь ойлгомжгүй тоглогчид биш юм. Тэдний эмзэг байдал сая сая хүмүүст нөлөөлдөг. Илүү найдвартай дизайнтай бүтээгдэхүүн, илүү хурдан, ил тод нөхөөсийг авахыг хичээ.
Технологийн салбар маш чухал үе шатанд байна. Манай дижитал суурь нь элэгдэж, системүүд маань идэвхтэй мөлжлөгт тулгарсан байхад бид хиймэл оюун ухаанд суурилсан үр ашгийг үргэлжлүүлж, амлалтад нь харалган байж чадна. Өөрөөр хэлбэл, бид тогтвортой байдал, бат бөх аюулгүй байдал, дижитал ертөнцийг жинхэнэ утгаар нь бүтээж, хамгаалж буй хүний зайлшгүй мэдлэг чадварыг дахин эрэмбэлж, эдгээр системийн асуудлуудыг шууд даван туулж чадна. Сонголт, түүний гүн гүнзгий үр дагаврыг бид хариуцах ёстой.
Эх сурвалж
[1] Layoffs.fyi — https://layoffs.fyi/ [2] Apple-ийн аюулгүй байдлын шинэчлэлтүүд - https://support.apple.com/en-us/HT214080 [3] Google Chrome хувилбарууд — https://chromereleases.googleblog.com/2024/05/stable-channel-update-for-desktop_13.html [4] CISA Мэдэгдэж байгаа ашиглалтын эмзэг байдлын каталог — https://www.cisa.gov/known-exploited-vulnerabilities-catalog