ການຄິດເລກເທັກໂນໂລຍີທີ່ຍິ່ງໃຫຍ່: ເມື່ອຄວາມຝັນ AI ພົບກັບຄວາມຝັນຮ້າຍຂອງມື້ສູນ
ໃນຂະນະທີ່ຄວາມສົນໃຈຂອງອຸດສາຫະກໍາເຕັກໂນໂລຢີມັກຈະແກ້ໄຂການປັບປຸງ LLM ເພີ່ມຂຶ້ນແລະການໂຕ້ວາທີ philosophical ປະມານ AI, ການກວດສອບຄວາມເປັນຈິງແລ້ວແມ່ນເປີດເຜີຍ. ນີ້ບໍ່ແມ່ນພຽງແຕ່ຕະຫຼາດ "ການແກ້ໄຂ"; ມັນເປັນການປະເມີນຄືນລະບົບຂອງມູນຄ່າ, ປະສິດທິພາບ, ແລະຄວາມສ່ຽງ, ເກີດຂຶ້ນເປັນໄພຂົ່ມຂູ່ທີ່ຊັບຊ້ອນໄດ້ຕັ້ງເປົ້າໝາຍພື້ນຖານໂຄງລ່າງດິຈິຕອນຂອງພວກເຮົາຢ່າງບໍ່ຢຸດຢັ້ງ. ລືມທີ່ດິນອ່ອນ; ຊຸມປີມໍ່ໆມານີ້ໄດ້ເປີດເຜີຍບັນຫາທີ່ເລິກເຊິ່ງຢູ່ໃນຂະແຫນງເຕັກໂນໂລຢີ.
ບັນຫາທີ່ສໍາຄັນທີ່ມັກຈະຖືກມອງຂ້າມແມ່ນການຫຼຸດລົງຂອງພອນສະຫວັນທີ່ບໍ່ຢຸດຢັ້ງ. ໃນປີ 2023 ຢ່າງດຽວ, ຫຼາຍກວ່າ 263,000 ວຽກເຕັກໂນໂລຢີໄດ້ຖືກລົບລ້າງ [1]. ອັນນີ້ບໍ່ໄດ້ຖືກຈຳກັດໄວ້ກັບການເລີ່ມຕົ້ນທີ່ປະສົບບັນຫາ; ຜູ້ນທີ່ສໍາຄັນເຊັ່ນ Google, Amazon, Microsoft, ແລະ Meta ທັງຫມົດໄດ້ຫຼຸດລົງຢ່າງຫຼວງຫຼາຍຂອງກໍາລັງແຮງງານຂອງເຂົາເຈົ້າ. ອັນນີ້ສະແດງເຖິງທ່າອ່ຽງທີ່ກວ້າງຂວາງ, ຍືນຍົງ, ບໍ່ແມ່ນເຫດການໂດດດ່ຽວ.
The AI Paradox: ປະສິດທິພາບຄ່າໃຊ້ຈ່າຍເທົ່າໃດ?
ການເທື່ອເນື່ອງຈາກ, ແນ່ນອນ, ແມ່ນປະສິດທິພາບ. "ການເພີ່ມປະສິດທິພາບສໍາລັບການເຕີບໂຕ," "ການດໍາເນີນການປັບປຸງ," "ການຈັດສັນຊັບພະຍາກອນໃຫ້ກັບຄວາມສໍາຄັນຍຸດທະສາດ" - ອ່ານ: AI. ພວກເຮົາໄດ້ຖືກບອກວ່າ AI ຈະສ້າງວຽກໃຫມ່, ແຕ່ໃນປັດຈຸບັນ, ມັນເບິ່ງຄືວ່າມັນມີຄວາມສົງໃສວ່າມັນເປັນ * ທົດແທນ * ທີ່ມີຢູ່ແລ້ວ, ຫຼືຢ່າງຫນ້ອຍເຮັດໃຫ້ບໍລິສັດສາມາດເຮັດຫຼາຍຫນ້ອຍລົງ. ຄໍາສັນຍາຂອງການຜະລິດທີ່ຂັບເຄື່ອນໂດຍ AI ກໍາລັງຖືກສົ່ງ, ບໍ່ແມ່ນໂດຍການຂະຫຍາຍກໍາລັງແຮງງານ, ແຕ່ໂດຍການຫົດຕົວມັນ.
ນີ້ບໍ່ແມ່ນພຽງແຕ່ກ່ຽວກັບວົງຈອນເສດຖະກິດ. ນີ້ແມ່ນການປ່ຽນແປງພື້ນຖານໃນວິທີການຮັບຮູ້ມູນຄ່າແລະການສົ່ງມອບ. ບໍລິສັດກໍາລັງຮັບຮູ້ວ່າປີຂອງການຂະຫຍາຍຕົວ hyper- ນໍາໄປສູ່ການ bloat, ພາລະບົດບາດຊ້ໍາຊ້ອນ, ແລະອັດຕາການບາດແຜທີ່ບໍ່ຍືນຍົງ. ໃນປັດຈຸບັນ, ດ້ວຍ AI ສັນຍາວ່າຈະອັດຕະໂນມັດທຸກຢ່າງຈາກການສ້າງລະຫັດເຖິງການສະຫນັບສະຫນູນລູກຄ້າ, ຕັດທອນລາຍຈ່າຍຕົກຫນັກທີ່ສຸດໃນບົດບາດເຫຼົ່ານັ້ນທີ່ຖືວ່າ "ບໍ່ສໍາຄັນ" ຫຼື, ຖືກຕ້ອງກວ່າ, "ອັດຕະໂນມັດ."
irony ແມ່ນ palpable. ຫລາຍພັນລ້ານກໍາລັງຖືກຖອກເທເຂົ້າໄປໃນການຄົ້ນຄວ້າແລະການນໍາໃຊ້ AI, ດໍາເນີນການຕາມຊາຍແດນທາງເຕັກໂນໂລຢີຕໍ່ໄປ, ໃນຂະນະທີ່ພ້ອມກັນທໍາລາຍທີມງານທີ່ຮັບຜິດຊອບໃນການສ້າງແລະຮັກສາໂຄງສ້າງພື້ນຖານ. ວິທີການນີ້ຄ້າຍຄືກັບການກໍ່ສ້າງອາຄານທີ່ລະອຽດອ່ອນຢູ່ເທິງພື້ນຖານທີ່ບໍ່ຫມັ້ນຄົງ.
The Zero-Day Blitzkrieg: ສົງຄາມໄຊເບີຫຼາຍດ້ານ
ແລະເວົ້າກ່ຽວກັບພື້ນຖານທີ່ແຕກຫັກ, ໃຫ້ເວົ້າກ່ຽວກັບການເພີ່ມຂື້ນທີ່ບໍ່ເຄີຍມີມາກ່ອນໃນຊ່ອງໂຫວ່ທີ່ຖືກຂູດຮີດຢ່າງຫ້າວຫັນ. ນີ້ບໍ່ແມ່ນການເຕືອນທົ່ວໄປ; ມັນເປັນວິກິດການທາງອິນເຕີເນັດຫຼາຍດ້ານໃນທັນທີທັນໃດ.
Apple, ມັກຈະຖືກຍົກຍ້ອງສໍາລັບຄວາມປອດໄພຂອງຕົນ, ໄດ້ເປີດເຜີຍຫຼາຍມື້ທີ່ມີການນໍາໃຊ້ຢ່າງຫ້າວຫັນໃນເດືອນທີ່ຜ່ານມາ, ເຊັ່ນ CVE-2024-23225, ຖືກນໍາໃຊ້ໃນ "ການໂຈມຕີທີ່ຊັບຊ້ອນທີ່ສຸດ" [2]. Google Chrome, ປະຕູທາງອິນເຕີເນັດຂອງທົ່ວທຸກແຫ່ງ, ໄດ້ເຫັນການຂູດຮີດຢ່າງຫ້າວຫັນຫຼາຍມື້ໃນປີນີ້ຢ່າງດຽວ, ລວມທັງ CVE-2024-4671 ແລະ CVE-2024-4761, ທັງສອງໄດ້ກ່າວເຖິງໃນເດືອນພຶດສະພາ [3]. ການສືບທອດກັນຢ່າງໄວວາຂອງຂໍ້ບົກພ່ອງທີ່ສຳຄັນນີ້ຊີ້ບອກໃຫ້ທີມງານຮັກສາຄວາມປອດໄພມີປະຕິກິລິຍາຢ່າງຕໍ່ເນື່ອງຕໍ່ກັບໄພຂົ່ມຂູ່ທີ່ເກີດຂື້ນ.
ອົງການຄວາມປອດໄພທາງໄຊເບີ ແລະໂຄງສ້າງພື້ນຖານ (CISA) ໄດ້ເພີ່ມຊ່ອງໂຫວ່ທີ່ຖືກຂູດຮີດໃໝ່ທີ່ຮູ້ກັນຢ່າງຕໍ່ເນື່ອງໃສ່ລາຍການ [4]. ເຫຼົ່ານີ້ລວມມີຂໍ້ບົກພ່ອງຂອງ Zyxel firewall (CVE-2023-28771), ຂູດຮີດໂດຍ "ນັກສະແດງທີ່ເວົ້າພາສາຈີນ" ເພື່ອປະນີປະນອມເກືອບ 1,000 ອຸປະກອນ, ແລະ F5 BIG-IP RCE (CVE-2023-46747). CISA ມັກຈະອອກຄໍາແນະນໍາອັນຮີບດ່ວນ, ມັກຈະມີກໍານົດເວລາການແກ້ໄຂສັ້ນ, ສໍາລັບອົງການຂອງລັດຖະບານກາງເພື່ອແກ້ໄຂໂຄງສ້າງພື້ນຖານທີ່ສໍາຄັນຕໍ່ກັບໄພຂົ່ມຂູ່ທີ່ຊັບຊ້ອນຂອງລັດ. ຄວາມອ່ອນແອຂອງ Veeam Backup & Replication (CVE-2023-27532) ທີ່ມີຫຼັກຖານສະແດງແນວຄິດສາທາລະນະໄດ້ຖືກຂູດຮີດຢ່າງຈິງຈັງ [4].
ນີ້ບໍ່ແມ່ນການເຮັດວຽກຂອງແຮກເກີນັກສມັກເລ່ນ; ເຫຼົ່ານີ້ແມ່ນເປັນມືອາຊີບ, ມີຊັບພະຍາກອນທີ່ດີທີ່ປະຕິບັດຢ່າງເປັນລະບົບເປົ້າຫມາຍໂຄງລ່າງພື້ນຖານທີ່ສໍາຄັນ, ລະບົບວິສາຫະກິດ, ແລະອຸປະກອນຜູ້ໃຊ້ສຸດທ້າຍ. ພວກເຂົາກໍາລັງຂູດຮີດຊ່ອງໂຫວ່ໃນເວລາທີ່ພວກເຂົາຖືກຄົ້ນພົບ, ຫຼືແມ່ນແຕ່ກ່ອນ.
ການເຊື່ອມຕໍ່ທີ່ເບິ່ງບໍ່ເຫັນ: ທີມງານ Lean, Leaky Defenses
ໃນປັດຈຸບັນ, ເຊື່ອມຕໍ່ຈຸດ. ມັນເປັນເລື່ອງບັງເອີນທີ່ພວກເຮົາກໍາລັງເຫັນການປົດຕໍາແຫນ່ງບັນທຶກໃນເວລາດຽວກັນທີ່ພວກເຮົາກໍາລັງປະເຊີນກັບຈໍານວນທີ່ບໍ່ເຄີຍມີມາກ່ອນຂອງຊ່ອງໂຫວ່ທີ່ຊັບຊ້ອນ, ຖືກຂູດຮີດຢ່າງຫ້າວຫັນ? ການພົວພັນນີ້ແມ່ນຍາກທີ່ຈະບໍ່ສົນໃຈ.
ເມື່ອຫຼາຍກວ່າຫນຶ່ງສ່ວນສີ່ລ້ານວຽກຖືກຕັດ, ມັນບໍ່ແມ່ນພຽງແຕ່ "ນ້ໍາຫນັກຕາຍ" ທີ່ຖືກຫຼົ່ນລົງ. ມັນຫມາຍຄວາມວ່າການສູນເສຍຄວາມຮູ້ຂອງສະຖາບັນ, ວິສະວະກອນຄວາມປອດໄພທີ່ມີປະສົບການ, ທີມງານ QA ທີ່ດຸຫມັ່ນ, ແລະບຸກຄົນທີ່ຮັບຜິດຊອບສໍາລັບການກໍານົດ, patching, ແລະການຕອບສະຫນອງຕໍ່ໄພຂົ່ມຂູ່ເຫຼົ່ານີ້. ທີມງານທີ່ຍັງເຫຼືອແມ່ນຂ້ອນຂ້າງຍາວ, ມັກຈະບັງຄັບໃຫ້ບູລິມະສິດຄວາມໄວຂອງຄຸນສົມບັດຫຼາຍກວ່າການອະນາໄມຄວາມປອດໄພທີ່ສໍາຄັນ. ນີ້ສ້າງສະພາບແວດລ້ອມທີ່ mantra "ເຄື່ອນທີ່ໄວແລະທໍາລາຍສິ່ງຕ່າງໆ" ໃນປັດຈຸບັນມີຄວາມສ່ຽງເຮັດໃຫ້ລະບົບທີ່ສໍາຄັນເປີດເຜີຍ.
ການສະແຫວງຫາປະສິດທິພາບທີ່ຂັບເຄື່ອນດ້ວຍ AI, ໃນຂະນະທີ່ມີຜົນປະໂຫຍດທາງທິດສະດີ, ແມ່ນການສ້າງຄວາມບໍ່ສົມດຸນທີ່ເປັນອັນຕະລາຍ. ພວກເຮົາກໍາລັງເພີ່ມປະສິດທິພາບສໍາລັບຜົນຜະລິດໃນຂະນະທີ່ລະເລີຍຊັບພະຍາກອນມະນຸດແລະທ່າທາງຄວາມປອດໄພທີ່ເຂັ້ມແຂງທີ່ສະຫນັບສະຫນູນທຸກສິ່ງທຸກຢ່າງ. ໃນຂະນະທີ່ຕະຫຼາດພອນສະຫວັນອາດຈະເຄັ່ງຕຶງສໍາລັບນັກທົ່ວໄປ, ຄວາມຕ້ອງການສໍາລັບຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພພິເສດ, ຜູ້ຕອບໂຕ້ເຫດການ, ແລະນັກລ່າໄພຂົ່ມຂູ່ຍັງຄົງສູງຫຼາຍ. ຢ່າງໃດກໍຕາມ, ບໍລິສັດກໍາລັງລົງທຶນຢ່າງແທ້ຈິງໃນບົດບາດທີ່ສໍາຄັນເຫຼົ່ານີ້, ຫຼືພວກເຂົາພຽງແຕ່ຫວັງວ່າເຄື່ອງມື AI ໃຫມ່ຂອງພວກເຂົາຈະແກ້ໄຂສິ່ງທ້າທາຍດ້ານຄວາມປອດໄພຂອງພວກເຂົາຢ່າງມະຫັດສະຈັນບໍ? ອັນສຸດທ້າຍແມ່ນຄວາມຄາດຫວັງທີ່ບໍ່ເປັນຈິງ.
ໂທຫາ Pragmatism
ສໍາລັບ CTOs ແລະຫົວຫນ້າວິສະວະກໍາ, ນີ້ບໍ່ແມ່ນພຽງແຕ່ຂ່າວທີ່ຈະຂ້າມໄປ. ນີ້ແມ່ນໄຟສີແດງກະພິບ.
- ** ປະເມີນການຫຼິ້ນ "ປະສິດທິພາບ" ຂອງເຈົ້າຄືນໃໝ່:** ຍຸດທະສາດການຢຸດພັກຂອງເຈົ້າເຮັດໃຫ້ເຈົ້າມີຄວາມຢືດຢຸ່ນແທ້ໆບໍ, ຫຼືເຈົ້າສ້າງຈຸດດຽວຂອງຄວາມລົ້ມເຫຼວ ແລະ ຊ່ອງຫວ່າງຄວາມປອດໄພບໍ? ຄ່າໃຊ້ຈ່າຍຂອງການລະເມີດຢູ່ໄກເກີນກວ່າການປະຢັດຈາກການຫຼຸດຜ່ອນ headcount ບໍ່ຫຼາຍປານໃດ.
- ** ບູລິມະສິດຄວາມປອດໄພດ້ວຍຄຳໝັ້ນສັນຍາທີ່ແທ້ຈິງ:** ການປະຕິບັດຄວາມປອດໄພທີ່ສຳຄັນເຊັ່ນ: ການປັກໝຸດ, ການຕອບໂຕ້ເຫດການທີ່ແຂງແຮງ, ແລະການລ່າສັດໄພຂົ່ມຂູ່ຢ່າງຕັ້ງໜ້າບໍ່ແມ່ນຄວາມຟຸ່ມເຟືອຍທາງເລືອກ; ພວກມັນແມ່ນຄວາມຕ້ອງການທີ່ມີຢູ່ແລ້ວ. ຖ້າ CISA ອອກກໍານົດເວລາການແກ້ໄຂສາມມື້, ລະບົບຂອງທ່ານຄວນໄດ້ຮັບຄວາມປອດໄພດົນນານກ່ອນ.
- ລົງທຶນໃນຄົນຂອງເຈົ້າ: ຕະຫຼາດພອນສະຫວັນດ້ານຄວາມປອດໄພ ແລະ ວິສະວະກອນພື້ນຖານໂຄງລ່າງຊັ້ນສູງແມ່ນເລີ່ມຮ້ອນຂຶ້ນ. ຮັກສາໃຫ້ເຂົາເຈົ້າ, ຝຶກອົບຮົມໃຫ້ເຂົາເຈົ້າ, ສ້າງຄວາມເຂັ້ມແຂງໃຫ້ເຂົາເຈົ້າ. ຍຸດທະສາດ AI ຂອງເຈົ້າບໍ່ມີປະໂຫຍດຫຍັງຖ້າລະບົບຫຼັກຂອງເຈົ້າຖືກທໍາລາຍ.
- ຄວາມຕ້ອງການທີ່ດີກວ່າຈາກຜູ້ຂາຍ: Apple, Google, F5, Zyxel – ເຫຼົ່ານີ້ບໍ່ແມ່ນເຄື່ອງຫຼິ້ນທີ່ບໍ່ຊັດເຈນ. ຄວາມອ່ອນແອຂອງພວກເຂົາມີຜົນກະທົບຫຼາຍລ້ານຄົນ. ຊຸກຍູ້ໃຫ້ມີຜະລິດຕະພັນທີ່ມີການອອກແບບທີ່ປອດໄພກວ່າ ແລະໄວຂຶ້ນ, ມີຄວາມໂປ່ງໃສຫຼາຍຂຶ້ນ.
ອຸດສາຫະກໍາເຕັກໂນໂລຢີຢືນຢູ່ໃນຈຸດເຊື່ອມຕໍ່ທີ່ສໍາຄັນ. ພວກເຮົາສາມາດສືບຕໍ່ດໍາເນີນການປະສິດທິພາບທີ່ຂັບເຄື່ອນ AI, ອາດຈະຕາບອດໂດຍຄໍາຫມັ້ນສັນຍາຂອງຕົນ, ໃນຂະນະທີ່ພື້ນຖານດິຈິຕອນຂອງພວກເຮົາລະລາຍແລະລະບົບຂອງພວກເຮົາປະເຊີນກັບການຂຸດຄົ້ນຢ່າງຫ້າວຫັນ. ອີກທາງເລືອກ, ພວກເຮົາສາມາດປະເຊີນກັບບັນຫາລະບົບເຫຼົ່ານີ້ໂດຍກົງ, ການຈັດລໍາດັບຄວາມສໍາຄັນຄືນໃຫມ່ຂອງສະຖຽນລະພາບ, ຄວາມປອດໄພທີ່ເຂັ້ມແຂງ, ແລະຄວາມຊໍານານຂອງມະນຸດທີ່ຂາດບໍ່ໄດ້ທີ່ສ້າງແລະປົກປ້ອງໂລກດິຈິຕອນຂອງພວກເຮົາຢ່າງແທ້ຈິງ. ການເລືອກ, ແລະຜົນສະທ້ອນອັນເລິກຊຶ້ງຂອງມັນ, ແມ່ນພວກເຮົາຕ້ອງຮັບຜິດຊອບ.
ແຫຼ່ງຂໍ້ມູນ
[1] Layoffs.fyi — https://layoffs.fyi/ [2] Apple Security Updates — https://support.apple.com/en-us/HT214080 [3] ການປ່ອຍ Google Chrome — https://chromereleases.googleblog.com/2024/05/stable-channel-update-for-desktop_13.html [4] CISA Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog