AI ໃຫມ່ຂອງ Emperor, ແລະພື້ນຖານ Rotting ພາຍໃຕ້ມັນ
ຈື່ເວລາທີ່ AI ຈະຊ່ວຍປະຢັດພວກເຮົາທັງຫມົດບໍ? ປະກົດວ່າ, ດຽວນີ້ຜູ້ຊ່ອຍໃຫ້ລອດກຳລັງຂໍເວລາໝົດເວລາ. ບໍ່ດົນມານີ້, ສະຖາປະນິກຂອງອະນາຄົດທີ່ຂັບເຄື່ອນດ້ວຍ AI ຂອງພວກເຮົາ - ນັກຄົ້ນຄວ້າ "ຊາຍແດນ" ແລະທາງດ້ານການເງິນທີ່ຫນັກແຫນ້ນ - ໄດ້ຕີເບກ, ຮຽກຮ້ອງໃຫ້ມີການຊັກຊ້າໃນການພັດທະນາຍ້ອນ "ຄວາມກັງວົນກ່ຽວກັບຄວາມປອດໄພເພີ່ມຂຶ້ນ" [1]. ຕະຫຼາດ, ເຄີຍເປັນເຄື່ອງມືທີ່ບໍ່ກົງກັນ, ຕອບສະໜອງໂດຍການໄອເປັນປອດ: ຮຸ້ນຊິບ ແລະເຄື່ອງຫຼິ້ນ AI ຫຼັກໆໄດ້ລົ້ມລົງ [2]. ປັກກິ່ງ, ຄາດຄະເນ, ເຍາະເຍີ້ຍຕໍ່ຄໍາເຕືອນ, ໃນຂະນະທີ່ຍັກໃຫຍ່ຂອງຊິບໂຊນ balked ໃນການຈ່າຍເງິນລ່ວງຫນ້າສໍາລັບຄວາມກ້າວຫນ້າຂອງ AI ໃນອະນາຄົດ [2].
ນີ້ບໍ່ແມ່ນພຽງແຕ່ການໂຕ້ວາທີ philosophical ສໍາລັບ tower ງາຊ້າງ. ນີ້ແມ່ນການປ່ຽນແປງຂອງແຜ່ນດິນໄຫວ, ເປັນການຍອມຮັບຂອງສາທາລະນະຂອງແບບຊະຊາຍຈາກພາຍໃນ elite ຂອງອຸດສາຫະກໍາ. ແລະເວົ້າກົງໄປກົງມາ, ມັນສະດວກເກີນໄປເລັກນ້ອຍ.
ການຢຸດ AI: Altruism ຫຼື Power Play?
ຂໍໃຫ້ຈະແຈ້ງ: ໃນເວລາທີ່ປະຊາຊົນຜູ້ທີ່ສ້າງບັ້ງໄຟທັນທີທັນໃດຮັບຮູ້ວ່າພວກເຂົາເຈົ້າລືມ parachutes * ຫຼັງຈາກ * ການເປີດຕົວ, ມັນບໍ່ແມ່ນຊ່ວງເວລາຂອງການປຸກດ້ານຈັນຍາບັນທີ່ເລິກເຊິ່ງ. ມັນເປັນການເລື່ອນເວລາ, ຮັບໃຊ້ຕົນເອງ ເຫຼົ່ານີ້ບໍ່ແມ່ນອຸດົມການຕາກວ້າງ; ເຫຼົ່ານີ້ແມ່ນ titans ທີ່ໄດ້ຮັບການຍູ້ pedal ກັບໂລຫະ, chasing ການຂະຫຍາຍຕົວ exponential ແລະການຄອບຄອງຕະຫຼາດ. ໃນປັດຈຸບັນ, ດ້ວຍຄວາມປະທັບໃຈຂອງ "ຜົນສະທ້ອນທີ່ຄາດບໍ່ເຖິງ" ກໍາລັງປະກົດຕົວຂະຫນາດໃຫຍ່ - ແລະບາງທີ, ໃນທາງທີ່ຂີ້ຮ້າຍກວ່າ, ການຮັບຮູ້ວ່າຈັງຫວະໃນປະຈຸບັນແມ່ນບໍ່ຍືນຍົງຫຼືພວກເຂົາຕ້ອງການລວມເອົາການນໍາພາຂອງພວກເຂົາ - ພວກເຂົາກໍາລັງຮຽກຮ້ອງໃຫ້ລົມຫາຍໃຈລວມ.
ປະຕິກິລິຍາຂອງຕະຫຼາດແມ່ນບອກ. ການຫຼຸດລົງໃນຫຼັກຊັບ chip ບໍ່ພຽງແຕ່ກ່ຽວກັບຄວາມຢ້ານກົວ; ມັນກ່ຽວກັບຜົນກະທົບທາງດ້ານການເງິນທັນທີທັນໃດຂອງການຊ້າລົງທີ່ເປັນໄປໄດ້. ການຊຸກຍູ້ຂອງປັກກິ່ງ? ສັນຍານທີ່ຈະແຈ້ງວ່າຄວາມໄດ້ປຽບຍຸດທະສາດແຫ່ງຊາດ trumps ຄວາມກັງວົນກ່ຽວກັບຄວາມປອດໄພທີ່ບໍ່ມີຕົວຕົນ. ແລະຜູ້ຜະລິດຊິບຂອງກຸງໂຊລປະຕິເສດການຈ່າຍເງິນລ່ວງຫນ້າບໍ? ນັ້ນແມ່ນສຽງຂອງທຶນທີ່ຕັ້ງຄໍາຖາມເຖິງຄວາມຫມັ້ນຄົງໃນໄລຍະຍາວແລະກໍາໄລຂອງອະນາຄົດທີ່ບໍ່ແນ່ນອນຢ່າງກະທັນຫັນ.
ສໍາລັບພວກເຮົາ, CTOs ແລະວິສະວະກໍານໍາພາ, ນີ້ແປໂດຍກົງເຂົ້າໄປໃນພູມສັນຖານ chaotic. ຄາດວ່າການແຊກແຊງດ້ານລະບຽບການຈະເລັ່ງລັດ, ບັງຄັບໃຫ້ຈັດຕັ້ງບູລິມະສິດຄືນໃໝ່ຂອງໂຄງການ AI. ຈັນຍາບັນ "ເຄື່ອນທີ່ໄວແລະທໍາລາຍສິ່ງຕ່າງໆ" ສໍາລັບ AI ແມ່ນຕາຍຢ່າງເປັນທາງການ, ແທນທີ່ດ້ວຍການຄົ້ນຫາທີ່ຫນ້າຢ້ານສໍາລັບ "ການພັດທະນາດ້ານຈັນຍາບັນ AI" ທີ່ຄວນຈະໄດ້ຮັບການອົບຈາກມື້ຫນຶ່ງ. ການລົງທຶນຈະກາຍເປັນຄວາມລະມັດລະວັງຫຼາຍຂຶ້ນ, ຍຸດທະສາດຈະ pivot, ແລະແມ່ນແລ້ວ, ຕະຫຼາດວຽກຈະມີຄວາມຮູ້ສຶກເຢັນລົງຍ້ອນວ່າການເລັ່ງທອງເຮັດໃຫ້ວິທີການວັດແທກຫຼາຍຂຶ້ນ, ແລະຫວັງວ່າ, ມີຄວາມຮັບຜິດຊອບຫຼາຍຂຶ້ນ. ແຕ່ບໍ່ໃຫ້ຜິດພາດນີ້ສໍາລັບ altruism ບໍລິສຸດ. "ການຢຸດ" ນີ້ແມ່ນຫຼາຍກ່ຽວກັບການຄວບຄຸມແລະການປັບຕະຫຼາດຄືນໃຫມ່ຍ້ອນວ່າມັນແມ່ນກ່ຽວກັບຄວາມປອດໄພທີ່ແທ້ຈິງ.
ໃນຂະນະທີ່ການໂຕ້ວາທີ Titans, ມູນນິທິ Crumbles
ໃນປັດຈຸບັນ, ໃນຂະນະທີ່ພວກ AI elite ກໍາລັງມີວິກິດການທີ່ມີຢູ່ແລ້ວຂອງເຂົາເຈົ້າ, ການໂຕ້ວາທີກ່ຽວກັບຈັນຍາບັນຂອງ superintelligence ໃນອະນາຄົດ, ໃຫ້ພວກເຮົາເວົ້າກ່ຽວກັບວິກິດຄວາມປອດໄພທີ່ແທ້ຈິງ, ປະຈຸບັນຫຼາຍ, ແລະໄພພິບັດທີ່ສຸດທີ່ເປີດເຜີຍ * ໃນປັດຈຸບັນ *.
ໃນອາທິດນີ້, CISA ໄດ້ເພີ່ມ CVEs ໃໝ່ຫຼາຍອັນໃສ່ລາຍການທີ່ຮູ້ຈັກການຂູດຮີດຂອງຕົນ [3]. ພວກເຮົາກໍາລັງເວົ້າກ່ຽວກັບ RCE ຮາກທີ່ຢືນຢັນໃນ Cisco Secure Email Gateway (CVE-2023-20269) [4], ເສັ້ນທາງ CVSS 10.0 traversal ໃນ GitLab (CVE-2023-2825) [3], ແລະບໍ່ດົນມານີ້ patched Chrome zero-day (CVE-2634) ສື່ມວນຊົນ [4] te8immedia.
ແຕ່ການດີໃຈຫລາຍໃນລໍາໄສ້ທີ່ແທ້ຈິງ, ຫນຶ່ງໃນສິ່ງທີ່ຄວນຈະເຮັດໃຫ້ທຸກຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພຮ້ອງເຂົ້າໄປໃນ void, ແມ່ນໄພຂົ່ມຂູ່ຕໍ່ເນື່ອງຂອງຂໍ້ບົກພ່ອງພື້ນຖານ. ພິຈາລະນາ CVE-2021-1647, ຊ່ອງໂຫວ່ການຂະຫຍາຍສິດທິພິເສດໃນທ້ອງຖິ່ນໃນລະບົບປ້ອງກັນ Malware ຂອງ Microsoft Defender [5]. ນີ້ບໍ່ແມ່ນຂໍ້ບົກພ່ອງທີ່ບໍ່ຊັດເຈນ; ມັນມີຫຼັກຖານສະແດງແນວຄິດສາທາລະນະແລະຖືກຂູດຮີດຢ່າງຈິງຈັງໃນປ່າທໍາມະຊາດ, ຊີ້ໃຫ້ເຫັນເຖິງວິທີທີ່ອົງປະກອບທີ່ສໍາຄັນຂອງການປ້ອງກັນດິຈິຕອນຂອງພວກເຮົາສາມາດຖືກທໍາລາຍແລະຍັງມີຄວາມສ່ຽງຕໍ່ໄລຍະເວລາ.
ປ່ອຍໃຫ້ສິ່ງນັ້ນຈົມລົງໄປ. ໃນຂະນະທີ່ພວກເຮົາກໍາລັງໂຕ້ວາທີກ່ຽວກັບຈັນຍາບັນຂອງຄວາມຮູ້ສຶກ AI, ຊອບແວທີ່ອອກແບບມາເພື່ອປົກປ້ອງຈຸດສິ້ນສຸດຂອງພວກເຮົາ, ຊັ້ນພື້ນຖານຂອງການປ້ອງກັນດິຈິຕອນຂອງພວກເຮົາ, ໄດ້ຖືກສະແດງໃຫ້ເຫັນເຖິງຈຸດບົກພ່ອງທີ່ຮູ້ຈັກໂດຍສາທາລະນະ, ການຂູດຮີດຢ່າງຫ້າວຫັນທີ່ອະນຸຍາດໃຫ້ຜູ້ໂຈມຕີຍົກສູງສິດທິພິເສດ. ມັນຄ້າຍຄືກັບການໂຕ້ຖຽງກັນກ່ຽວກັບຜົນສະທ້ອນທາງປັດຊະຍາຂອງການຂັບຂີ່ລົດໃນຂະນະທີ່ເບຣກລົດຂອງເຈົ້າລົ້ມເຫລວ ແລະເຄື່ອງຈັກກໍ່ໄຟໄໝ້.
ການຄິດໄລ່: ສອງດ້ານຂອງຫຼຽນດຽວກັນ
ນີ້ບໍ່ແມ່ນເລື່ອງແຍກຕ່າງຫາກ. ພວກເຂົາເປັນສອງດ້ານຂອງຫຼຽນທີ່ມີຂໍ້ບົກພ່ອງອັນເລິກເຊິ່ງຄື: ອຸດສາຫະກໍາເຕັກໂນໂລຢີທີ່ໃຫ້ຄວາມສໍາຄັນຢ່າງຕໍ່ເນື່ອງກ່ຽວກັບຄວາມໄວ, ຄວາມແປກໃຫມ່, ແລະການຮັບຮູ້ປະດິດສ້າງຫຼາຍກວ່າຄວາມປອດໄພ, ຄວາມຫມັ້ນຄົງ, ແລະຄວາມຮັບຜິດຊອບພື້ນຖານ.
ການຮຽກຮ້ອງຢ່າງກະທັນຫັນຂອງຜູ້ນໍາ AI ສໍາລັບການຊ້າລົງແມ່ນຄວາມພະຍາຍາມທີ່ມີປະຕິກິລິຍາ, ຮັບໃຊ້ຕົນເອງເພື່ອແກ້ໄຂຫຼັກສູດ * ຫຼັງຈາກ * ເຂົາເຈົ້າໄດ້ປ່ອຍລະບົບທີ່ມີປະສິດທິພາບ, ເຂົ້າໃຈບໍ່ດີໄປສູ່ທໍາມະຊາດ. ມັນເປັນການຍອມຮັບວ່າ mantra "ເຄື່ອນທີ່ໄວແລະທໍາລາຍສິ່ງຕ່າງໆ", ເມື່ອນໍາໃຊ້ກັບເຕັກໂນໂລຢີທີ່ອາດຈະມີການປ່ຽນແປງຂອງໂລກ, ບໍ່ພຽງແຕ່ບໍ່ມີຄວາມຮັບຜິດຊອບ, ແຕ່ເປັນອັນຕະລາຍ.
ການບຸກໂຈມຕີແບບບໍ່ມີວັນ, ໂດຍສະເພາະຄວາມອ່ອນແອຂອງຜູ້ຖືກກ່າວຟ້ອງທີ່ສໍາຄັນ, ແມ່ນຜົນສະທ້ອນໂດຍກົງ, ຄວາມເຈັບປວດຂອງແນວຄິດດຽວກັນນີ້ທີ່ໃຊ້ກັບ IT ພື້ນຖານ. ມັນເປັນຜົນມາຈາກວັດທະນະທໍາທີ່ມັກຈະຮັກສາຄວາມປອດໄພເປັນຜົນຕອບແທນ, ກ່ອງກວດສອບການປະຕິບັດຕາມ, ຫຼືສູນຄ່າໃຊ້ຈ່າຍ, ແທນທີ່ຈະເປັນອົງປະກອບທີ່ບໍ່ສາມາດຕໍ່ລອງກັນໄດ້ຂອງທຸກໆຜະລິດຕະພັນແລະລະບົບດຽວ. ພວກເຮົາກໍາລັງຫຍຸ້ງຫຼາຍທີ່ຈະແລ່ນຕາມວັດຖຸທີ່ເຫຼື້ອມຕໍ່ໄປ - LLM ຕໍ່ໄປ, ຕົວແທນ AI ຕໍ່ໄປ - ທີ່ພວກເຮົາໄດ້ປ່ອຍໃຫ້ພື້ນດິນທີ່ຢູ່ລຸ່ມຕີນຂອງພວກເຮົາເນົ່າເປື່ອຍ.
ສໍາລັບ CTOs ແລະວິສະວະກໍານໍາພາ, ຂໍ້ຄວາມແມ່ນ stark ແລະທັນທີທັນໃດ. ຢຸດການຕິດຕາມທຸກແນວໂນ້ມ AI ທີ່ຂ້າມຟີດຂອງເຈົ້າ. ລົງສອງເທົ່າກ່ຽວກັບພື້ນຖານ. ບູລິມະສິດການ patching, ໂດຍສະເພາະສໍາລັບຈຸດອ່ອນທີ່ສໍາຄັນ, ນໍາໃຊ້ຢ່າງຫ້າວຫັນເຊັ່ນ: ຢູ່ໃນ Cisco, GitLab, ແລະໄພຂົ່ມຂູ່ຕໍ່ເນື່ອງເປັນຕົວຢ່າງໂດຍ LPEs ທີ່ຜ່ານມາຂອງ Defender. ປະຕິບັດການຫຼຸດຜ່ອນທີ່ເຂັ້ມແຂງ. ຮຽກຮ້ອງໃຫ້ມີຄວາມຮັບຜິດຊອບຈາກຜູ້ຂາຍຂອງທ່ານສໍາລັບທ່າທາງຄວາມປອດໄພຂອງພວກເຂົາ, ບໍ່ພຽງແຕ່ແຜນທີ່ເສັ້ນທາງຄຸນນະສົມບັດຂອງພວກເຂົາເທົ່ານັ້ນ.
ການລົ້ມລະລາຍຂອງຕະຫຼາດ ແລະບັນຫາຄວາມປອດໄພພື້ນຖານທີ່ບໍ່ໄດ້ຮັບການແກ້ໄຂແມ່ນບໍ່ພຽງແຕ່ລາຍການຂ່າວເທົ່ານັ້ນ. ພວກເຂົາເປັນການຄິດໄລ່. ໂລກເທັກໂນໂລຍີທີ່ໄວເກີນໄປ, ໄຮ້ສາລະເກີນໄປ, ແລະສຸດທ້າຍ, ເປີດເຜີຍເກີນໄປ. ມັນເຖິງເວລາທີ່ຈະເຕີບໂຕຂຶ້ນ, ຮັບປະກັນພື້ນຖານຂອງພວກເຮົາ, ແລະຫຼັງຈາກນັ້ນ, ຫຼັງຈາກນັ້ນ, ພິຈາລະນາຢ່າງລະມັດລະວັງກ່ຽວກັບຊາຍແດນຕໍ່ໄປ.
ແຫຼ່ງຂໍ້ມູນ
[1] ສະຖາບັນຊີວິດໃນອະນາຄົດ — ຢຸດການທົດລອງ Giant AI: ຈົດໝາຍເປີດແປນ — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — ຜູ້ຊ່ຽວຊານ AI ຮຽກຮ້ອງໃຫ້ຢຸດຊົ່ວຄາວໃນການພັດທະນາລະບົບ AI ຂັ້ນສູງ — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — Known Exploited Vulnerabilities Catalog — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — Cisco Secure Email and Web Manager, Cisco Email Security Appliance, ແລະ Cisco Web Security Appliance Vulnerabilities — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q5 [5] Microsoft Security Response Center — Microsoft Defender Local Privilege Escalation Vulnerability — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647