AI ใหม่ของจักรพรรดิ และรากฐานที่เน่าเปื่อยอยู่ข้างใต้

AI ใหม่ของจักรพรรดิ และรากฐานที่เน่าเปื่อยอยู่ข้างใต้

จำได้ไหมว่าเมื่อ AI จะช่วยเราทุกคน? ปรากฎว่าตอนนี้เหล่าผู้ช่วยให้รอดกำลังขอเวลานอก เมื่อเร็วๆ นี้ สถาปนิกแห่งอนาคตที่ขับเคลื่อนด้วย AI ของเรา ซึ่งเป็นนักวิจัย "ชายแดน" และผู้มีอิทธิพลทางการเงิน ต่างร่วมกันเบรก เรียกร้องให้ชะลอการพัฒนาเนื่องจาก "ความกังวลด้านความปลอดภัยที่เพิ่มมากขึ้น" [1] ตลาดซึ่งเป็นเครื่องมือทื่อๆ ตอบสนองด้วยการไอปอด: หุ้นชิปและผู้เล่น AI รายใหญ่ร่วงลง [2] ปักกิ่งเยาะเย้ยคำเตือนดังกล่าว ในขณะที่บริษัทชิปยักษ์ใหญ่ของกรุงโซลไม่ยอมจ่ายเงินล่วงหน้าสำหรับความก้าวหน้าของ AI ในอนาคต [2]

นี่ไม่ใช่แค่การถกเถียงเชิงปรัชญาเกี่ยวกับหอคอยงาช้างเท่านั้น นี่คือการเปลี่ยนแปลงครั้งใหญ่ ซึ่งเป็นการยอมรับต่อสาธารณะถึงความประมาทจากบุคคลชั้นนำในอุตสาหกรรม และตรงไปตรงมามันสะดวกเกินไปนิดหน่อย

AI Pause: การเห็นแก่ผู้อื่นหรือการเล่นอย่างมีพลัง?

ขอให้ชัดเจน: เมื่อคนที่สร้างจรวดจู่ๆ ก็พบว่าพวกเขาลืมร่มชูชีพ หลังจาก ปล่อยจรวด นี่ไม่ใช่ช่วงเวลาของการตื่นรู้ทางจริยธรรมอย่างลึกซึ้ง เป็นการแย่งชิงแบบบริการตนเองที่ล่าช้า คนเหล่านี้ไม่ใช่นักอุดมคติที่มีสายตากว้างไกล เหล่านี้คือยักษ์ใหญ่ที่ผลักดันคันเร่งไปสู่โลหะ ไล่ตามการเติบโตแบบก้าวกระโดดและการครอบงำตลาด บัดนี้ ด้วยความหวาดกลัวของ "ผลที่ตามมาที่คาดไม่ถึง" ที่กำลังปรากฏอยู่อย่างมากมาย—และบางทีอาจจะดูถูกเหยียดหยามมากกว่านั้น เมื่อตระหนักว่าก้าวปัจจุบันนั้นไม่ยั่งยืนหรือว่าพวกเขาจำเป็นต้องรวบรวมความเป็นผู้นำของพวกเขา—พวกเขากำลังเรียกร้องให้มีลมหายใจร่วมกัน

ปฏิกิริยาของตลาดกำลังบอกอยู่ การที่หุ้นชิปตกต่ำไม่ได้เป็นเพียงเรื่องของความกลัวเท่านั้น เป็นเรื่องเกี่ยวกับผลกระทบทางการเงินที่เกิดขึ้นทันทีจากการชะลอตัวที่อาจเกิดขึ้น การตอบโต้ของปักกิ่ง? สัญญาณที่ชัดเจนว่าความได้เปรียบเชิงกลยุทธ์ระดับชาติสำคัญกว่าข้อกังวลด้านความปลอดภัยเชิงนามธรรม และผู้ผลิตชิปของโซลปฏิเสธการชำระเงินล่วงหน้าใช่ไหม นั่นเป็นเสียงของเงินทุนที่ตั้งคำถามถึงความมั่นคงในระยะยาวและความสามารถในการทำกำไรของอนาคตที่ไม่แน่นอนอย่างกะทันหัน

สำหรับเรา CTO และหัวหน้าฝ่ายวิศวกรรม สิ่งนี้แปลตรงตัวเป็นภูมิทัศน์ที่วุ่นวาย คาดว่าการแทรกแซงด้านกฎระเบียบจะเร่งตัวขึ้น และบังคับให้มีการจัดลำดับความสำคัญของโครงการ AI ใหม่ จรรยาบรรณ "ย้ายอย่างรวดเร็วและทำลายสิ่งต่าง ๆ" สำหรับ AI ได้ตายไปแล้วอย่างเป็นทางการ แทนที่ด้วยการค้นหาอย่างบ้าคลั่งสำหรับกรอบงาน "การพัฒนา AI ตามหลักจริยธรรม" ที่ควรได้รับการอบตั้งแต่วันแรก การลงทุนจะต้องระมัดระวังมากขึ้น กลยุทธ์จะเปลี่ยนไป และใช่ ตลาดงานจะรู้สึกหนาวเย็นเมื่อกระแสตื่นทองเปิดทางให้แนวทางที่วัดผลได้มากขึ้น และหวังว่าจะมีความรับผิดชอบมากขึ้น แต่อย่าเข้าใจผิดว่านี่คือการเห็นแก่ประโยชน์อันบริสุทธิ์ "การหยุดชั่วคราว" นี้เกี่ยวข้องกับการควบคุมและการปรับเทียบตลาดใหม่พอๆ กับความปลอดภัยที่แท้จริง

ในขณะที่ไททันส์ถกเถียงกัน มูลนิธิก็พังทลายลง

ขณะนี้ ขณะที่กลุ่มชนชั้นสูงด้าน AI กำลังเผชิญกับวิกฤตที่มีอยู่ กำลังโต้เถียงเรื่องจริยธรรมของหน่วยสืบราชการลับขั้นสูงในอนาคต เรามาพูดถึงวิกฤตด้านความปลอดภัยที่เกิดขึ้นจริง เกิดขึ้นจริง และเป็นหายนะครั้งใหญ่ที่กำลังเกิดขึ้น ในขณะนี้

สัปดาห์นี้ CISA ได้เพิ่ม CVE ใหม่หลายรายการลงในแค็ตตาล็อกช่องโหว่ที่รู้จัก (Known Exploited Vulnerabilities) [3] เรากำลังพูดถึง RCE รูทที่ยืนยันแล้วใน Cisco Secure Email Gateway (CVE-2023-20269) [4] การข้ามเส้นทาง CVSS 10.0 ใน GitLab (CVE-2023-2825) [3] และ Chrome Zero-day (CVE-2023-4863) ที่ได้รับแพตช์เมื่อเร็วๆ นี้ (CVE-2023-4863) [3] ซึ่งต้องการความสนใจทันที

แต่หมัดเด็ดที่แท้จริง สิ่งที่ควรทำให้มืออาชีพด้านความปลอดภัยทุกคนกรีดร้องในความว่างเปล่า คือการคุกคามอย่างต่อเนื่องของข้อบกพร่องพื้นฐาน พิจารณา CVE-2021-1647 ซึ่งเป็นช่องโหว่ในการยกระดับสิทธิ์ในเครื่องใน Microsoft Defender's Malware Protection Engine [5] นี่ไม่ใช่ข้อบกพร่องที่คลุมเครือ มันมี Proof-of-Concept สาธารณะและถูกนำไปใช้ประโยชน์อย่างแข็งขันในป่า โดยเน้นว่าองค์ประกอบที่สำคัญของการป้องกันทางดิจิทัลของเราสามารถถูกบุกรุกและยังคงมีความเสี่ยงอยู่ในช่วงเวลาหนึ่งได้อย่างไร

ปล่อยให้มันจมลงไป ในขณะที่เรากำลังโต้เถียงเรื่องจริยธรรมของความรู้สึกของ AI ซอฟต์แวร์ที่ออกแบบมาเพื่อปกป้องอุปกรณ์ปลายทางของเรา ซึ่งเป็นชั้นพื้นฐานของการป้องกันทางดิจิทัลของเรา ได้รับการแสดงให้เห็นว่าปกปิดข้อบกพร่องที่เปิดเผยต่อสาธารณะและใช้ประโยชน์อย่างแข็งขันซึ่งทำให้ผู้โจมตีสามารถยกระดับสิทธิ์ได้ มันเหมือนกับการโต้เถียงเกี่ยวกับผลกระทบทางปรัชญาของการขับเคลื่อนแบบวาร์ปในขณะที่เบรกรถของคุณล้มเหลวและเครื่องยนต์ติดไฟ

การคำนวณ: สองด้านของเหรียญเดียวกัน

นี่ไม่ใช่เรื่องราวที่แยกจากกัน สิ่งเหล่านี้เป็นสองด้านของเหรียญที่มีข้อบกพร่องอย่างลึกซึ้งเหมือนกัน นั่นคืออุตสาหกรรมเทคโนโลยีที่ให้ความสำคัญกับความเร็ว ความแปลกใหม่ และการรับรู้นวัตกรรมมาโดยตลอดเหนือความปลอดภัย ความเสถียร และความรับผิดชอบขั้นพื้นฐาน

การเรียกร้องอย่างกะทันหันของผู้นำ AI ให้ชะลอความเร็วนั้นเป็นความพยายามเชิงโต้ตอบและให้บริการตนเองในการแก้ไขหลักสูตร หลังจาก พวกเขาได้ปล่อยระบบที่ทรงพลังและเข้าใจได้ไม่ดีออกสู่ธรรมชาติแล้ว เป็นการยอมรับว่ามนต์ "เคลื่อนที่เร็วและทำลายสิ่งของ" เมื่อนำไปใช้กับเทคโนโลยีที่อาจเปลี่ยนแปลงโลก ไม่เพียงแต่ขาดความรับผิดชอบ แต่ยังเป็นอันตรายอีกด้วย

การโจมตีแบบซีโร่เดย์ โดยเฉพาะอย่างยิ่งช่องโหว่ที่สำคัญของ Defender เป็นผลโดยตรงและเจ็บปวดจากกรอบความคิดแบบเดียวกันนี้ที่ใช้กับไอทีพื้นฐาน เป็นผลจากวัฒนธรรมที่มักถือว่าความปลอดภัยเป็นสิ่งที่ต้องคำนึงถึงในภายหลัง ช่องทำเครื่องหมายการปฏิบัติตามข้อกำหนด หรือศูนย์ต้นทุน แทนที่จะเป็นส่วนประกอบที่สำคัญและไม่สามารถเจรจาต่อรองได้ของผลิตภัณฑ์และระบบทุกรายการ เรากำลังยุ่งอยู่กับการไล่ตามวัตถุแวววาวชิ้นถัดไป—LLM ตัวถัดไป หรือเจ้าหน้าที่ AI ตัวถัดไป—จนเราปล่อยให้พื้นดินใต้ฝ่าเท้าของเราเน่าเปื่อย

สำหรับ CTO และหัวหน้าฝ่ายวิศวกรรม ข้อความนี้ชัดเจนและทันที หยุดไล่ตามทุกเทรนด์ AI ที่ข้ามฟีดของคุณ ลงสองเท่ากับพื้นฐาน จัดลำดับความสำคัญของการแพตช์ โดยเฉพาะอย่างยิ่งสำหรับช่องโหว่ที่สำคัญและถูกแสวงหาประโยชน์อย่างแข็งขัน เช่น ใน Cisco, GitLab และภัยคุกคามแบบถาวรที่ LPE ที่ผ่านมาของ Defender เป็นตัวอย่าง ดำเนินการบรรเทาผลกระทบอย่างเข้มงวด เรียกร้องความรับผิดชอบจากผู้ขายของคุณสำหรับมาตรการรักษาความปลอดภัย ไม่ใช่แค่แผนการทำงานด้านคุณลักษณะเท่านั้น

การล่มสลายของตลาดและปัญหาด้านความปลอดภัยขั้นพื้นฐานที่ไม่ได้รับการจัดการไม่ได้เป็นเพียงรายการข่าวเท่านั้น พวกเขาเป็นผู้คำนวณ โลกแห่งเทคโนโลยีที่เร็วเกินไป ประมาทเกินไป และท้ายที่สุดก็เปิดกว้างเกินไป ถึงเวลาที่จะเติบโตขึ้น สร้างความมั่นคงให้กับรากฐานของเรา จากนั้น เมื่อนั้น จะต้องพิจารณาขอบเขตต่อไปอย่างระมัดระวัง

แหล่งที่มา

[1] Future of Life Institute – หยุดการทดลอง AI ยักษ์ชั่วคราว: จดหมายเปิดผนึก – https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — ผู้เชี่ยวชาญด้าน AI เรียกร้องให้หยุดการพัฒนาระบบ AI ขั้นสูงชั่วคราว — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — แค็ตตาล็อกช่องโหว่ที่รู้จัก — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco Security Advisory — ช่องโหว่ของ Cisco Secure Email และ Web Manager, Cisco Email Security Appliance และ Cisco Web Security Appliance — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft Security Response Center — ช่องโหว่การยกระดับสิทธิ์ในเครื่องของ Microsoft Defender — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647