เสื้อผ้ารักษาความปลอดภัย AI ใหม่ของจักรพรรดิ: ขณะที่เราจ้องมองที่ Muse มูลนิธิก็พังทลายลง
พูดตรงๆ เลย: อุตสาหกรรมเทคโนโลยีมีความหลงใหลแบบใหม่ และเรียกว่า "ความปลอดภัยของ AI" เราทุกคนคาดหวังที่จะมุ่งเน้นไปที่การแทรกทันที การเป็นพิษต่อโมเดล และการขโมยข้อมูลจากโมเดลที่ใช้ภาษาขนาดใหญ่ ในขณะเดียวกัน โครงสร้างพื้นฐานทางกายภาพและดิจิทัลที่เกิดขึ้นจริงซึ่งรวมองค์กรของเราไว้ด้วยกันกำลังถูกจุดไฟเผาอย่างแข็งขันจากการโจมตีแบบศูนย์วันอย่างไม่หยุดยั้ง เหตุการณ์ล่าสุดที่เกี่ยวข้องกับแพลตฟอร์ม AI ที่สำคัญ ซึ่งแสดงให้เห็นถึงความท้าทายในวงกว้างในการรักษาความปลอดภัยโครงสร้างพื้นฐาน AI เน้นย้ำถึงการแบ่งขั้วที่เป็นอันตรายนี้ [1]
Meta บริษัทที่รู้จักกันดีในเรื่อง "การเคลื่อนไหวอย่างรวดเร็วและทำลายสิ่งต่าง ๆ" ได้เผชิญกับการตรวจสอบข้อบกพร่องด้านความปลอดภัยในแพลตฟอร์ม AI ของตนอย่างละเอียด ตัวอย่างเช่น โปรแกรม Bug Bounty ได้เปิดเผยข้อบกพร่องสำคัญที่ทำให้เครื่องเสมือนของผู้ใช้ถูกเปิดเผย นี่ไม่ใช่การรั่วไหลของข้อมูลเล็กน้อยหรือการบายพาสที่ชาญฉลาด แต่เป็นข้อผิดพลาดพื้นฐานระดับโครงสร้างพื้นฐานที่เปิดเผย VM ของผู้ใช้ นี่ไม่ใช่ช่องโหว่เฉพาะของ AI ที่เฉพาะเจาะจง นี่คือการแยก VM ขั้นพื้นฐาน ซึ่งเป็นปัญหาที่เราคิดว่าส่วนใหญ่เชื่องได้เมื่อทศวรรษที่แล้ว ซึ่งแสดงถึงการละเมิดความเป็นส่วนตัวและความสมบูรณ์ของข้อมูลที่สำคัญ ซึ่งส่งผลกระทบโดยตรงต่อผู้ใช้และลูกค้าองค์กรที่อาจใช้ประโยชน์จากโครงสร้างพื้นฐาน AI ดังกล่าว
ข้อบกพร่องประเภทนี้แม้จะส่งผลกระทบอย่างแท้จริง แต่ก็ให้ความรู้สึกน้อยกว่าความท้าทายด้าน "ความปลอดภัยของ AI" แบบใหม่ และเหมือนกับความล้มเหลวของโครงสร้างพื้นฐานแบบคลาสสิกที่สวมหมวก AI เป็นสิ่งเตือนใจว่าแม้แต่แพลตฟอร์ม AI ที่ทันสมัยที่สุดก็ยังสร้างขึ้นจากการประมวลผล เครือข่าย และการจำลองเสมือนแบบเดิมๆ หากเลเยอร์พื้นฐานเหล่านั้นเต็มไปด้วยรู ไม่สำคัญว่าโมเดล AI ของคุณจะซับซ้อนแค่ไหน ระบบทั้งหมดยังคงมีความเสี่ยงอยู่ แง่มุม "AI" ของเรื่องราวนี้แทบจะเบี่ยงเบนความสนใจ ซึ่งเป็นทิศทางที่ผิดซึ่งดึงสายตาของเราออกจากไม้ที่เน่าเปื่อยอยู่ใต้แผ่นพื้นขัดมัน
KEV Barrage ของ CISA: ตัวบ่งชี้ที่สำคัญ
ในขณะที่เรากำลังยุ่งอยู่กับการถกเถียงถึงผลกระทบทางจริยธรรมของแชทบอทที่มีความรู้สึกและความแตกต่างของความปลอดภัยของ AI CISA กำลังลดจำนวนช่องโหว่ที่ถูกเอารัดเอาเปรียบอย่างแข็งขันอย่างที่ไม่เคยมีมาก่อนลงในแค็ตตาล็อก Known Exploited Vulnerabilities (KEV) นี่ไม่ใช่แบบฝึกหัดเชิงทฤษฎี นี่ไม่ใช่รายการ "แพทช์สักวันหนึ่ง" นี่เป็นรายการด่วน "บ้านของคุณถูกไฟไหม้ ตอนนี้"
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา CISA ได้เพิ่มรายการต่างๆ มากมาย ทำให้จำนวนช่องโหว่ที่ถูกโจมตีอย่างแข็งขันมีจำนวนมหาศาลในช่วงเวลาอันสั้น [2] นี่ไม่ใช่แค่ "ความปลอดภัยไม่ดี"; นี่เป็นวิกฤตที่เป็นระบบและทวีความรุนแรงขึ้นซึ่งส่งผลกระทบต่อซอฟต์แวร์ระดับองค์กรที่สำคัญมากซึ่งดำเนินธุรกิจโลกของเรา
พิจารณาการเพิ่มเติมล่าสุดในแค็ตตาล็อก KEV:
- CVE-2023-46214: ช่องโหว่การเรียกใช้โค้ดจากระยะไกลของ Splunk Enterprise (CVSS 9.8) พร้อมกำหนดเวลาการแก้ไข CISA ทำให้ระบบที่ไม่ได้รับการอัปเดตมีความเสี่ยงสูง
- CVE-2023-29357: ช่องโหว่ในการยกระดับสิทธิ์ของ Microsoft SharePoint Server ซึ่งส่งผลกระทบต่อแกนหลักของอินทราเน็ตขององค์กรจำนวนนับไม่ถ้วน
- CVE-2023-42824: ช่องโหว่เคอร์เนล Apple iOS/iPadOS ที่ถูกโจมตีแบบกำหนดเป้าหมายแล้ว ซึ่งแสดงให้เห็นว่าแม้แต่ระบบนิเวศที่ได้รับการควบคุมก็ไม่สามารถเจาะเข้าไปได้
- CVE-2023-30799: ข้อบกพร่องในการเรียกใช้โค้ดจากระยะไกลของ MikroTik RouterOS ซึ่งส่งผลกระทบต่อเราเตอร์ที่เชื่อมต่อทุกอย่าง ซึ่งมักจะไม่มีการแก้ไขในมุมที่ลึกที่สุดของเครือข่าย
การเพิ่มอย่างรวดเร็วของการใช้ประโยชน์แบบ Zero-Day ของผู้จำหน่ายรายใหญ่ เช่น Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – ต้องการความสนใจอย่างบ้าคลั่งในทันที นี่ไม่ใช่คำเตือนทั่วไป มันเป็นเสียงไซเรนที่ดังโดยตรงใส่ทีมไอทีและความปลอดภัยทุกทีม รายชื่อ KEV ของ CISA ไม่ได้เป็นเพียงข้อเสนอแนะสำหรับหน่วยงานรัฐบาลกลางเท่านั้น มันเป็นคำเตือนที่สำคัญสำหรับ ทั้งหมด องค์กร ละเว้นมันที่อันตรายของคุณ
ภาพลวงตาของ "ความปลอดภัยของ AI" และต้นทุนของการเบี่ยงเบนความสนใจ
นี่คือความจริงที่น่าอึดอัด: ข้อบกพร่องพื้นฐานในแพลตฟอร์ม AI และเขื่อน CISA KEV นั้นเป็นแง่มุมที่เชื่อมโยงถึงกันของปัญหาเดียวกัน พวกเขาทั้งสองต่างกรีดร้องเกี่ยวกับความล้มเหลวขั้นพื้นฐานในความปลอดภัยของซอฟต์แวร์ แต่การจ้องมองโดยรวมของอุตสาหกรรมของเรานั้นไม่สอดคล้องกันอย่างเป็นอันตราย เราหลงใหลในสัญญาและอันตรายของ "AI" มากจนทำให้โครงสร้างพื้นฐานดิจิทัลพื้นฐานเน่าเปื่อย
"ความปลอดภัยของ AI" ได้กลายเป็นคำศัพท์ยอดนิยม ซึ่งเป็นขอบเขตใหม่สำหรับที่ปรึกษาและผู้จัดการผลิตภัณฑ์ แต่จริงๆ แล้วมันคืออะไรล่ะ? บ่อยครั้งเป็นเพียง ความปลอดภัย ที่นำไปใช้กับระบบ AI ใช่ AI นำเสนอเวกเตอร์การโจมตีใหม่ๆ และความท้าทายที่ไม่เหมือนใคร แต่ส่วนสำคัญของ "ความปลอดภัยของ AI" เป็นเพียงวิศวกรรมที่แข็งแกร่ง แนวทางปฏิบัติในการเขียนโค้ดที่ปลอดภัย และการแก้ไขอย่างขยันขันแข็ง ซึ่งเป็นสิ่งเดียวกับที่เราเคยล้มเหลวมานานหลายทศวรรษ ปัญหาการแยก VM ที่กล่าวถึงก่อนหน้านี้เป็นตัวอย่างที่สมบูรณ์แบบ: ช่องโหว่แบบคลาสสิกที่ขยายโดยความซับซ้อนของแพลตฟอร์ม AI
เรากำลังสร้างระบบ AI ที่ซับซ้อนอย่างไม่น่าเชื่อ นอกเหนือจากรากฐานที่เปราะบางมากขึ้นเรื่อยๆ และถูกเอารัดเอาเปรียบอย่างแข็งขัน เหมือนกับการออกแบบรถยนต์ไร้คนขับอย่างพิถีพิถันพร้อมระบบนำทาง AI ขั้นสูง ในขณะที่ล้อหลุดและเครื่องยนต์กำลังสปัตเตอร์ การมุ่งเน้นไปที่ "ความปลอดภัยของ AI" มักจะรู้สึกเหมือนเป็นการเบี่ยงเบนความสนใจ หันเหความสนใจไปที่ทรัพยากรและความสนใจจากงานธรรมดา ๆ ที่ไม่สวยงาม แต่สำคัญอย่างยิ่งในการรักษาความปลอดภัยโครงสร้างพื้นฐานที่มีอยู่
เรากำลังยุ่งอยู่กับการไล่ล่าสิ่งที่ยิ่งใหญ่ต่อไปจนปล่อยให้สิ่งใหญ่ ๆ ในปัจจุบันมอดไหม้หรือเปล่า? ปริมาณและความกว้างที่แท้จริงของภัยคุกคาม KEV บ่งชี้ถึงความท้าทายที่เป็นระบบและเร่งด่วนต่อโครงสร้างพื้นฐานดิจิทัลขั้นพื้นฐาน แตกต่างจากการสนทนาแบบ Zero-day ที่เน้น AI ก่อนหน้านี้ นี่ไม่เกี่ยวกับอนาคตของ AI; มันเกี่ยวกับสถานะปัจจุบันของการดำรงอยู่ทางดิจิทัลของเรา
เกิดอะไรขึ้น CTO?
สำหรับหัวหน้าฝ่ายวิศวกรรมและ CTO ข้อความที่ชัดเจนและทันที:
- จัดลำดับความสำคัญของรายการ KEV: ทิ้งทุกอย่าง แก้ไขช่องโหว่เหล่านี้ อาณัติมัน. บังคับใช้มัน นี่ไม่ใช่ทางเลือก
- อย่าจมอยู่กับโฆษณาเกินจริง "ความปลอดภัยของ AI" โดยสูญเสียปัจจัยพื้นฐาน: ใช่ เข้าใจความเสี่ยงเฉพาะของ AI แต่จำไว้ว่าวิศวกรรมที่แข็งแกร่ง วงจรการพัฒนาที่ปลอดภัย และการแพตช์อย่างขยันขันแข็งยังคงเป็นการป้องกันที่ดีที่สุดของคุณ โมเดล AI ที่หรูหราจะไม่ช่วยคุณหากผู้โจมตีเป็นเจ้าของ VM พื้นฐานหรือเซิร์ฟเวอร์ SharePoint ของคุณ
- ลงทุนในการรักษาความปลอดภัยขั้นพื้นฐาน: มีความหมายมากกว่าการซื้อเครื่องมือรักษาความปลอดภัยอื่น มันหมายถึงการลงทุนในบุคลากร กระบวนการ และวัฒนธรรมที่ให้ความสำคัญกับความปลอดภัยเป็นวินัยทางวิศวกรรมหลัก ไม่ใช่สิ่งที่ตามมาทีหลัง โปรแกรม Bug Bounty นั้นยอดเยี่ยม แต่ควรเป็นเครือข่ายความปลอดภัย ไม่ใช่กลยุทธ์ความปลอดภัยหลักของคุณ
เหตุการณ์ที่เกี่ยวข้องกับโครงสร้างพื้นฐานแพลตฟอร์ม AI ถือเป็นสัญญาณเตือน แต่รายการ CISA KEV ถือเป็นสัญญาณเตือนเร่งด่วน เราจำเป็นต้องหยุดชื่นชมความคิดริเริ่มด้านความปลอดภัยของ AI ล่าสุด และเริ่มแก้ไขช่องโหว่ในการป้องกันที่แท้จริงของเรา อนาคตของ AI นั้นน่าตื่นเต้น แต่สถานะปัจจุบันของความปลอดภัยของเรากำลังน่ากลัว
แหล่งที่มา
[1] ความปลอดภัยของ AI นั้นยุ่งเหยิง และกำลังจะแย่ลง — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] แค็ตตาล็อกช่องโหว่ที่รู้จักใช้ประโยชน์ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog