การชะลอตัวของ AI เป็นสิ่งรบกวนสมาธิ บ้านของคุณถูกไฟไหม้

การชะลอตัวของ AI เป็นสิ่งรบกวนสมาธิ บ้านของคุณถูกไฟไหม้

พูดตรงๆ เลย: ในที่สุดอุตสาหกรรมเทคโนโลยีก็กำลังมีช่วงเวลา "มาหาพระเยซู" ด้วย AI แต่กลับรู้สึกเหมือนเป็นการกลับใจอย่างแท้จริงน้อยลง และเป็นเหมือนจุดสำคัญเชิงกลยุทธ์มากกว่า ทันใดนั้น สถาปนิกของการแข่งขัน AI ที่แหวกแนวนี้ ทั้งนักวิจัยที่มีชื่อเสียงและนักการเงินที่ให้ทุนสนับสนุนการวิ่งระยะสั้นที่เติมคาเฟอีน ต่างก็เรียกร้องให้มีการชะลอตัว [1] พวกเขากำลังพูดถึง "การกำกับดูแลภายใน" "กรอบจริยธรรม" และก้าวที่ "รอบคอบมากขึ้น" และตลาดซึ่งเคยเป็นบารอมิเตอร์ที่มีความละเอียดอ่อนได้ตอบสนองแล้ว ด้วยความกังวลเกี่ยวกับความยั่งยืนของการลงทุน AI ที่ทำให้เกิดความผันผวนในหุ้นชิป [2]

นี่ไม่ใช่กฎระเบียบภายนอก มันเป็น "เส้นผิด" ภายในที่เกิดขึ้นจากภายในระบบนิเวศของ AI เอง และในขณะที่กลุ่มผู้บริหารระดับสูงกำลังถกเถียงถึงผลกระทบเชิงปรัชญาของการสร้างสรรค์ในอนาคตของพวกเขา แต่ปัจจุบันก็กำลังลุกโชนอย่างแข็งขัน

การหยุดชั่วคราวที่สะดวกสบาย

พิจารณาจังหวะเวลา เป็นเวลาหลายปีมาแล้วที่มนต์นี้ "เคลื่อนที่เร็วและทำลายสิ่งของ" หรือล่าสุดคือ "เคลื่อนที่เร็วและสร้าง AGI" ขณะนี้ ด้วยโมเดลอันทรงพลังที่ใช้งานอยู่แล้ว โดยกำหนดขอบเขตการแข่งขันไว้เป็นส่วนใหญ่ และด้วยกฎระเบียบที่มีความหมายและเกิดขึ้นจริงที่ปรากฏขึ้น การเรียกร้องให้ระมัดระวังก็ดังขึ้นเล็กน้อย นี่เป็นการตื่นรู้อย่างแท้จริงต่อความเสี่ยงที่ลึกซึ้ง หรือการซ้อมรบที่คำนวณแล้วเพื่อรวบรวมอำนาจ ลดความเร็วของคู่แข่ง และจัดการการรับรู้ของสาธารณชนก่อนที่โกยจะออกมาหรือไม่?

เป็นเรื่องง่ายที่จะประกาศคำเตือนเมื่อคุณเข้าถึงตลาดด้านการประมวลผล ความสามารถพิเศษ และโมเดลพื้นฐานแล้ว การมุ่งเน้นอย่างกะทันหันของอุตสาหกรรมไปที่ "การประเมินแผนงานผลิตภัณฑ์ การประเมินความเสี่ยง และการวางแผนเชิงกลยุทธ์" ฟังดูมีเกียรติ แต่ก็ฟังดูเป็นวิธีที่สะดวกในการปรับเปลี่ยนทรัพยากร สิ่งนี้อาจทำให้ทางเลือกโอเพ่นซอร์สช้าลงหรือผู้เล่นรายเล็กที่อาจท้าทายยักษ์ใหญ่ที่จัดตั้งขึ้นโดยการควบคุมการเข้าถึงทรัพยากรที่จำเป็นหรือมีอิทธิพลต่อกรอบการกำกับดูแล "กรอบการทำงานด้านจริยธรรม" มีความสำคัญสูงสุดในทันที ไม่ใช่เมื่อแบบจำลองได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่คัดลอกมา แต่ตอนนี้แบบจำลองเหล่านี้มีพลังมากพอที่จะปรับเปลี่ยนสังคมอย่างแท้จริง

ความกังวลที่เปล่งออกมาภายในชุมชนวิชาการและวิทยาศาสตร์ เตือนว่า "วิธีแก้ปัญหา" ของ AI ที่เปิดปัญหาอาจคุกคามความสมบูรณ์ของสาขาของตน [3] เป็นตัวบ่งชี้ที่ชัดเจนถึงความลึกของข้อกังวลภายในนี้ แต่อย่าเข้าใจผิดว่านี่คือการเห็นแก่ประโยชน์ผู้อื่น นี่ไม่เกี่ยวกับผลกระทบของ AI ต่องานหรือโครงสร้างพื้นฐาน มันเกี่ยวกับ การควบคุม – ใครเป็นคนควบคุมมัน และด้วยความเร็วเท่าใด การอภิปรายไม่ค่อยเกี่ยวกับ "เราควรสร้างมันหรือไม่" และข้อมูลเพิ่มเติมเกี่ยวกับ "ใครจะเป็นผู้ตัดสินใจว่าเราจะสร้างมันได้เร็วแค่ไหน และใครได้กำไร"

ในขณะที่พวกเขาโต้เถียงเรื่องอนาคต ปัจจุบันของคุณถูกประนีประนอม

ตอนนี้ เรามาเปลี่ยนจากความกังวลที่เป็นนามธรรมและจ้องมองอนาคตเกี่ยวกับความแตกแยกภายในของ AI ไปสู่วิกฤตที่เกิดขึ้นทันทีและจับต้องได้ซึ่งกำลังเกิดขึ้นบนเครือข่ายของเรา ในขณะนี้ ในขณะที่ AI ยักษ์ใหญ่กำลังไตร่ตรองถึงจิตวิญญาณของเครื่องจักรของพวกเขา ทีมปฏิบัติการของคุณกำลังดิ้นรนเพื่อควบคุมมหันตภัยด้านความปลอดภัยทางไซเบอร์เต็มรูปแบบ

เราไม่ได้พูดถึงภัยคุกคามทางทฤษฎีหรือแนวโน้มทั่วไป เรากำลังพูดถึงการใช้ประโยชน์จากช่องโหว่แบบ Zero-day ในซอฟต์แวร์พื้นฐานระดับองค์กร ซึ่งโจมตีโครงสร้างพื้นฐานที่สำคัญด้วยพลังของค้อนขนาดใหญ่

• Ivanti Connect Secure และ Policy Secure (CVE-2023-46805 & CVE-2024-21887): นี่ไม่ใช่แค่จุดบกพร่อง มันเป็นบาดแผลที่เปิดกว้าง ช่องโหว่เหล่านี้ในโซลูชัน VPN และการเข้าถึงเครือข่ายของ Ivanti ได้ถูกนำไปใช้อย่างแข็งขัน ทำให้ผู้โจมตีสามารถเลี่ยงผ่านการรับรองความถูกต้องและดำเนินการคำสั่งจากระยะไกลได้ CISA ได้ออกคำเตือนหลายฉบับ โดยเน้นถึงความเสี่ยงที่สำคัญสำหรับองค์กรที่ใช้ระบบเหล่านี้เพื่อการเข้าถึงระยะไกลอย่างปลอดภัย [4] การป้องกันเครือข่ายหลักของคุณ ซึ่งเป็นสิ่งหนึ่งที่คุณต้องพึ่งพาในการหยุดยั้งผู้ร้ายที่ประตู กำลังถูกนำไปใช้ประโยชน์อย่างแข็งขันเพื่อให้ผู้โจมตีสามารถเข้าถึงเครือข่ายองค์กรจำนวนนับไม่ถ้วนในเชิงลึก
• Cisco IOS XE Web UI (CVE-2023-20198): ระดับความรุนแรงสูงสุด ถูกเอาเปรียบอย่างแข็งขัน ช่องโหว่นี้ทำให้ผู้โจมตีที่ไม่ได้รับการรับรองความถูกต้องสามารถสร้างบัญชีที่มีสิทธิ์และได้รับการควบคุมอย่างเต็มที่ผ่านอุปกรณ์ Cisco IOS XE ที่ได้รับผลกระทบ หากผู้โจมตีเป็นเจ้าของ Plane การจัดการโครงสร้างพื้นฐานเครือข่ายของคุณ พวกเขาจะเป็นเจ้าของเครือข่ายทั้งหมดของคุณ จบเกม [5]

CISA ไม่ได้ออก "คำเตือน" เพื่อความสนุกสนาน พวกเขากำลังกรีดร้อง "ไฟ" ในโรงละครที่มีผู้คนพลุกพล่าน สิ่งเหล่านี้ไม่ได้เป็นเพียงภัยคุกคามทางทฤษฎีเท่านั้น พวกเขากำลังถูกใช้อย่างแข็งขันเพื่อประนีประนอมการป้องกันหลักและระบบการจัดการทั่วทั้งองค์กรทั่วโลก

เส้นความผิดที่แท้จริง

การประชดนั้นหนามากจนคุณสามารถตัดมันด้วยมีดทื่อได้ ในด้านหนึ่ง เรามีผู้เชี่ยวชาญด้าน AI ที่กำลังถกเถียงกันถึงผลกระทบทางจริยธรรมของอนาคตที่พวกเขายังคงสร้างอยู่ โดยเรียกร้องให้มีการชะลอตัวลงหลังจากการเร่งความเร็วอย่างไม่มีการตรวจสอบเป็นเวลาหลายปี ในทางกลับกัน เรามีภัยคุกคามที่เกิดขึ้นในทันทีจากเทคโนโลยีพื้นฐาน ปัจจุบัน ของเราที่กำลังพังทลายลงอย่างแข็งขันภายใต้น้ำหนักของช่องโหว่ที่ไม่ได้รับการจัดการและไม่ได้รับการแก้ไข

"เส้นผิด" ที่แท้จริงไม่ได้อยู่แค่ในชุมชน AI เท่านั้น มันอยู่ระหว่างหอคอยงาช้างแห่งนวัตกรรมและสนามเพลาะแห่งความเป็นจริงในการปฏิบัติงาน อยู่ระหว่างการอภิปรายเชิงนามธรรมที่มุ่งเน้นในอนาคตเกี่ยวกับ "การควบคุมตนเอง" สำหรับ AI และความต้องการที่เป็นรูปธรรมในทันทีสำหรับความปลอดภัยและเสถียรภาพ จริง ในระบบที่เราพึ่งพาในปัจจุบัน

ในฐานะ CTO และผู้นำด้านวิศวกรรม เราไม่สามารถถูกเบี่ยงเบนความสนใจจากการอภิปรายเชิงปรัชญาเกี่ยวกับการชะลอตัวของ AI ได้ แม้ว่าการสนทนาเหล่านี้จะมีความสำคัญในระยะยาว แต่ก็เป็นเรื่องหรูหราเมื่อบ้านของคุณลุกเป็นไฟ "การประเมินแผนงานผลิตภัณฑ์ใหม่" ควรเริ่มต้นด้วยการเสริมรากฐานที่พังทลายของโครงสร้างพื้นฐานที่มีอยู่ของเรา "การประเมินความเสี่ยง" จำเป็นต้องจัดลำดับความสำคัญของภัยคุกคามที่ถูกแสวงหาประโยชน์อย่างแข็งขันในทันที ซึ่งส่งผลกระทบต่อความต่อเนื่องในการปฏิบัติงานและความสมบูรณ์ของข้อมูล ในปัจจุบัน

ลำดับความสำคัญของอุตสาหกรรมมีการบิดเบือน เรากำลังสร้างสิ่งต่าง ๆ ที่รวดเร็วและเงางามยิ่งขึ้น บนรากฐานที่กำลังจะเน่าเปื่อย การเรียกร้องให้มีการชะลอตัวของ AI อาจเป็นการสนทนาที่จำเป็น แต่สำหรับพวกเราภาคพื้นดินที่ต้องจัดการกับ Ivanti และ Cisco Zero-Days มันให้ความรู้สึกเหมือนกับการโต้เถียงเรื่องสีของผ้าม่านในขณะที่หลังคาพังทลายลง มุ่งเน้นไปที่ปัจจุบัน อนาคตรอได้จนกว่าเราจะไม่มีเลือดไหลออกมา

แหล่งที่มา

[1] จดหมายเปิดผนึกเพื่อหยุดการทดลอง AI ขนาดใหญ่ — https://futureoflife.org/open-letter-pause-ai-development/ [2] หุ้น AI พุ่งสูงขึ้น แต่นักลงทุนบางส่วนเริ่มกังวล — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] การปฏิวัติ AI ทางวิทยาศาสตร์: คำสัญญาและอันตราย — https://www.nature.com/articles/d41586-023-03223-y [4] ผู้คุกคามที่ใช้ประโยชน์จากช่องโหว่ด้านความปลอดภัยของ Ivanti Connect Secure และ Ivanti Policy — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] ผู้คุกคามที่ใช้ประโยชน์จากช่องโหว่ Web UI ของซอฟต์แวร์ Cisco IOS XE — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a