皇帝的新人工智慧安全服：當我們凝視繆斯時，基礎崩潰了
讓我們直接說：科技業有一個新的痴迷，它被稱為「人工智慧安全」。我們都應該關注快速注入、模型中毒和大型語言模型的資料外洩。同時，將我們企業聯繫在一起的實際實體數位基礎設施正被無情的零日攻擊所點燃。最近涉及一個主要人工智慧平台的事件說明了保護人工智慧基礎設施面臨的更廣泛挑戰，凸顯了這種危險的二分法[1]。
Meta 是一家以「快速行動、打破常規」精神而聞名的公司，因其人工智慧平台的安全缺陷而面臨審查。例如，錯誤賞金計畫發現了一個暴露使用者虛擬機器的重大缺陷。這不是微妙的資料外洩或巧妙的提示繞過，而是暴露使用者虛擬機器的根本性基礎架構級錯誤。這不是什麼深奧的人工智慧特定漏洞；這是基本的虛擬機器隔離，十年前我們基本上認為這個問題已經解決。它代表著對隱私和資料完整性的嚴重侵犯，直接影響利用此類人工智慧基礎設施的用戶和潛在企業客戶。
這種類型的缺陷雖然確實具有影響力，但感覺不像是一個新穎的「人工智慧安全」挑戰，而更像是戴著人工智慧帽的經典基礎設施故障。這提醒我們，即使是最先進的人工智慧平台也是建立在傳統運算、網路和虛擬化層之上的。如果這些基礎層千瘡百孔，那麼無論你的人工智慧模型多麼複雜，都毫無意義。整個系統仍然脆弱。這個故事的「人工智慧」方面幾乎是一種幹擾，一種誤導，使我們的目光從拋光地板下腐爛的木材上移開。
CISA 的 KEV 彈幕：一個關鍵指標
當我們忙於爭論有感知力的聊天機器人的道德影響和人工智慧安全的細微差別時，CISA 正在將數量空前的主動利用漏洞納入其已知利用漏洞 (KEV) 目錄中。這不是一個理論練習。這不是一個「有一天會發布補丁」的清單。這是一份緊急的「你的房子現在著火了」清單。
最近幾週，CISA 增加了大量條目，使活躍利用的漏洞總數在短時間內達到驚人的數量 [2]。這不僅僅是「安全性很差」；而是「安全性很差」。這是一場系統性的、不斷升級的危機，影響著運行我們世界的非常關鍵的企業軟體。
考慮一下 KEV 目錄中最近新增的內容：
- CVE-2023-46214： Splunk Enterprise 遠端程式碼執行漏洞 (CVSS 9.8)，具有 CISA 修補程式截止日期，使得未修補的系統高度脆弱。
- CVE-2023-29357： Microsoft SharePoint Server 權限提升漏洞，影響無數企業內部網路的主幹網路。
- CVE-2023-42824： Apple iOS/iPadOS 核心漏洞，已在針對性攻擊中被利用，這表明即使受控的生態系統也並非堅不可摧。
- CVE-2023-30799： MikroTik RouterOS 遠端程式碼執行缺陷，影響連接所有裝置的路由器，並且通常在網路最深處未修補。
主要供應商（微軟、蘋果、Splunk、MikroTik、Linux、JFrog）迅速增加了積極利用的零日漏洞，需要立即、瘋狂的關注。這不是一般性警告；這是直接向每個 IT 和安全團隊發出的警報。 CISA 的 KEV 清單不僅是對聯邦機構的建議，也是對聯邦機構的建議。這對「所有」組織來說都是一個嚴重警告。忽略它後果自負。
“人工智慧安全”的幻想和分心的成本
這是一個令人不安的事實：AI 平台的基本缺陷和 CISA KEV 彈幕是同一問題的相互關聯的方面。他們都對軟體安全的根本性崩潰大喊大叫，但我們行業的集體目光卻出現了危險的偏差。我們對「人工智慧」的承諾和危險如此著迷，以至於我們讓基礎的數位基礎設施腐爛。
「人工智慧安全」已成為一個流行詞，成為顧問和產品經理的新領域。但它到底是什麼？通常，它只是應用於人工智慧系統的「安全」。是的，人工智慧引入了新的攻擊媒介和獨特的挑戰，但「人工智慧安全」的很大一部分只是強大的工程、安全的編碼實踐和勤奮的修補——這也是我們幾十年來一直失敗的東西。前面提到的虛擬機器隔離問題就是一個完美的例子：一個因人工智慧平台的複雜性而放大的經典漏洞。
我們正在日益脆弱且被積極利用的基礎之上建構極其複雜的人工智慧系統。這就像精心設計一輛配備先進人工智慧導航的自動駕駛汽車，而車輪卻在脫落，引擎在發出吱吱聲。對「人工智慧安全」的關注常常讓人感覺分散了注意力，將資源和注意力從平凡、乏味但絕對關鍵的保護現有基礎設施的工作上轉移了。
我們是否如此忙於追逐下一個大事，而讓當前的大事燒毀？ KEV 威脅的數量和廣度表明基礎數位基礎設施面臨系統性和緊迫的挑戰，這與先前以人工智慧為中心的零日討論不同。這與人工智慧的未來無關，而是與人工智慧的未來有關。這是關於我們數字存在的現況。
現在怎麼辦，技術長們？
對於工程主管和技術長來說，這個訊息是明確而直接的：
- 優先考慮 KEV 清單： 放棄一切。修補這些漏洞。強制執行。強制執行。這不是可選的。
- **不要被「人工智慧安全」炒作所淹沒，而犧牲了基本原理：**是的，了解人工智慧的獨特風險，但請記住，強大的工程、安全的開發生命週期和勤奮的修補仍然是你最好的防禦。如果攻擊者擁有您的底層虛擬機器或 SharePoint 伺服器，那麼花俏的 AI 模型也救不了您。
- 投資基礎安全： 這不僅僅意味著購買另一個安全工具。這意味著投資於人員、流程和文化，將安全視為核心工程學科，而不是事後的想法。錯誤賞金計劃非常好，但它們應該是一個安全網，而不是您的主要安全策略。
涉及AI平台基礎設施的事件是一個警鐘，但CISA KEV清單才是緊急警報。我們需要停止欣賞最新的人工智慧安全措施，並開始修補我們實際防禦中的漏洞。人工智慧的未來令人興奮，但我們目前的安全狀況卻令人恐懼。
來源
[1] 人工智慧安全一團糟，而且還會變得更糟 — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] 已知被利用的漏洞目錄 — https://www.cisa.gov/known-exploited-vulnerability-catalog