皇帝的新人工智慧，以及它下面腐爛的基礎
還記得人工智慧何時拯救我們所有人嗎？事實證明，救星隊現在請求暫停。就在最近，我們人工智慧驅動的未來的建築師——「前沿」研究人員和金融重量級人物——集體踩剎車，要求由於「安全問題不斷升級」而放緩開發速度[1]。市場這個生硬的工具，做出了令人窒息的反應：晶片股和主要人工智慧公司暴跌[2]。不出所料，北京對這些警告嗤之以鼻，而首爾的晶片巨頭則對未來人工智慧進步的預付款猶豫不決 [2]。
這不僅是像牙塔里的哲學辯論。這是一個巨大的轉變，公開承認了行業精英內部的魯莽行為。坦白說，這有點太方便了。
人工智慧暫停：利他主義還是權力遊戲？
讓我們明確一點：當製造火箭的人在發射後突然意識到他們忘記了降落傘時，這並不是一個深刻的道德覺醒時刻。這是一場遲來的、自私的爭奪。他們不是睜大眼睛的理想主義者；而是這些巨頭一直在全力以赴，追逐指數級成長和市場主導地位。現在，隨著「不可預見的後果」的幽靈越來越大——也許，更諷刺的是，他們意識到目前的步伐是不可持續的，或者他們需要鞏固自己的領先地位——他們呼籲集體喘口氣。
市場的反應很能說明問題。晶片股的下跌不僅是因為恐懼；這是關於潛在經濟放緩對直接財務影響的問題。北京的反擊？這是一個明確的訊號，顯示國家戰略優勢勝過抽象的安全疑慮。首爾的晶片製造商拒絕預付款？這是資本對突然不確定的未來的長期穩定性和獲利能力提出質疑的聲音。
對於我們技術長和工程主管來說，這直接轉化為混亂的局面。預計監管幹預將會加速，迫使人工智慧計畫重新確定優先順序。人工智慧的「快速行動，打破常規」的精神已經正式消亡，取而代之的是對「道德人工智慧開發」框架的瘋狂搜索，而這些框架本應從第一天起就被納入其中。投資將變得更加謹慎，策略將會轉變，是的，隨著淘金熱讓位給更謹慎、希望也更負責任的方法，就業市場將會感到寒意。但我們不要誤認為這是純粹的利他主義。這種「暫停」既關乎真正的安全，也關乎控制和市場重新校準。
當泰坦隊爭論時，基金會崩潰了
現在，當人工智慧菁英面臨生存危機，爭論未來超級智慧的道德規範時，讓我們來談談現在正在展開的非常真實、非常現實、完全災難性的安全危機。
本週，CISA 在其已知利用的漏洞目錄中新增了多個新的 CVE [3]。我們討論的是思科安全電子郵件閘道 (CVE-2023-20269) [4] 中已確認的根 RCE、GitLab 中的 CVSS 10.0 路徑遍歷 (CVE-2023-2825) [3]，以及最近修補的 Chrome 零日漏洞 (CVE-2023-4863) [3-4863)，需要立即關注。
但真正讓每位安全專業人員尖叫的真正打擊是基礎性缺陷的持續威脅。以 CVE-2021-1647 為例，它是 Microsoft Defender 惡意軟體保護引擎中的本地權限提升漏洞 [5]。這並不是什麼不起眼的缺陷；而是一個缺陷。它進行了公開的概念驗證，並在野外被積極利用，突顯了我們數位防禦的關鍵組成部分如何受到損害並在一段時間內保持脆弱。
讓我們理解這一點。當我們討論人工智慧感知的道德規範時，旨在保護我們的端點（我們數位防禦的基礎層）的軟體已被證明存在眾所周知的、被積極利用的缺陷，這些缺陷允許攻擊者提升特權。這就像在汽車煞車失靈、引擎著火時爭論曲速驅動的哲學意義一樣。
清算：同一枚硬幣的兩面
這些不是單獨的故事。它們是同一個有嚴重缺陷的硬幣的兩面：科技業始終優先考慮速度、新穎性和感知創新，而不是基本的安全、穩定和責任。
人工智慧領導者突然呼籲放慢速度，是一種反應性的、自私的嘗試，在他們已經將強大的、人們知之甚少的系統釋放到野外之後，試圖糾正方向。這承認「快速行動，打破陳規」的口號，當應用於可能改變世界的技術時，不僅是不負責任的，而且是危險的。
零時差攻擊，尤其是關鍵的 Defender 漏洞，是將同樣的思考方式應用於基礎 IT 所帶來的直接、痛苦的後果。這是一種文化的結果，這種文化通常將安全視為事後的想法、合規性複選框或成本中心，而不是每個產品和系統不可或缺的、不可協商的組件。我們如此忙於追逐下一個閃亮的目標——下一個法學碩士、下一個人工智慧代理商——以至於我們腳下的土地腐爛了。
對於首席技術官和工程主管來說，這個訊息是明確而直接的。別再追逐你的動態中的每一個人工智慧趨勢了。加倍關注基本面。優先考慮修補，尤其是針對關鍵的、積極利用的漏洞，例如 Cisco、GitLab 中的漏洞，以及 Defender 過去的 LPE 所體現的持續威脅。實施強而有力的緩解措施。要求供應商對其安全狀況負責，而不僅僅是其功能路線圖。
市場暴跌和未解決的基本安全問題不僅僅是新聞。他們是一個清算。科技世界太快、太魯莽，最後，太暴露。是時候成長起來，鞏固我們的基礎，然後，只有到那時，謹慎考慮下一個前沿領域。
來源
[1] 生命未來研究所 — 暫停巨型人工智慧實驗：一封公開信 — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — 人工智慧專家呼籲暫停先進人工智慧系統的開發 — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — 已知被利用的漏洞目錄 — https://www.cisa.gov/known-exploited-vulnerability-catalog [4] 思科安全諮詢 - 思科安全電子郵件和 Web 管理員、思科電子郵件安全設備和思科網路安全設備漏洞 - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft 安全回應中心 — Microsoft Defender 本機權限升級漏洞 — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647