AI 減速會讓人分心。你的房子著火了。
坦白說：科技業終於迎來了人工智慧的「來到耶穌身邊」的時刻，但這感覺不像是真正的悔改，而更像是一個戰略支點。突然間，這場危險的人工智慧競賽的創造者——著名的研究人員和資助他們的咖啡因衝刺的金融家——開始呼籲放慢速度[1]。他們談論的是「內部治理」、「道德框架」和「更審慎」的步伐。而作為敏感晴雨表的市場已經做出了反應，擔心人工智慧投資的可持續性會導致晶片股的波動[2]。
這不是外部監管；而是外部監管。這是人工智慧生態系統本身出現的內部「斷層線」。當最高管理層爭論他們未來創作的哲學含義時，現在正在積極燃燒。
方便的暫停
考慮一下時機。多年來，口號一直是“快速行動，打破常規”，或者最近，“快速行動，構建 AGI”。現在，隨著強大的模型已經部署，競爭格局已基本確定，實際的、有意義的監管的幽靈迫在眉睫，謹慎的呼籲聽起來有點空洞。這是對深刻風險的真正覺醒，還是在乾草叉出現之前鞏固權力、減緩競爭對手並管理公眾認知的精心策劃的策略？
當你已經壟斷了計算、人才和基礎模型市場時，很容易宣揚謹慎態度。該行業突然將重點放在「重新評估產品路線圖、風險評估和策略規劃」上，這聽起來很崇高，但聽起來也像是一種重新調整資源的便捷方式。這可能會減緩開源替代品或較小參與者的速度，這些參與者可能會透過控制對基本資源的存取或影響監管框架來挑戰現有的巨頭。 「道德框架」突然變得至關重要，不是當模型根據抓取的資料進行訓練時，而是現在它們強大到足以真正重塑社會。
學術界和科學界表達了擔憂，警告人工智慧解決開放問題的「解決方案」可能會威脅其領域的完整性[3]，這清楚地表明了這種內部擔憂的深度。但我們不要誤認為這是利他主義。這與人工智慧對就業或基礎設施的影響無關；而是關於人工智慧對就業或基礎設施的影響。這是關於「控制」——誰來運用它，以什麼速度來運用它。爭論的焦點不是“我們應該建造它嗎？”以及更多關於“誰來決定我們建造它的速度，以及誰獲利？”
當他們爭論未來時，你的現在卻受到了損害
現在，讓我們從對人工智慧內部裂痕的抽象的、展望未來的擔憂轉向「現在」我們網路上正在展開的直接的、有形的危機。當人工智慧巨頭思考其機器的靈魂時，您的營運團隊正忙於遏制一場全面的網路安全災難。
我們不是在談論理論上的威脅或整體趨勢。我們談論的是積極利用基礎企業軟體中的零日漏洞，以大錘的力量打擊關鍵基礎設施。
- Ivanti Connect Secure 和 Policy Secure（CVE-2023-46805 和 CVE-2024-21887）： 這不僅僅是一個錯誤；它是一個錯誤。這是一個裂開的傷口。 Ivanti VPN 和網路存取解決方案中的這些漏洞已被積極利用，攻擊者可以繞過身份驗證並執行遠端命令。 CISA 已發布多項警告，強調依賴這些系統進行安全遠端存取的組織面臨的嚴重風險 [4]。您的主要網路防禦是您在門口阻止壞人所依賴的一件事，但它正被積極地利用來授予攻擊者對無數企業網路的深度存取權限。
- Cisco IOS XE Web UI (CVE-2023-20198)： 最高嚴重性。積極利用。此漏洞允許未經身份驗證的攻擊者建立特權帳戶並獲得對受影響的 Cisco IOS XE 設備的完全控制。如果攻擊者擁有您的網路基礎架構的管理平面，那麼他們就擁有您的整個網路。遊戲結束[5]。
CISA 發出「警告」並不是為了好玩；而是為了好玩。他們在擁擠的劇院裡尖叫著「著火了」。這些不僅是理論上的威脅，而且是現實中的威脅。它們被積極用來破壞全球企業的核心防禦和管理系統。
真正的斷層線
諷刺意味如此之深，你可以用鈍刀將其切開。一方面，人工智慧菁英們正在爭論他們仍在建立的未來的倫理影響，呼籲在多年不受控制的加速之後放緩速度。另一方面，我們的「當前」基礎技術面臨直接的生存威脅，這些技術在未解決、未修補的漏洞的重壓下正在崩潰。
真正的「斷層線」不僅存在於人工智慧社群內部，也存在於人工智慧社群內部。它位於創新的象牙塔和營運現實的戰壕之間。這是關於人工智慧「自我監管」的抽象的、著眼於未來的討論，以及我們今天所依賴的系統對「實際」安全性和穩定性的直接、具體的需求。
身為技術長和工程主管，我們不能因為人工智慧放緩的哲學爭論而分心。雖然這些討論從長遠來看很重要，但當你的房子著火時，它們就成了奢侈。 「重新評估產品路線圖」應該從鞏固我們現有基礎設施搖搖欲墜的基礎開始。 「風險評估」需要優先考慮當前正在損害營運連續性和資料完整性的直接、積極利用的威脅。
該行業的優先事項存在偏差。我們正在不斷腐爛的基礎上建造更快、更閃亮的東西。呼籲人工智慧放慢速度可能是必要的對話，但對於我們這些在現場處理 Ivanti 和思科零日漏洞的人來說，感覺就像在屋頂塌陷時爭論窗簾的顏色。專注於現在。未來可以等到我們不再流血為止。
來源
[1]一封暫停巨型人工智慧實驗的公開信 — https://futureoflife.org/open-letter-pause-ai-development/ [2] 人工智慧股票飆升，但一些投資者變得緊張 — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] 科學領域的人工智慧革命：承諾與危險 — https://www.nature.com/articles/d41586-023-03223-y [4] 威脅行為者利用 Ivanti Connect Secure 和 Ivanti Policy Secure 漏洞 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] 威脅行為者利用 Cisco IOS XE 軟體 Web UI 漏洞 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a