數位鐵幕降臨，我們都在修補跑步機上
全球統一科技未來的願景正在消退；那個時代已經過去，取而代之的是相互競爭的地緣政治集團。如果你仍然相信「開源」是一種本質上中立、普遍受益的力量，或者人工智慧只會簡化我們的生活，那麼中國金磚國家的人工智慧推動和微軟人工智慧驅動的漏洞發現將挑戰這些假設。我們正在見證數位世界的故意、策略性分裂，這將使您的工作變得更具挑戰性。
開源，更名：金磚國家人工智慧策略
中國提議在金磚國家內率先建立開源大型語言模型（LLM）社區，這不僅僅是一項學術活動；這是一場以對開發者友好的方式呈現的地緣政治權力遊戲 [1]。這並不是早期先驅者所設想的開源運動。這是具有國家支持議程的“開源”，是對西方科技主導地位的故意反駁。將其視為人工智慧的數位「一帶一路」倡議，建立的基礎設施和標準將不可避免地與矽谷及其盟友所倡導的基礎設施和標準有所不同。
對於首席技術長和工程主管來說，這並不是抽象的政策。這意味著全球人工智慧人才庫可能出現分歧。您最優秀的研究人員和開發人員會傾向於採用符合西方資料治理和道德準則的模型和框架，還是會在快速擴張的金磚國家生態系統中尋求具有自己獨特標準的機會？答案並不簡單，它對人才獲取和保留的影響是深遠的。
此外，這項舉措直接挑戰了我們對全球技術的期望的互通性。想像一下這樣一個場景：您的「開源」法學碩士在金磚國家一致的數據集上接受培訓並遵守其道德框架，但很難與西方開發的應用程式或雲端服務無縫整合。我們面臨著不同的資料治理、潛在不相容的模型架構以及讓 GDPR 看似簡單的監管迷宮。這並不是開源人工智慧的消亡；而是開源人工智慧的消亡。這是它的戰略部署，創造了一個非西方的替代方案，將爭奪市場份額、思想份額，並最終爭奪全球影響力。您的人工智慧模型供應鏈變得更加複雜，您的合規團隊將需要更多的資源。
AI 驅動的跑步機：微軟的安全“禮物”
現在，讓我們從地緣政治戰略轉向實際操作。微軟最近透露，其人工智慧驅動的漏洞發現系統正在發現數量顯著增加的缺陷 [2]。這導致所需修復數量大幅增加。從表面上看，這聽起來像是一場勝利：人工智慧透過更快地發現錯誤來使我們的軟體更加安全。但仔細觀察，您會發現地球上的每個 IT 和安全團隊都面臨著一個新的、更快的、更費力的循環。
這並不是關於人工智慧利用零日漏洞；而是關於人工智慧利用零日漏洞。這是關於人工智慧以前所未有的速度「發現」它們。那麼，誰負責修補這數百個新發現的漏洞（通常跨越複雜的、互連的企業系統）？那將是您，以及您已經捉襟見肘的團隊。人工智慧加速了漏洞揭露週期，但人類的修補和驗證能力卻未能神奇地跟上腳步。
這裡的「好處」是複合優勢。是的，我們的系統可以更安全，因為我們發現了更多的缺陷。但實際操作情況是工作量不斷增加。您的修補策略、資源分配，甚至風險評估模型都需要根本性的重新評估。 「補丁星期二」的傳統節奏正在成為一個過時的概念，取而代之的是持續的、高強度的衝刺。這不僅是為了管理更多補丁；更是為了管理更多補丁。它涉及管理這些補丁的「複雜性」、回歸的可能性以及所需的大量變更管理。在這種情況下，人工智慧並沒有簡化安全性；而是簡化了安全性。它增加了營運負擔，對本已緊張的人力資源提出了更高的要求。
支離破碎的未來
這兩項看似截然不同的發展，卻描繪了一幅一致的圖景：人工智慧遠非一種統一或簡化的力量，而是積極為更加分散和要求更高的技術環境做出貢獻。金磚國家人工智慧倡議代表了地緣政治的分裂，迫使我們應對不同的標準和生態系統。微軟人工智慧驅動的修補程式意味著營運碎片化，發現的速度超過了管理的便利性，導致永久的被動工作。
身為技術領導者，我們不能再抱持天真的樂觀態度。數位世界正在分裂，我們建構的工具，甚至是那些為防禦而設計的工具，創造新挑戰的速度比解決舊挑戰的速度還要快。您的策略規劃現在必須考慮到全球人工智慧市場的分歧，其中「開源」有多個可能相互衝突的定義。您的營運團隊必須為持續的、人工智慧加速的安全維護週期做好準備，這將測試他們的極限。未來的重點不是降低複雜性，而是降低複雜性。它是關於在日益分散的領域中更快地管理更多數據。適應，否則就冒著無關緊要的風險。
來源
[1] 中國提出金磚國家開源人工智慧平台 — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-development-nations [2] Microsoft 安全部落格：人工智慧如何協助我們保護客戶 — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/