数字铁幕降临，我们都在修补跑步机上
全球统一科技未来的愿景正在消退；那个时代已经过去，取而代之的是相互竞争的地缘政治集团。如果你仍然相信“开源”是一种本质上中立、普遍受益的力量，或者人工智能只会简化我们的生活，那么中国金砖国家的人工智能推动和微软人工智能驱动的漏洞发现将挑战这些假设。我们正在见证数字世界的故意、战略性分裂，这将使您的工作变得更具挑战性。
开源，更名：金砖国家人工智能策略
中国提议在金砖国家内率先建立开源大型语言模型（LLM）社区，这不仅仅是一项学术活动；这是一场以对开发者友好的方式呈现的地缘政治权力游戏 [1]。这并不是早期先驱者所设想的开源运动。这是具有国家支持议程的“开源”，是对西方科技主导地位的故意反驳。将其视为人工智能的数字“一带一路”倡议，建立的基础设施和标准将不可避免地与硅谷及其盟友所倡导的基础设施和标准有所不同。
对于首席技术官和工程主管来说，这并不是抽象的政策。这意味着全球人工智能人才库可能出现分歧。您最优秀的研究人员和开发人员会倾向于采用符合西方数据治理和道德准则的模型和框架，还是会在快速扩张的金砖国家生态系统中寻求具有自己独特标准的机会？答案并不简单，它对人才获取和保留的影响是深远的。
此外，这一举措直接挑战了我们对全球技术的期望的互操作性。想象一下这样一个场景：您的“开源”法学硕士在金砖国家一致的数据集上接受培训并遵守其道德框架，但很难与西方开发的应用程序或云服务无缝集成。我们面临着不同的数据治理、潜在不兼容的模型架构以及让 GDPR 看似简单的监管迷宫。这并不是开源人工智能的消亡；而是开源人工智能的消亡。这是它的战略部署，创造了一个非西方的替代方案，将争夺市场份额、思想份额，并最终争夺全球影响力。您的人工智能模型供应链变得更加复杂，您的合规团队将需要更多的资源。
AI 驱动的跑步机：微软的安全“礼物”
现在，让我们从地缘政治战略转向实际操作。微软最近透露，其人工智能驱动的漏洞发现系统正在发现数量显着增加的缺陷 [2]。这导致所需修复数量大幅增加。从表面上看，这听起来像是一场胜利：人工智能通过更快地发现错误来使我们的软件更加安全。但仔细观察，您会发现地球上的每个 IT 和安全团队都面临着一个新的、更快的、更费力的循环。
这并不是关于人工智能利用零日漏洞；而是关于人工智能利用零日漏洞。这是关于人工智能以前所未有的速度“发现”它们。那么，谁负责修补这数百个新发现的漏洞（通常跨越复杂的、互连的企业系统）？那将是您，以及您已经捉襟见肘的团队。人工智能加速了漏洞披露周期，但人类的修补和验证能力却未能神奇地跟上步伐。
这里的“好处”是复合优势。是的，我们的系统可以更加安全，因为我们发现了更多的缺陷。但实际操作情况是工作量不断增加。您的修补策略、资源分配，甚至风险评估模型都需要进行根本性的重新评估。 “补丁星期二”的传统节奏正在成为一个过时的概念，取而代之的是持续的、高强度的冲刺。这不仅仅是为了管理更多补丁；更是为了管理更多补丁。它涉及管理这些补丁的“复杂性”、回归的可能性以及所需的大量变更管理。在这种情况下，人工智能并没有简化安全性；而是简化了安全性。它增加了运营负担，对本已紧张的人力资源提出了更高的要求。
支离破碎的未来
这两项看似截然不同的发展，却描绘了一幅一致的图景：人工智能远不是一种统一或简化的力量，而是正在积极为更加分散和要求更高的技术环境做出贡献。金砖国家人工智能倡议代表了地缘政治的分裂，迫使我们应对不同的标准和生态系统。微软人工智能驱动的补丁意味着操作碎片化，发现的速度超过了管理的便捷性，导致永久的被动工作。
作为技术领导者，我们不能再抱有天真的乐观态度。数字世界正在分裂，我们构建的工具，甚至是那些为防御而设计的工具，创造新挑战的速度比解决旧挑战的速度还要快。您的战略规划现在必须考虑到全球人工智能市场的分歧，其中“开源”有多个可能相互冲突的定义。您的运营团队必须为持续的、人工智能加速的安全维护周期做好准备，这将测试他们的极限。未来的重点不是降低复杂性，而是降低复杂性。它是关于在日益分散的领域中更快地管理更多数据。适应，否则就冒着无关紧要的风险。
来源
[1] 中国提出金砖国家开源人工智能平台 — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-development-nations [2] Microsoft 安全博客：人工智能如何帮助我们保护客户 — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/