皇帝的新人工智能安全服：当我们凝视缪斯时，基础崩溃了
让我们直接说吧：科技行业有一个新的痴迷，它被称为“人工智能安全”。我们都应该关注快速注入、模型中毒和大型语言模型的数据泄露。与此同时，将我们企业联系在一起的实际物理数字基础设施正被无情的零日攻击所点燃。最近涉及一个主要人工智能平台的事件说明了保护人工智能基础设施面临的更广泛挑战，凸显了这种危险的二分法[1]。
Meta 是一家以“快速行动、打破常规”精神而闻名的公司，因其人工智能平台的安全缺陷而面临审查。例如，错误赏金计划发现了一个暴露用户虚拟机的重大缺陷。这不是微妙的数据泄漏或巧妙的提示绕过，而是暴露用户虚拟机的根本性基础设施级错误。这不是什么深奥的人工智能特定漏洞；这是基本的虚拟机隔离，十年前我们基本上认为这个问题已经得到解决。它代表着对隐私和数据完整性的严重侵犯，直接影响利用此类人工智能基础设施的用户和潜在企业客户。
这种类型的缺陷虽然确实具有影响力，但感觉不像是一个新颖的“人工智能安全”挑战，而更像是戴着人工智能帽子的经典基础设施故障。这提醒我们，即使是最先进的人工智能平台也是建立在传统计算、网络和虚拟化层之上的。如果这些基础层千疮百孔，那么无论你的人工智能模型多么复杂，都毫无意义。整个系统仍然脆弱。这个故事的“人工智能”方面几乎是一种干扰，一种误导，使我们的目光从抛光地板下腐烂的木材上移开。
CISA 的 KEV 弹幕：一个关键指标
当我们忙于争论有感知力的聊天机器人的道德影响和人工智能安全的细微差别时，CISA 正在将数量空前的主动利用漏洞纳入其已知利用漏洞 (KEV) 目录中。这不是一个理论练习。这不是一个“有一天会发布补丁”的列表。这是一份紧急的“你的房子现在着火了”清单。
最近几周，CISA 增加了大量条目，使活跃利用的漏洞总数在短时间内达到惊人的数量 [2]。这不仅仅是“安全性很差”；而是“安全性很差”。这是一场系统性的、不断升级的危机，影响着运行我们世界的非常关键的企业软件。
考虑一下 KEV 目录中最近添加的内容：
- CVE-2023-46214： Splunk Enterprise 远程代码执行漏洞 (CVSS 9.8)，具有 CISA 补丁截止日期，使得未修补的系统高度脆弱。
- CVE-2023-29357： Microsoft SharePoint Server 权限提升漏洞，影响无数企业内部网的主干网。
- CVE-2023-42824： Apple iOS/iPadOS 内核漏洞，已在针对性攻击中被利用，这表明即使受控的生态系统也并非坚不可摧。
- CVE-2023-30799： MikroTik RouterOS 远程代码执行缺陷，影响连接所有设备的路由器，并且通常在网络最深处未修补。
主要供应商（微软、苹果、Splunk、MikroTik、Linux、JFrog）迅速增加了被积极利用的零日漏洞，需要立即、疯狂的关注。这不是一般性警告；这是直接向每个 IT 和安全团队发出的警报。 CISA 的 KEV 列表不仅是对联邦机构的建议，也是对联邦机构的建议。这对“所有”组织来说都是一个严重警告。忽略它后果自负。
“人工智能安全”的幻想和分心的成本
这是一个令人不安的事实：AI 平台的基本缺陷和 CISA KEV 弹幕是同一问题的相互关联的方面。他们都对软件安全的根本性崩溃大喊大叫，但我们行业的集体目光却出现了危险的偏差。我们对“人工智能”的承诺和危险如此着迷，以至于我们让基础的数字基础设施腐烂。
“人工智能安全”已成为一个流行词，成为顾问和产品经理的新领域。但它到底是什么？通常，它只是应用于人工智能系统的“安全”。是的，人工智能引入了新的攻击媒介和独特的挑战，但“人工智能安全”的很大一部分只是强大的工程、安全的编码实践和勤奋的修补——这也是我们几十年来一直失败的东西。前面提到的虚拟机隔离问题就是一个完美的例子：一个因人工智能平台的复杂性而放大的经典漏洞。
我们正在日益脆弱且被积极利用的基础之上构建极其复杂的人工智能系统。这就像精心设计一辆配备先进人工智能导航的自动驾驶汽车，而车轮却在脱落，发动机在发出吱吱声。对“人工智能安全”的关注常常让人感觉分散了注意力，将资源和注意力从平凡、乏味但绝对关键的保护现有基础设施的工作上转移了。
我们是否如此忙于追逐下一个大事，而让当前的大事烧毁？ KEV 威胁的数量和广度表明基础数字基础设施面临系统性和紧迫的挑战，这与之前以人工智能为中心的零日讨论不同。这与人工智能的未来无关，而是与人工智能的未来有关。这是关于我们数字存在的现状。
现在怎么办，首席技术官们？
对于工程主管和首席技术官来说，这个信息是明确而直接的：
- 优先考虑 KEV 列表： 放弃一切。修补这些漏洞。强制执行。强制执行。这不是可选的。
- **不要被“人工智能安全”炒作所淹没，而牺牲了基本原理：**是的，了解人工智能的独特风险，但请记住，强大的工程、安全的开发生命周期和勤奋的修补仍然是你最好的防御。如果攻击者拥有您的底层虚拟机或 SharePoint 服务器，那么花哨的 AI 模型也救不了您。
- 投资基础安全： 这不仅仅意味着购买另一个安全工具。这意味着投资于人员、流程和文化，将安全视为核心工程学科，而不是事后的想法。错误赏金计划非常好，但它们应该是一个安全网，而不是您的主要安全策略。
涉及AI平台基础设施的事件是一个警钟，但CISA KEV清单才是紧急警报。我们需要停止欣赏最新的人工智能安全举措，并开始修补我们实际防御中的漏洞。人工智能的未来令人兴奋，但我们目前的安全状况却令人恐惧。
来源
[1] 人工智能安全一团糟，而且还会变得更糟 — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] 已知被利用的漏洞目录 — https://www.cisa.gov/known-exploited-vulnerability-catalog