皇帝的新人工智能，以及它下面腐烂的基础
还记得人工智能何时拯救我们所有人吗？事实证明，救星队现在请求暂停。就在最近，我们人工智能驱动的未来的建筑师——“前沿”研究人员和金融重量级人物——集体踩刹车，要求由于“安全问题不断升级”而放缓开发速度[1]。市场这个生硬的工具，做出了令人窒息的反应：芯片股和主要人工智能公司暴跌[2]。不出所料，北京对这些警告嗤之以鼻，而首尔的芯片巨头则对未来人工智能进步的预付款犹豫不决 [2]。
这不仅仅是象牙塔里的哲学辩论。这是一个巨大的转变，公开承认了行业精英内部的鲁莽行为。坦白说，这有点太方便了。
人工智能暂停：利他主义还是权力游戏？
让我们明确一点：当制造火箭的人在发射后突然意识到他们忘记了降落伞时，这并不是一个深刻的道德觉醒时刻。这是一场迟来的、自私的争夺。他们不是睁大眼睛的理想主义者；而是这些巨头一直在全力以赴，追逐指数级增长和市场主导地位。现在，随着“不可预见的后果”的幽灵越来越大——也许，更讽刺的是，他们意识到目前的步伐是不可持续的，或者他们需要巩固自己的领先地位——他们呼吁集体喘口气。
市场的反应很能说明问题。芯片股的下跌不仅仅是因为恐惧；这是关于潜在经济放缓对直接财务影响的问题。北京的反击？这是一个明确的信号，表明国家战略优势胜过抽象的安全担忧。首尔的芯片制造商拒绝预付款？这是资本对突然不确定的未来的长期稳定性和盈利能力提出质疑的声音。
对于我们首席技术官和工程主管来说，这直接转化为混乱的局面。预计监管干预将会加速，迫使人工智能项目重新确定优先顺序。人工智能的“快速行动，打破常规”的精神已经正式消亡，取而代之的是对“道德人工智能开发”框架的疯狂搜索，而这些框架本应从第一天起就被纳入其中。投资将变得更加谨慎，战略将发生转变，是的，随着淘金热让位于更加谨慎、希望也更加负责任的方法，就业市场将会感到寒意。但我们不要误认为这是纯粹的利他主义。这种“暂停”既关乎真正的安全，也关乎控制和市场重新校准。
当泰坦队争论时，基金会崩溃了
现在，当人工智能精英们面临生存危机，争论未来超级智能的道德规范时，让我们来谈谈现在正在展开的非常真实、非常现实、完全灾难性的安全危机。
本周，CISA 在其已知利用的漏洞目录中添加了多个新的 CVE [3]。我们讨论的是思科安全电子邮件网关 (CVE-2023-20269) [4] 中已确认的根 RCE、GitLab 中的 CVSS 10.0 路径遍历 (CVE-2023-2825) [3]，以及最近修补的 Chrome 零日漏洞 (CVE-2023-4863) [3]，需要立即关注。
但真正让每一位安全专业人员尖叫的真正打击是基础性缺陷的持续威胁。以 CVE-2021-1647 为例，它是 Microsoft Defender 恶意软件保护引擎中的本地权限提升漏洞 [5]。这并不是什么不起眼的缺陷；而是一个缺陷。它进行了公开的概念验证，并在野外被积极利用，突显了我们数字防御的关键组成部分如何受到损害并在一段时间内保持脆弱。
让我们理解这一点。当我们讨论人工智能感知的道德规范时，旨在保护我们的端点（我们数字防御的基础层）的软件已被证明存在众所周知的、被积极利用的缺陷，这些缺陷允许攻击者提升特权。这就像在汽车刹车失灵、发动机着火时争论曲速驱动的哲学含义一样。
清算：同一枚硬币的两面
这些不是单独的故事。它们是同一个存在严重缺陷的硬币的两个侧面：科技行业始终优先考虑速度、新颖性和感知创新，而不是基本的安全、稳定和责任。
人工智能领导者突然呼吁放慢速度，是一种反应性的、自私的尝试，在他们已经将强大的、人们知之甚少的系统释放到野外之后，试图纠正方向。这承认“快速行动，打破陈规”的口号，当应用于可能改变世界的技术时，不仅是不负责任的，而且是危险的。
零日攻击，尤其是关键的 Defender 漏洞，是将同样的思维方式应用于基础 IT 所带来的直接、痛苦的后果。这是一种文化的结果，这种文化通常将安全视为事后的想法、合规性复选框或成本中心，而不是每个产品和系统不可或缺的、不可协商的组件。我们如此忙于追逐下一个闪亮的目标——下一个法学硕士、下一个人工智能代理——以至于我们脚下的土地腐烂了。
对于首席技术官和工程主管来说，这个信息是明确而直接的。别再追逐你的动态中的每一个人工智能趋势了。加倍关注基本面。优先考虑修补，尤其是针对关键的、被积极利用的漏洞，例如 Cisco、GitLab 中的漏洞，以及 Defender 过去的 LPE 所体现的持续威胁。实施强有力的缓解措施。要求供应商对其安全状况负责，而不仅仅是其功能路线图。
市场暴跌和未解决的基本安全问题不仅仅是新闻。他们是一个清算。科技世界太快、太鲁莽，最后，太暴露。是时候成长起来，巩固我们的基础，然后，只有到那时，谨慎考虑下一个前沿领域。
来源
[1] 生命未来研究所 — 暂停巨型人工智能实验：一封公开信 — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — 人工智能专家呼吁暂停先进人工智能系统的开发 — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — 已知被利用的漏洞目录 — https://www.cisa.gov/known-exploited-vulnerability-catalog [4] 思科安全咨询 - 思科安全电子邮件和 Web 管理器、思科电子邮件安全设备和思科网络安全设备漏洞 - https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft 安全响应中心 — Microsoft Defender 本地权限升级漏洞 — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647