AI 减速会让人分心。你的房子着火了。
坦白说：科技行业终于迎来了人工智能的“来到耶稣身边”的时刻，但这感觉不像是真正的悔改，而更像是一个战略支点。突然间，这场危险的人工智能竞赛的缔造者——著名的研究人员和资助他们的咖啡因冲刺的金融家——开始呼吁放慢速度[1]。他们谈论的是“内部治理”、“道德框架”和“更加审慎”的步伐。而作为敏感晴雨表的市场已经做出了反应，担心人工智能投资的可持续性会导致芯片股的波动[2]。
这不是外部监管；而是外部监管。这是人工智能生态系统本身出现的内部“断层线”。当最高管理层争论他们未来创作的哲学含义时，现在正在积极燃烧。
方便的暂停
考虑一下时机。多年来，口号一直是“快速行动，打破常规”，或者最近，“快速行动，构建 AGI”。现在，随着强大的模型已经部署，竞争格局已基本确定，实际的、有意义的监管的幽灵迫在眉睫，谨慎的呼吁听起来有点空洞。这是对深刻风险的真正觉醒，还是在干草叉出现之前巩固权力、减缓竞争对手并管理公众认知的精心策划的策略？
当你已经垄断了计算、人才和基础模型市场时，很容易宣扬谨慎态度。该行业突然将重点放在“重新评估产品路线图、风险评估和战略规划”上，这听起来很崇高，但听起来也像是一种重新调整资源的便捷方式。这可能会减缓开源替代品或较小参与者的速度，这些参与者可能会通过控制对基本资源的访问或影响监管框架来挑战现有的巨头。 “道德框架”突然变得至关重要，不是当模型根据抓取的数据进行训练时，而是现在它们强大到足以真正重塑社会。
学术界和科学界表达了担忧，警告人工智能解决开放问题的“解决方案”可能会威胁其领域的完整性[3]，这清楚地表明了这种内部担忧的深度。但我们不要误认为这是利他主义。这与人工智能对就业或基础设施的影响无关；而是关于人工智能对就业或基础设施的影响。这是关于“控制”——谁来运用它，以什么速度来运用它。争论的焦点不是“我们应该建造它吗？”以及更多关于“谁来决定我们建造它的速度，以及谁获利？”
当他们争论未来时，你的现在却受到了损害
现在，让我们从对人工智能内部裂痕的抽象的、展望未来的担忧转向“现在”我们网络上正在展开的直接的、有形的危机。当人工智能巨头思考其机器的灵魂时，您的运营团队正在忙于遏制一场全面的网络安全灾难。
我们不是在谈论理论上的威胁或总体趋势。我们谈论的是积极利用基础企业软件中的零日漏洞，以大锤的力量打击关键基础设施。
- Ivanti Connect Secure 和 Policy Secure（CVE-2023-46805 和 CVE-2024-21887）： 这不仅仅是一个错误；它是一个错误。这是一个裂开的伤口。 Ivanti VPN 和网络访问解决方案中的这些漏洞已被积极利用，攻击者可以绕过身份验证并执行远程命令。 CISA 已发布多项警告，强调依赖这些系统进行安全远程访问的组织面临的严重风险 [4]。您的主要网络防御是您在门口阻止坏人所依赖的一件事，但它正被积极地利用来授予攻击者对无数企业网络的深度访问权限。
- Cisco IOS XE Web UI (CVE-2023-20198)： 最高严重性。积极利用。此漏洞允许未经身份验证的攻击者创建特权帐户并获得对受影响的 Cisco IOS XE 设备的完全控制。如果攻击者拥有您的网络基础设施的管理平面，那么他们就拥有您的整个网络。游戏结束[5]。
CISA 发出“警告”并不是为了好玩；而是为了好玩。他们在拥挤的剧院里尖叫着“着火了”。这些不仅仅是理论上的威胁，而且是现实中的威胁。它们被积极用来破坏全球企业的核心防御和管理系统。
真正的断层线
讽刺意味如此之深，你可以用钝刀将其切开。一方面，人工智能精英们正在争论他们仍在建设的未来的伦理影响，呼吁在多年不受控制的加速之后放缓速度。另一方面，我们的“当前”基础技术面临着直接的生存威胁，这些技术在未解决、未修补的漏洞的重压下正在崩溃。
真正的“断层线”不仅存在于人工智能社区内部，也存在于人工智能社区内部。它位于创新的象牙塔和运营现实的战壕之间。这是关于人工智能“自我监管”的抽象的、着眼于未来的讨论，以及我们今天所依赖的系统对“实际”安全性和稳定性的直接、具体的需求。
作为首席技术官和工程主管，我们不能因为人工智能放缓的哲学争论而分心。虽然这些讨论从长远来看很重要，但当你的房子着火时，它们就成了奢侈。 “重新评估产品路线图”应该从巩固我们现有基础设施摇摇欲坠的基础开始。 “风险评估”需要优先考虑当前正在损害运营连续性和数据完整性的直接、积极利用的威胁。
该行业的优先事项存在偏差。我们正在不断腐烂的基础上建造更快、更闪亮的东西。呼吁人工智能放慢速度可能是一次必要的对话，但对于我们这些在现场处理 Ivanti 和思科零日漏洞的人来说，感觉就像在屋顶塌陷时争论窗帘的颜色。专注于现在。未来可以等到我们不再流血为止。
来源
[1]一封暂停巨型人工智能实验的公开信 — https://futureoflife.org/open-letter-pause-ai-development/ [2] 人工智能股票飙升，但一些投资者变得紧张 — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] 科学领域的人工智能革命：承诺与危险 — https://www.nature.com/articles/d41586-023-03223-y [4] 威胁行为者利用 Ivanti Connect Secure 和 Ivanti Policy Secure 漏洞 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] 威胁行为者利用 Cisco IOS XE 软件 Web UI 漏洞 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a