皇帝の新たな AI 警備服: ミューズを見つめている間に財団は崩壊する
率直に言ってみましょう。テクノロジー業界は新たな関心を持っており、それは「AI セキュリティ」と呼ばれています。私たちは皆、即時インジェクション、モデルポイズニング、大規模な言語モデルからのデータ抽出に重点を置くことが期待されています。 Meanwhile, the actual, physical, digital infrastructure holding our enterprises together is actively being set on fire by a relentless barrage of zero-days. A recent incident involving a major AI platform, illustrative of the broader challenges in securing AI infrastructure, highlights this dangerous dichotomy [1].
Meta は「迅速に行動し、物事を打ち破る」という理念で知られる企業ですが、自社の AI プラットフォームのセキュリティ上の欠陥を巡って厳しい監視に直面しています。たとえば、バグ報奨金プログラムにより、ユーザーの仮想マシンを暴露する重大な欠陥が発見されました。これは、微妙なデータ漏洩や巧妙なプロンプトのバイパスではなく、ユーザー VM を危険にさらす根本的なインフラストラクチャ レベルのエラーでした。これは難解な AI 固有の脆弱性ではありません。これは基本的な VM 分離であり、10 年前にほとんど解決されたと思われていた問題です。 It represents a critical breach of privacy and data integrity, directly impacting users and potentially enterprise clients leveraging such AI infrastructure.
This type of flaw, while genuinely impactful, feels less like a novel "AI security" challenge and more like a classic infrastructure failure wearing an AI hat.これは、最先端の AI プラットフォームでさえ、従来のコンピューティング、ネットワーキング、仮想化のレイヤーの上に構築されているということを思い出させます。これらの基礎層が穴だらけであれば、AI モデルがどれほど洗練されていても意味がありません。システム全体が脆弱なままです。 The "AI" aspect of this story is almost a distraction, a misdirection that draws our gaze away from the rotting timbers beneath the polished floorboards.
CISA の KEV 集中砲火: 重要な指標
While we're busy debating the ethical implications of sentient chatbots and the nuances of AI safety, CISA is dropping an unprecedented number of actively exploited vulnerabilities into its Known Exploited Vulnerabilities (KEV) catalog.これは理論的な演習ではありません。これは「いつかパッチを適用する」というリストではありません。これは緊急の「あなたの家は今燃えています*」リストです。
In recent weeks, CISA has added numerous entries, bringing the total of actively exploited vulnerabilities to a staggering number in a short period [2].これは単に「セキュリティが悪い」というだけではありません。これは、世界を運営する非常に重要なエンタープライズ ソフトウェアに影響を与える、体系的で拡大する危機です。
KEV カタログに最近追加されたものを考えてみましょう。
- CVE-2023-46214: A Splunk Enterprise remote code execution vulnerability (CVSS 9.8) with a CISA patch deadline, making unpatched systems highly vulnerable.
- CVE-2023-29357: A Microsoft SharePoint Server privilege escalation vulnerability, affecting the backbone of countless corporate intranets.
- CVE-2023-42824: An Apple iOS/iPadOS kernel vulnerability, already exploited in targeted attacks, demonstrating that even controlled ecosystems are not impenetrable.
- CVE-2023-30799: A MikroTik RouterOS remote code execution flaw, impacting the routers that connect everything, often left unpatched in the deepest corners of the network.
This rapid-fire addition of actively exploited zero-days across major vendors – Microsoft, Apple, Splunk, MikroTik, Linux, JFrog – demands immediate, frantic attention.これは一般的な警告ではありません。それはあらゆる IT チームとセキュリティ チームに向かって直接鳴り響くサイレンです。 CISA の KEV リストは、連邦政府機関に対する単なる提案ではありません。これは すべての 組織に対する重要な警告です。危険を承知で無視してください。
「AI セキュリティ」という幻想と気を散らすコスト
ここに不快な真実があります。AI プラットフォームの根本的な欠陥と CISA KEV の集中砲火は、同じ問題の相互に関連した側面です。どちらもソフトウェアセキュリティの根本的な崩壊について叫んでいますが、私たちの業界全体の視線は危険なほどずれています。私たちは「AI」の可能性と危険性にとらわれすぎて、基礎的なデジタルインフラを腐らせています。
「AI セキュリティ」はバズワードとなり、コンサルタントやプロダクト マネージャーにとっては新たな領域となっています。しかし、実際のところ、それは何でしょうか？多くの場合、それは AI システムに適用される単なる セキュリティ です。確かに、AI は新たな攻撃ベクトルと独特の課題をもたらしますが、「AI セキュリティ」の重要な部分は単に堅牢なエンジニアリング、安全なコーディングの実践、および熱心なパッチ適用にすぎません。これは私たちが何十年も失敗してきたものと同じものです。前述の VM 分離の問題はその好例です。AI プラットフォームの複雑さによって古典的な脆弱性が増幅されたものです。
私たちは、ますます脆弱になり、積極的に悪用されている基盤の上に、信じられないほど複雑な AI システムを構築しています。それは、車輪が外れ、エンジンが音を立てながら、高度な AI ナビゲーションを備えた自動運転車を綿密に設計するようなものです。 「AI セキュリティ」に焦点を当てると、既存のインフラストラクチャを保護するという平凡で地味ではあるが絶対的に重要な作業からリソースや注意がそらされ、気が散ってしまうように感じることがよくあります。
私たちは次の大きなことを追いかけるのに忙しいあまり、現在の大きなことを無駄にしてしまっていませんか? KEV の脅威の膨大な量と範囲は、これまでの AI 中心のゼロデイ議論とは異なり、基礎的なデジタル インフラストラクチャに対する体系的かつ緊急の課題を示しています。これは AI の将来に関するものではありません。それは私たちのデジタル存在の現状に関するものです。
CTO の皆さん、これからどうしますか?
エンジニアリング リーダーと CTO にとって、メッセージは明確かつ即時です。
- KEV リストに優先順位を付ける: すべてを削除します。これらの脆弱性にパッチを当ててください。それを義務付けてください。それを強制してください。これはオプションではありません。
- 基礎を犠牲にして「AI セキュリティ」の誇大宣伝に巻き込まれないでください。 はい、AI 特有のリスクは理解していますが、堅牢なエンジニアリング、安全な開発ライフサイクル、および熱心なパッチ適用が依然として最善の防御であることを忘れないでください。基盤となる VM や SharePoint サーバーが攻撃者に所有されている場合、派手な AI モデルはあなたを救いません。
- 基礎的なセキュリティに投資する: これは、単に別のセキュリティ ツールを購入するだけではありません。それは、セキュリティを後付けではなく、中核となるエンジニアリング分野として評価する人材、プロセス、文化に投資することを意味します。バグ報奨金プログラムは優れていますが、主要なセキュリティ戦略ではなく、セーフティ ネットであるべきです。
AI プラットフォーム インフラストラクチャに関わる事件は警鐘ですが、CISA KEV リストは緊急の警鐘です。私たちは最新の AI セキュリティへの取り組みを賞賛するのをやめ、実際の防御の穴を補修し始める必要があります。 AI の未来は興味深いものですが、私たちのセキュリティの現状は恐ろしいものです。
ソース
[1] AI セキュリティは混乱しており、さらに悪化しようとしています — https://techcrunch.com/2023/10/11/ai-security-is-a-mess-and-its-about-to-get-worse/ [2] 悪用された既知の脆弱性カタログ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog