デジタルの鉄のカーテンが下り、私たちは皆パッチ適用のトレッドミルに乗っています
世界的に統一されたテクノロジーの未来というビジョンは後退しつつあります。その時代は過ぎ、競合する地政学的ブロックに取って代わられました。 「オープンソース」が本質的に中立で普遍的に有益な力である、あるいは AI が単に私たちの生活を簡素化してくれるだけだとまだ信じているのであれば、中国の BRICS AI 推進と Microsoft の AI 主導の脆弱性発見はそれらの前提に疑問を投げかけることになるでしょう。私たちはデジタル世界の意図的かつ戦略的な断片化を目の当たりにしており、それによってあなたの仕事はさらに困難なものになるでしょう。
オープンソース、ブランド変更: BRICS AI ギャンビット
BRICS内でオープンソースの大規模言語モデル（LLM）コミュニティを主導するという中国の提案は、単なる学術的な取り組みではない。これは、開発者向けの用語で表現された地政学的な権力闘争です [1]。これは、初期の先駆者たちが思い描いていたようなオープンソース運動ではありません。これは国家の支援を受けた「オープンソース」であり、西側のテクノロジーの優位性に対する意図的な対抗策です。これは、シリコンバレーとその同盟国が支持するものとは必然的に異なるインフラストラクチャと標準を確立する、AI のためのデジタル一帯一路構想と考えてください。
CTO やエンジニアリング リードにとって、これは抽象的なポリシーではありません。これは、世界の AI 人材プールが二分化する可能性を示唆しています。優秀な研究者や開発者は、西側のデータガバナンスや倫理ガイドラインに沿ったモデルやフレームワークに惹かれるのでしょうか、それとも、独自の基準を持つ急速に拡大するBRICSエコシステム内で機会を追求するのでしょうか?答えは簡単ではなく、人材の獲得と維持に与える影響は深刻です。
さらに、この動きは、私たちがグローバルテクノロジーに期待する相互運用性に直接挑戦します。 BRICS に準拠したデータセットでトレーニングされ、倫理フレームワークを遵守している「オープンソース」LLM が、西側開発のアプリケーションやクラウド サービスとシームレスに統合するのに苦労しているシナリオを想像してください。私たちは、多様なデータ ガバナンス、互換性のない可能性のあるモデル アーキテクチャ、GDPR を簡単に見せかける規制の迷路に直面しています。これはオープンソース AI の終焉ではありません。それは戦略的展開であり、市場シェア、マインドシェア、そして最終的には世界的な影響力をめぐって競争する非西洋的代替手段を生み出すことです。 AI モデルのサプライ チェーンははるかに複雑になり、コンプライアンス チームにはより多くのリソースが必要になります。
AI 搭載トレッドミル: Microsoft のセキュリティ「ギフト」
さて、地政学的戦略から作戦上の現実に話を移しましょう。 Microsoft は最近、AI を活用した脆弱性発見システムによって発見される欠陥の数が大幅に増加していることを明らかにしました [2]。これにより、必要な修正が大幅に増加します。表面的には、これは勝利のように聞こえます。AI はバグをより迅速に発見することで、ソフトウェアの安全性を高めています。しかし、よく見てみると、地球上のすべての IT チームとセキュリティ チームにとって、新しく、より速く、より疲れるサイクルが存在することがわかります。
これは AI がゼロデイを悪用するという話ではありません。それは、AI が前例のない速度でそれらを「発見」することです。それでは、多くの場合、複雑で相互接続された企業システム全体にわたって、新たに特定された数百もの脆弱性にパッチを適用する責任は誰にあるのでしょうか?それは あなた、そしてすでに限界を迎えているあなたのチームです。 AI は脆弱性の開示サイクルを加速させてきましたが、パッチ適用と検証を行う人間の能力は魔法のように追いついていません。
ここでの「利点」とは、複合的な利点のことです。はい、さらに多くの欠陥が見つかっているため、私たちのシステムはより安全になる可能性があります。しかし、実際の運用では、作業負荷は常に増加し続けています。パッチ適用戦略、リソース割り当て、さらにはリスク評価モデルさえも根本的な再評価が必要です。従来の「パッチ チューズデー」のリズムは時代遅れの概念になりつつあり、継続的な高強度のスプリントに置き換えられています。これは、より多くのパッチを管理することだけを意味するものではありません。それは、それらのパッチの「複雑さ」、リグレッションの可能性、そして必要とされる膨大な変更管理を管理することです。この場合、AI はセキュリティを簡素化しているわけではありません。運営上の負担が増大し、すでに緊張している人員にさらに多くのことが求められます。
断片化された未来
これら 2 つの発展は、一見、異なっているように見えますが、一貫した状況を描いています。AI は、統合や簡素化する力とは程遠く、より細分化され要求の厳しい技術環境に積極的に貢献しています。 BRICS AI イニシアチブは地政学的な断片化を象徴しており、私たちは多様な基準やエコシステムとの闘いを強いられています。 Microsoft の AI 主導のパッチ適用は運用の断片化を意味しており、発見の速度が管理の容易さを上回っており、永続的な事後対応作業につながります。
テクノロジーのリーダーとして、私たちはもはや無邪気な楽観主義を許すことはできません。デジタル世界は分裂しており、私たちが構築するツールは、たとえ防衛のために設計されたものであっても、古い問題を解決するよりも早く新しい問題を生み出しています。戦略計画では、二股に分かれた世界的な AI 市場を考慮する必要があります。そこでは、「オープンソース」には矛盾する可能性のある複数の定義があります。運用チームは、限界を試す、容赦のない AI 加速セキュリティ メンテナンス サイクルに備える必要があります。未来は複雑さが軽減されることではありません。それは、より多くの情報を、より迅速に、そしてますます細分化されるドメイン全体で管理することです。適応するか、無関係になるリスクを負います。
ソース
[1] 中国、BRICS オープンソース AI プラットフォームを提案 — https://www.scmp.com/tech/tech-war/article/3232675/china-proposes-brics-open-source-ai-platform-counter-western-dominance-and-boost-developing-nations [2] Microsoft セキュリティ ブログ: AI が顧客の保護にどのように役立つか — https://www.microsoft.com/security/blog/2023/07/18/how-ai-is-helping-us-protect-customers/