AI の速度低下は気が散ります。あなたの家が燃えています。

AI の速度低下は気が散ります。あなたの家が燃えています。

率直に言っておきますが、テクノロジー業界はついに AI によって「イエスのもとに来た」瞬間を迎えていますが、それは真の悔い改めというよりはむしろ戦略的な軸のようなものだと感じています。突然、この激しい AI 競争の立案者たち、つまりカフェインを燃料とするスプリントに資金を提供した著名な研究者や投資家たちが、減速を求めています [1]。彼らは「内部ガバナンス」、「倫理的枠組み」、そして「より慎重な」ペースについて話しています。そして、常に敏感なバロメーターである市場はすでに反応しており、AI 投資の持続可能性がチップ株の変動を引き起こすのではないかとの懸念を示しています[2]。

これは外部規制ではありません。それは、AI エコシステム自体の内部から現れる内部の「断層線」です。そして、経営幹部が将来の創造物の哲学的意味について議論している間、現在は活発に燃えています。

便利な一時停止

タイミングを考慮してください。長年にわたり、「速く動いて物事を打ち破る」、あるいは最近では「速く動いて AGI を構築する」が信条となってきました。現在、強力なモデルがすでに導入されており、競争環境がほぼ明確になっており、実際に意味のある規制が迫っているという不安があるため、警戒を求める声は少し空虚に聞こえます。これは深刻なリスクに対する真の目覚めなのか、それとも熊手が出てくる前に権力を強化し、競合他社の減速を図り、国民の認識を管理するための計算された策略なのか？

コンピューティング、人材、基礎モデルですでに市場を追い詰めている場合、注意を説くのは簡単です。業界が突然「製品ロードマップ、リスク評価、戦略計画の再評価」に焦点を当てるのは高尚に聞こえるが、リソースを再調整するための便利な方法のようにも聞こえる。これにより、重要なリソースへのアクセスを制御したり、規制の枠組みに影響を与えたりすることで、既存の巨人に挑戦する可能性のあるオープンソースの代替案や小規模プレーヤーの動きが鈍る可能性があります。 「倫理的枠組み」は、スクレイピングされたデータに基づいてモデルがトレーニングされていた頃ではなく、社会を真に再構築するほど強力になった今、突然最重要視されるようになりました。

問題を解決するための AI の「解決策」がその分野の完全性を脅かす可能性があると警告する、学術および科学コミュニティ内で表明された懸念 [3] は、この内部懸念の深さを示す明らかな指標です。しかし、これを利他主義と誤解しないでください。これは AI が雇用やインフラに与える影響に関するものではありません。それはコントロール、つまり誰がどのようなペースでそれを行使するかです。議論は「それを建てるべきか？」ということではありません。さらに、「建設のスピードを誰が決めるのか、そして誰が利益を得るのか?」についても詳しく説明します。

彼らが将来について議論している間に、あなたの現在は危険にさらされています

さて、AI の内部亀裂という抽象的で将来を見据えた懸念から、私たちのネットワーク上で *今 * 展開している差し迫った具体的な危機に目を向けてみましょう。 AI の巨人たちが自分たちのマシンの魂について熟考している一方で、運用チームは本格的なサイバーセキュリティの大惨事の封じ込めに奔走しています。

私たちは理論上の脅威や一般的な傾向について話しているのではありません。私たちが話しているのは、基幹的なエンタープライズ ソフトウェアのゼロデイ脆弱性が積極的に悪用され、重要なインフラが大ハンマーのような勢いで攻撃されることです。

• Ivanti Connect Secure および Policy Secure (CVE-2023-46805 および CVE-2024-21887): これは単なるバグではありません。それはぽっかり開いた傷だ。 Ivanti の VPN およびネットワーク アクセス ソリューションのこれらの脆弱性は積極的に悪用されており、攻撃者が認証をバイパスしてリモート コマンドを実行できるようになります。 CISA は複数の警告を発し、安全なリモート アクセスのためにこれらのシステムに依存している組織に対する重大なリスクを強調しています [4]。攻撃者を門前で阻止するための主要なネットワーク防御は、攻撃者に無数の企業ネットワークへのディープ アクセスを許可するために積極的に悪用されています。
• Cisco IOS XE Web UI (CVE-2023-20198): 最大重大度。積極的に悪用されている。この脆弱性により、認証されていない攻撃者が特権アカウントを作成し、影響を受ける Cisco IOS XE デバイスを完全に制御できるようになります。攻撃者がネットワーク インフラストラクチャの管理プレーンを所有している場合、攻撃者はネットワーク全体を所有していることになります。ゲームオーバー[5]。

CISAは冗談で「警告」を発しているわけではない。彼らは満員の劇場で「火事だ」と叫んでいる。これらは単なる理論上の脅威ではありません。これらは、グローバル企業全体の中核となる防御システムや管理システムを侵害するために積極的に使用されています。

本当の断層線

皮肉は鈍いナイフで切れるほど厚い。一方では、AIエリートたちが、何年も野放図に加速してきた後の減速を求め、彼らが構築中の未来の倫理的影響について議論している。もう一方では、「現在の」基盤テクノロジーが未対処、パッチ未適用の脆弱性の重みで積極的に崩壊するという、差し迫った存続の脅威にさらされています。

本当の「断層」は AI コミュニティ内だけではありません。それはイノベーションの象牙の塔と運用現実の塹壕の間にあります。それは、AI の「自己規制」に関する抽象的で将来を見据えた議論と、私たちが今日依存しているシステムにおける 実際の セキュリティと安定性に対する当面の具体的なニーズとの間にあります。

CTO やエンジニアリングの責任者として、AI の減速に関する哲学的な議論に気を取られるわけにはいきません。こうした話し合いは長期的には重要ですが、家が燃えているときは贅沢な話です。 「製品ロードマップの再評価」は、既存のインフラストラクチャーの崩れかけた基盤を強化することから始める必要があります。 「リスク評価」では、今日、業務の継続性とデータの整合性を損なう差し迫った積極的に悪用される脅威に優先順位を付ける必要があります。

業界の優先順位には偏りがある。私たちは、腐りつつある基盤の上に、より速く、より輝くものを構築しています。 AI の速度低下を求める声は必要な会話かもしれませんが、地上で Ivanti と Cisco のゼロデイに対処している私たちにとっては、屋根が陥没する中でカーテンの色について議論しているような気分です。現在に集中してください。将来は、出血が活発になくなるまで待つことができます。

ソース

[1] 巨大な AI 実験の一時停止を求める公開書簡 — https://futureoflife.org/open-letter-pause-ai-development/ [2] AI 株は急騰しているが、一部の投資家は神経質になっている — https://edition.cnn.com/2024/03/07/investing/ai-stocks-nvidia-bubble/index.html [3] 科学における AI 革命: 約束と危険 — https://www.nature.com/articles/d41586-023-03223-y [4] Ivanti Connect Secure および Ivanti Policy Secure の脆弱性を悪用する攻撃者 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa24-014a [5] Cisco IOS XE ソフトウェアの Web UI の脆弱性を悪用する攻撃者 — https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-287a