皇帝の新しい AI とその下の腐った基盤
AI が私たち全員を救おうとしたときのことを覚えていますか?結局のところ、救世主たちはタイムアウトを求めているようです。つい最近、私たちの AI 主導の未来の設計者たち、つまり「フロンティア」の研究者や経済界の有力者たちが一斉にブレーキを踏み、「安全性への懸念の高まり」を理由に開発の減速を要求しました [1]。これまで鈍器だった市場は、息を呑むような反応を示し、半導体株と主要な AI 企業が下落した[2]。予想通り、中国政府はこの警告を嘲笑し、一方、ソウルの半導体大手は将来の AI 進歩に対する前払い金に尻込みした [2]。
これは象牙の塔に関する単なる哲学的な議論ではありません。これは地殻変動であり、業界のエリート層が無謀を公に認めたことになる。率直に言って、それは少し便利すぎます。
AI の一時停止: 利他主義か、それともパワープレイか?
はっきりさせておきたいのは、ロケットを作った人たちが打ち上げ後、突然パラシュートを忘れたことに気づいたとき、それは倫理が深く目覚めた瞬間ではないということです。遅ればせながらの利己的な騒動だ。彼らは目を丸くした理想主義者ではありません。彼らは、指数関数的な成長と市場の支配を追い求めて、ペダルを極限まで踏み込んでいる巨人たちです。今、「予期せぬ結果」の不安が大きく迫っており、おそらくより皮肉なことに、現在のペースは持続不可能である、あるいはリードを固める必要があるという認識があり、彼らは集団で息を整えることを求めている。
市場の反応がそれを物語っている。半導体株の下落は恐怖だけではありません。それは潜在的な景気減速がもたらす当面の経済的影響に関するものである。中国政府の反発？国家の戦略的優位性が抽象的な安全上の懸念よりも優先されるという明確なシグナル。そしてソウルの半導体メーカーは前払いを拒否しているのか？それは、突然不確実になった将来の長期的な安定性と収益性を資本が疑問視している音だ。
私たち CTO とエンジニアリング リーダーにとって、これは混沌とした状況を直接意味します。規制介入が加速し、AI プロジェクトの優先順位の再設定が余儀なくされることが予想されます。 AI に対する「迅速に行動し、物事を打ち破る」という理念は正式に廃止され、当初から組み込まれているはずだった「倫理的な AI 開発」フレームワークの必死の検索に取って代わられています。投資はより慎重になり、戦略は方向転換し、ゴールドラッシュがより慎重で、できればより責任あるアプローチに取って代わられるにつれて、雇用市場は冷え込むだろう。しかし、これを純粋な利他主義と誤解しないでください。この「一時停止」は、真の安全性に関するものであると同時に、管理と市場の再調整に関するものでもあります。
タイタンズが議論している間に財団は崩壊する
さて、AI エリートたちが存亡の危機に直面し、将来の超知能の倫理について議論している一方で、今 展開している非常に現実的で、まさに現在、そして完全に破滅的な安全保障危機について話しましょう。
今週、CISA は既知の悪用された脆弱性カタログに複数の新しい CVE を追加しました [3]。ここで取り上げているのは、Cisco Secure Email Gateway で確認されたルート RCE (CVE-2023-20269) [4]、GitLab での CVSS 10.0 パス トラバーサル (CVE-2023-2825) [3]、および早急な対応が必要な最近パッチが適用された Chrome ゼロデイ (CVE-2023-4863) [3] です。
しかし、本当の肝は、すべてのセキュリティ専門家を悲鳴を上げさせるべきものであり、根本的な欠陥による持続的な脅威です。 Microsoft Defender の Malware Protection Engine [5] のローカル権限昇格の脆弱性である CVE-2021-1647 について考えてみましょう。これは、あいまいな欠陥ではありませんでした。これは公開の概念実証があり、実際に積極的に悪用されており、デジタル防御の重要なコンポーネントがどのように侵害され、一定期間脆弱なままになる可能性があるかを浮き彫りにしました。
私たちが AI 感性の倫理について議論している間、デジタル防御の基礎層であるエンドポイントを保護するために設計されたソフトウェア自体に、攻撃者が特権を昇格できるようにする公に知られ、積極的に悪用されている欠陥が潜んでいることが判明しました。それは、車のブレーキが故障し、エンジンが燃えているときに、ワープドライブの哲学的意味について議論するようなものです。
清算: 表裏の関係
これらは別個の話ではありません。これらは、根本的なセキュリティ、安定性、責任よりも、スピード、新規性、認知されたイノベーションを一貫して優先してきたテクノロジー業界という、深刻な欠陥のあるコインの裏表です。
AI のリーダーたちが突然減速を要求したのは、彼らがすでに強力でよく理解されていないシステムを世に送り出した後、軌道修正しようとする反応的で利己的な試みです。これは、「迅速に行動して物事を破壊する」というマントラを、世界を変える可能性のあるテクノロジーに適用すると、無責任であるだけでなく、危険であることを認めていることになります。
ゼロデイ攻撃、特に Defender の重大な脆弱性は、これと同じ考え方が基礎的な IT に適用されたことによる直接的で痛ましい結果です。これは、セキュリティをすべての製品やシステムの不可欠で交渉の余地のないコンポーネントとしてではなく、後付けの考え、コンプライアンスのチェックボックス、またはコストセンターとして扱うことが多い文化の結果です。私たちは次の輝くオブジェクト、次の LLM、次の AI エージェントを追いかけるのに忙しすぎて、足元の地面を腐らせてしまいました。
CTO とエンジニアリング リーダーにとって、メッセージは明確かつ即時です。フィードを横切る AI トレンドをすべて追いかけるのはやめましょう。基本を倍増します。特に、Cisco、GitLab の脆弱性、Defender の過去の LPE に代表される持続的な脅威など、積極的に悪用されている重大な脆弱性に対しては、パッチの適用を優先します。強力な緩和策を実装します。機能ロードマップだけでなく、セキュリティ体制についてもベンダーに説明責任を求めます。
市場の暴落と未解決の根本的な安全保障問題は単なるニュースではありません。それらは計算です。あまりにも速すぎて、あまりにも無謀で、そしてついには露出が多すぎるテクノロジーの世界。成長して基盤を確保し、そのときになってから、次のフロンティアを慎重に検討する時期が来ました。
ソース
[1] Future of Life Institute — 巨大 AI 実験の一時停止: 公開書簡 — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [2] CNBC — AI 専門家、高度な AI システムの開発の一時停止を呼びかけ — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [3] CISA — 悪用された既知の脆弱性カタログ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [4] Cisco セキュリティ アドバイザリ — Cisco Secure Email and Web Manager、Cisco Email Security Appliance、および Cisco Web セキュリティ アプライアンスの脆弱性 — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-esa-sma-rce-q5Q8SXu [5] Microsoft セキュリティ レスポンス センター — Microsoft Defender のローカル権限昇格の脆弱性 — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647