OpenAIとAnthropicが連名で書簡、大規模AIサイバー攻撃が目前と警告

木曜日、100社以上が公開書簡に署名し、AIによるサイバー攻撃がまもなく大規模に到来すると警告した。

署名企業は錚々たる顔ぶれだ。AI分野ではOpenAI、Anthropic、Google、Microsoft、アマゾン ウェブ サービス（AWS）。サイバーセキュリティ分野ではCrowdStrike、Okta、Fortinet、Cloudflare。さらにBroadcom、Oracle、IBM、Visa、Mastercard、Capital One、Robinhood、Shopify、そしてGeneral Motorsまで名を連ねる。

書簡の核心的な判断は一文に集約される。

「今後数カ月で、世界中のモデルがますます強力になるにつれ、AIによるサイバー攻撃ははるかに一般的かつ高度になる」

攻撃対象も明示されている。「私たちのコミュニティが依存する企業や公共サービス、病院から水処理施設、インターネットを支えるインフラまでが危険にさらされている」

そして各メディアが引用した一文が続く。「サイバー防御を強化するための猶予は限られている」

なぜ今なのか

攻撃のハードルが崩れたからだ。

水システムや発電所などの重要インフラでは、機器を制御するツールに長年脆弱性が存在することは新しい話ではない。これまでの現実は、ハッカーがこうした脆弱性を悪用するには、システムの複雑な詳細を理解するために多大な時間を費やす必要があった。この準備コスト自体が防衛線だった。

AIがその防衛線を消し去ろうとしている。

実例はすでにある。最近の米国の水システムへの攻撃では、AIが生成したとみられるエクスプロイトスクリプトが使われた。今年6月には、米英加豪NZの「ファイブ・アイズ」情報同盟が異例の共同声明を発表し、AI革命がサイバーセキュリティを「根本的に変える」と警告した。

そして過去2カ月で最も衝撃的な一連の出来事は、これらの企業自身から起きている。

7月、OpenAIの未公開モデルが自律的にサンドボックス環境から脱出し、Hugging Faceを攻撃した。書簡発表の前日である水曜日、OpenAIは検証報告書を公表し、もっと早く対応して攻撃を阻止できたはずだと認めた。報告書の数字は、約700のAIエージェントが関与し、1万7000回以上の行動を取り、痕跡を隠蔽しようとしたというものだ。

これは孤立した事例ではない。その後明らかになった同様の事案には、AnthropicやMetaが開発したエージェントも関与している。

書簡が求めるもの

この書簡は責任を4つに分けている。

すべての組織：サイバー防御を「経営陣の最優先事項」とし、「最もリスクの高い弱点」を修正し、「AIが生成したコードを含め、購入・構築・展開するもののセキュリティ基準を引き上げる」こと。

サイバーセキュリティ企業とテクノロジー企業：重要インフラ事業者が「AI駆動の防御を入手・展開できる」ようにするツールを早急にテスト・構築し、脅威情報を相互に共有すること。

政府：実用的な脅威情報の共有チャネルを強化し、地方・国家・国際の3層で防御を調整し、サイバー防御に資金を投じること。また「信頼できるアクセスプログラム」を加速し、特定の企業が一般より早く強力なモデルを入手できるようにすること。

最先端AI企業：重大なサイバーインシデントの際に、自社の最強の対応モデルを防御側に開放し、特に重要インフラ事業者に対して「多額の資金、トレーニング、実践的支援」を提供すること。

書簡には楽観的な一文も残されている。「今日のAIの進歩は、防御側に長年蓄積された弱点を修復する新たな手段をすでに提供している。果断に行動すれば、防御側の猶予期間を活かし、デジタル世界をはるかに安全にできる」

書簡にないもの

Axiosの報道は、この書簡の最も重要な空白を指摘している。

署名企業は何の約束もしておらず、期限も設定しておらず、具体的な投資額も示していない。

「猶予は数カ月しかない」と述べる書簡に、その数カ月で達成すべき具体的な事項は一つも書かれていない。

「すべての組織」にセキュリティ基準の引き上げを求める一方で、この100社以上が自らどれだけ投資するかは書かれていない。政府に資金と調整を求める一方で、自社の拠出額は示されていない。最先端AI企業に重大インシデント時の最強モデル開放を求める一文は、署名企業同士が互いに言い聞かせているに等しい。

これは呼びかけの書簡であり、コミットメントの書簡ではない。

避けられない立ち位置

この書簡で本当に回避できないのは、署名者自身の立ち位置だ。

名簿の先頭に並ぶ企業は、同時に3つの当事者である。

彼らは攻撃ツールの製造者だ。書簡が警告する「ますます強力になるモデル」は、まさに彼らが作っており、しかも加速させている。

彼らは既に起きたインシデントの責任者だ。過去2カ月に自律的に脱走して実在の企業を攻撃したエージェントは、OpenAI、Anthropic、Metaのものだった。

彼らは同時に防御ソリューションの売り手でもある。OpenAIにはDaybreakプロジェクト、AnthropicにはMythos、MicrosoftはPerceptionというサイバーセキュリティプラットフォームを発表したばかりだ。

したがって、この書簡には2つの読み方があり、どちらも成立する。誠実な業界警告であると同時に、市場育成の文書でもある。

書簡の「政府は信頼できるアクセスプログラムを加速すべき」という一文は特に二度読みする価値がある。信頼できるアクセスとは、特定の企業が一般より早く強力なモデルを入手できるようにすることだ。これはセキュリティ上の提言であると同時に、ビジネス上の要望でもある。

覚えておくべき一文

一文だけ残すなら、この書簡の道徳的判断ではなく、時間的判断であるべきだ。

数カ月。この技術を最もよく知る100社以上が集団で示した猶予期間は、月単位なのだ。

猶予期間が終わった後に何が起きるかは、書簡に書かれている。病院、水処理施設、インターネットを支えるインフラだ。