OpenAIは次期モデル「Astra」が極めて高度なサイバー攻撃能力を有する可能性を認め、開発活動の一部を一時停止した。AIの進化が防御と攻撃の両面で劇的な変化をもたらす中、同社は自社の安全基準を再定義し、政府機関と連携した厳格な評価体制への移行を急いでいる。
OpenAIの技術文書によれば、次世代AIモデル「Astra」は人間の介入なしにゼロデイ脆弱性を発見し、エンドツーエンドの攻撃戦略を構築できるレベルに達した可能性がある。同社の安全指針「Preparedness Framework」では、この能力を「クリティカル（Critical）」と定義している。これは、AIが現実の堅牢なシステムに対し、あらゆる深刻度の脆弱性を特定・悪用し、高水準の目標に基づいて一貫した攻撃戦略を自律的に立案・実行できる段階を指す。従来のモデルは一段下の「ハイ（High）」レベルに留まっていたが、Astraの登場により、AIが自律的なサイバー兵器へと変貌するリスクが現実味を帯びている。
OpenAIの発表によれば、同社はAstraの能力評価を受け、関連する内部開発活動の一部を一時停止した。セキュリティ管理を大幅に強化するため、モデルの重み保護や暗号化の徹底、隔離されたテスト環境の構築を進めている。さらに、モデルの思考プロセスをリアルタイムで監視し、リスクの高い行動を即座に遮断するシステムを導入した。これらの措置は、AIの能力向上がもたらす潜在的な危険性に対し、開発プロセス自体に厳格なガバナンスを適用しようとする試みである。
2023年末に策定され、2025年4月に改定されたOpenAIのPreparedness Frameworkが、わずか2年足らずでその限界を露呈した。これは、AIの進化速度が企業の策定した安全基準の想定を追い越している事実を示唆している。同社のモデルはこれまで「ハイ」レベルの評価に留まっていたが、Astraの能力はフレームワークが想定する最上位の危険域に達した。この事態は、AI開発におけるガバナンスの難しさと、企業単独でのリスク評価・管理の限界を浮き彫りにしている。
情シスやインフラ運用担当者にとって、AstraのようなAIの登場は、今後のセキュリティ戦略に大きな影響を与える。AIが自律的にゼロデイ攻撃を仕掛ける能力を持つならば、従来の脆弱性管理やパッチ適用だけでは不十分となる。AIを活用した高度な攻撃への備えとして、AIベースの防御ツールの導入や、AI自身のセキュリティ評価基準の理解が必須となる。また、AIモデルの導入を検討する際には、その潜在的な攻撃能力と、開発元が講じる安全対策のレベルを厳しく評価する必要がある。AIの利用が運用負荷やコストに与える影響も再考が求められる。
OpenAIは今後、政府機関や外部のAI安全性評価機関と連携し、Astraの能力検証と安全対策の策定を進める方針だ。しかし、モデルの重みや学習データといった機密性の高い情報を扱うクローズドな開発環境下で、第三者評価がどこまで透明性と実効性を確保できるかは不透明である。OpenAIは「防御側が脆弱性を先に見つけるためにAIを活用する」という理想を掲げるが、攻撃側が同等の能力を持つAIを悪用するリスクを完全に封じ込めることは困難である。技術の進歩がもたらす恩恵と、壊滅的な被害を防ぐバランスの取り方が今後の焦点となる。
