OpenAIは、次世代モデル「Astra」が自律的なサイバー攻撃能力において「クリティカル」レベルに達する可能性を認めた。これを受け、同社は開発プロセスの一部を一時停止し、厳格な安全基準と監視体制を導入する異例の措置を発表した。AIの進化がもたらす新たな脅威への対応が急務となっている。
OpenAIが2026年8月7日に公表した声明によれば、開発中の次世代モデル「Astra」が、同社の「Preparedness Framework」におけるサイバーセキュリティの最高警戒レベル「クリティカル」に達する可能性を排除できないと結論付けられた。この「クリティカル」レベルとは、AIが人間の介入なしに、強固な防御システムに対するゼロデイ攻撃を特定・開発し、エンドツーエンドの攻撃戦略を自律的に遂行できる水準を指す。これまでのモデルが「高（High）」レベルに留まっていたことを踏まえると、Astraの潜在能力は、AIの軍事・犯罪転用リスクが現実味を帯びる新たな段階に入ったことを示唆している。
OpenAIはAstraの潜在的リスクに対し、即座に複数の防御策を講じている。特に注目されるのは、AIの思考プロセス（Chain of Thought）をリアルタイムで監視し、リスクの高い行動を検知した際に人間が介入する「ユニバーサル・モニタリング」の導入である。これに加え、モデルの重み保護の強化、隔離されたテスト環境の構築、ネットワークおよびツールアクセスの制限、サンドボックス実行といった厳格なセキュリティ管理が導入された。これらの措置は、強化されたセキュリティ要件を満たさないAstra関連の開発活動を一時停止するものであると、同社は説明している。
AIが高度なサイバー攻撃能力を持つ可能性は、企業がAIを導入する際のセキュリティ基準やリスク評価に抜本的な見直しを迫る。AIは防御者として脆弱性を修正する能力を持つ一方で、攻撃者にとっての強力な武器にもなり得るというパラドックスが存在する。既存のセキュリティ基盤にAIを組み込む際、その自律性と潜在的な攻撃能力をどう制御し、運用負荷やコスト、データレジデンシーといった側面でどうリスクを評価するかが課題となる。AIの導入は、単なる効率化だけでなく、新たな脅威への対応を前提としたガバナンスとリスク管理の再構築を不可欠とする。
OpenAIは政府機関や外部のAI安全組織と連携し、第三者評価を強化する方針を示している。しかし、急速に進化するAIの脅威をクローズドな環境での検証だけで完全に封じ込めることは困難との見方も根強い。特に、AIが自ら攻撃手法を学習・最適化する「自己改善」のプロセスをいかに透明化し、社会的な合意形成を図るかが今後の最大の焦点となる。技術の進歩を止めることは不可能だが、その「破壊的な力」を制御するためのガバナンス構築が、AI開発企業に課せられた最大の責務である。
