OpenAIは次世代AIモデル「Astra」が極めて高いサイバー攻撃能力を持つ可能性があると発表し、開発の一部を凍結した。同社は自社の安全基準に基づき、厳格なセキュリティ管理体制へと移行する方針を打ち出している。
OpenAIの技術文書によれば、開発中の次世代モデル「Astra」は、2023年12月に策定された「Preparedness Framework」におけるサイバーセキュリティの「Critical（危機的）」しきい値に達する可能性が排除できないと判断された。これは、人間による介入なしに、高度に防御されたシステムに対するゼロデイ脆弱性の発見や、エンドツーエンドの攻撃戦略の立案・実行が可能である能力を指す。Astraが自律的なコーディングとサイバーセキュリティの領域で著しい進歩を遂げたことが、この厳しい評価につながったと見られる。
今回の評価を受け、OpenAIはAstraに関連する一部の内部開発活動を一時停止した。さらに、モデルの思考プロセスをリアルタイムで監視し、高リスクな活動を遮断する「ユニバーサル・モニタリング」を導入している。具体的には、隔離されたテスト環境の構築やネットワークおよびツールへのアクセス制限、モデルの重み付け情報の保護と暗号化、サンドボックス実行などが含まれる。これらの措置は、モデルの悪用リスクを最小限に抑えることを目的としている。
AstraのようなAIモデルが自律的に脆弱性を発見し、攻撃を組み立てる能力を持つことは、企業の情報システム部門にとって重大な意味を持つ。これまで数週間から数ヶ月を要した脆弱性特定から悪用までの期間が劇的に短縮され、「パッチウィンドウ」が崩壊する可能性が高まるためだ。企業は、AIが悪用される前に防御側が脆弱性を特定する「AI防衛」の重要性を認識し、より迅速なパッチ適用体制や、AIを活用した脅威インテリジェンスの導入を急ぐ必要に迫られる。これは、既存の運用負荷をさらに増大させる要因となる。
OpenAIの自主的な開発凍結とセキュリティ強化は評価できるものの、AIの進化速度が安全基準の策定を上回る現状において、その実効性には不透明な部分が残る。特に、開発停止と再開の判断基準がブラックボックス化すれば、社会的な信頼を損なうリスクがある。同社は今後、政府機関や外部のAI安全組織と連携し、リスク評価を進める方針を示している。しかし、このような連携がどの程度の透明性を確保し、実効性のある安全基準を確立できるかが今後の焦点となる。
