OpenAIは、AIモデルの脆弱性を自動で発見・修正する新たな安全対策モデル「GPT-Red」を発表した。人間による検証の限界を突破するこの手法は、AIの自己改善による安全性向上の転換点となる可能性がある。
AIの進化に伴い、プロンプトインジェクションをはじめとする攻撃手法も高度化の一途をたどっている。これまでAIの安全性確保は人間による「レッドチーミング（攻撃者視点での検証）」に依存してきたが、モデルの複雑化により人手による検証はボトルネックとなっていた。この課題を解決すべくOpenAIが投入したのが、自動レッドチーミングモデル「GPT-Red」である。同社の技術文書によれば、同モデルは自己対戦型強化学習を採用し、攻撃側であるGPT-Redと防御側である複数のLLMを同時に学習させることで、いたちごっこのサイクルを高速化させている。
OpenAIの発表によれば、GPT-Redを最新モデル「GPT-5.6」の学習プロセスに組み込んだ結果、従来のプロダクションモデルと比較してプロンプトインジェクションの失敗率が6分の1に減少した。GPT-Redは、人間が設計した攻撃手法を大幅に上回る84%の成功率でGPT-5.1の脆弱性を特定しており、人間レッドチームの成功率13%を大きく凌駕している。特に「Fake Chain-of-Thought」のような新しい直接プロンプトインジェクション攻撃では、GPT-5.1に対して95%以上の成功率を達成したが、GPT-5.6では10%未満にまで抑制できたと報告されている。
大規模言語モデル（LLM）の能力向上と複雑化は、潜在的な脆弱性の多様化と発見の困難さを同時に招いている。従来の人間によるレッドチーミングは、時間とコストがかかり、モデルの進化速度に追いつくことが困難になっていた。OpenAIは、このスケーラビリティの課題を認識し、AIが自らの弱点を自ら発見・克服するという「自己改善」のプロセスを追求することで、AI開発における安全性のボトルネックを解消しようとしている。これは、AIシステムを強化するための業界全体の取り組みの一環であると見られる。
GPT-Redのような自動レッドチーミングの導入は、AIモデルの堅牢性を飛躍的に向上させ、プロンプトインジェクションのような既知の攻撃に対する防御を強化する。これにより、企業や組織がAIを導入・運用する際のセキュリティリスクが低減し、より安全なAIアプリケーションの展開が期待される。情シス担当者にとっては、AIモデルのセキュリティ評価にかかる人的リソースの削減や、より信頼性の高いAI基盤の構築に繋がる可能性がある。ただし、自動化されたプロセスであっても、その結果を適切に評価し、運用フローに組み込むための専門知識は引き続き求められる。
AIが高度な攻撃手法を学習するということは、その技術が流出した際のリスクも同時に高まることを意味する。OpenAIはGPT-Redを外部公開せず、内部専用モデルとして隔離する方針を示しているが、AIの能力向上と安全性の担保という「矛と盾」の競争は今後さらに加速すると考えられる。今後は、この自動化された安全対策が、未知の脅威や想定外の攻撃ベクトルに対しても同様の堅牢性を発揮できるのか、あるいはAIが学習データに潜むバイアスを逆に利用するような新たな脆弱性を生み出さないか、継続的な監視が求められる。EUのAI法や米国のAIに関する大統領令も、AIレッドチーミングの規制上の重要性を明記しており、倫理的・社会的な安全評価の役割も変化していくと見られる。
