OpenAIは、AIモデルへの不正な指示を遮断する「Lockdown Mode」を発表した。機密情報を扱う企業にとって、プロンプト注入攻撃という深刻なセキュリティリスクを低減するこの機能は、生成AIの本格的な業務導入を加速させる重要な転換点となる可能性がある。
OpenAIが新たに導入した「Lockdown Mode」は、プロンプト注入攻撃によってAIモデルが意図しない動作をすることを防ぐためのオプション機能である。Engadgetの報道によれば、このモードは悪意ある外部指示を識別し、機密データへのアクセスや不適切な実行を強制的に遮断する仕組みを持つ。具体的には、攻撃者がAIモデルの制御権を奪取し、機密情報を外部に流出させる可能性のあるネットワークリクエストを制限することで、データ抽出のリスクを根本から抑制する狙いがある。
プロンプト注入は、大規模言語モデル（LLM）アプリケーションにとって最も重要な脆弱性の一つとして認識されており、OWASPのLLMセキュリティ調査では最上位の脅威としてランク付けされている。多くの企業がAI導入を躊躇する最大の要因は、情報漏洩やハルシネーションによる誤動作への懸念であった。Lockdown Modeは、こうしたセキュリティ面での不安を技術的に解消し、AIの安全性を「オプション」から「標準」へと引き上げることで、エンタープライズ市場における信頼性を担保しようとする試みである。
Lockdown Modeを有効にすると、ChatGPTの一部の機能が制限される。Help Net Securityの技術解説によると、ライブWebブラウジングはキャッシュされたコンテンツに限定され、Deep ResearchやAgent Modeは完全に無効化される。このモードは、プロンプトインジェクションがChatGPTが処理するコンテンツに現れるのを防ぐものではなく、攻撃者が悪用する可能性のあるネットワークリクエストを制限することで、アカウントから機密データが抽出されるのを防ぐように設計されている。なお、本機能は個人アカウントおよびセルフサービス型ChatGPT Businessアカウントで利用可能である。
Lockdown Modeによるセキュリティ強化は、AIの利便性や柔軟性とのトレードオフを伴う。ライブWebブラウジングの制限やDeep Research、Agent Modeの無効化は、AIの外部情報参照能力や自律的なタスク実行能力を低下させる可能性がある。これにより、ユーザー体験が損なわれたり、AIの活用範囲が限定されたりするリスクも存在する。企業は、機密保護の必要性とAIが提供する価値とのバランスを慎重に見極め、業務要件に応じて適切な設定を選択する必要がある。
専門家は、プロンプト注入が「完全に解決される可能性は低い」と警告しており、防御側と攻撃側のいたちごっこは今後も続くと見られる。OpenAIのLockdown Modeは重要な一歩だが、単一の技術的防御策が万能ではないことも忘れてはならない。The Next Webの分析では、効果的な防御には入力検証、出力フィルタリング、最小特権、リアルタイムの行動監視など、多層防御アプローチが不可欠であると推奨されている。企業は、継続的な監視と明確な制御を通じて、進化する脅威に対応するセキュリティ戦略を構築する必要がある。
