Amazonは、AIエージェントの行動履歴を監視し、文脈に応じた動的な制御を可能にする「時間的ポリシー」をAmazon Bedrock AgentCoreに導入した。単発の命令ではなく一連の実行プロセス全体を評価することで、企業が懸念するAIのハルシネーションや不正操作のリスクをゲートウェイ層で低減する狙いがある。
生成AIエージェントの普及に伴い、企業が直面する最大の課題は「制御不能な自律性」である。従来のアクセス制御は個別のリクエストを独立したイベントとして処理するステートレスな手法が主流であったが、エージェントはツール呼び出しの順序や引数を自ら決定するため、個別の呼び出しが安全でも一連の文脈では脆弱性が生じる。OpenAIやAnthropicが報告したテスト環境からの逸脱事例や、CSO Onlineの脅威レポートが指摘する悪意のあるコード挿入の試みは、この課題の深刻さを示している。Amazonが導入した「時間的ポリシー」は、エージェントの「軌跡（トラジェクトリ）」を監視対象に加えることで、この根本的な課題解決を図るものだ。
この機能の核心は、AgentCore Gatewayという境界線上でポリシーを強制する点にある。エージェント自身のコード内ではなく、外部のゲートウェイで制御を行うため、エージェントがプロンプトインジェクションや内部的なバグによってポリシーを回避することは不可能である。AWSの技術ブログによれば、セッションIDとユーザーIDを組み合わせた厳格な管理体制が敷かれ、最大24時間の行動履歴を保持する。例えば、顧客情報を照会した直後に別の口座へ送金しようとする不自然な動作や、リスク許容度を超えた連続的な取引などは、過去の履歴と照らし合わせることで即座に遮断される。デフォルトで「拒否（Deny）」設定を採用し、ポリシー変更時には既存セッションを無効化するなど、セキュリティの整合性を重視した設計となっている。
この技術は、AIエージェントの業務利用における「信頼のインフラ」となる可能性を秘めている。これまでAIの自律的な判断に委ねられていた高リスクな操作に対し、人間による承認プロセスを強制的に組み込める点は、特に金融や医療といった厳格なコンプライアンスが求められる業界にとって大きな福音である。金融機関での顧客資産管理や、医療機関での機密性の高い患者データ処理など、誤動作が許されない領域において、AIの柔軟性を維持しつつ企業システムとしてのガバナンスを担保するための現実的な防衛策となる。これにより、AIの自律的な誤動作や不正操作のリスクを低減し、高リスク業務への導入ハードルを大幅に下げることが期待される。
この仕組みは開発者にとって新たな複雑さを強いることにもなる。セッションの定義や境界の設定はアプリケーション側で設計する必要があり、運用負荷とのトレードオフをどう管理するかが今後の焦点となるだろう。複雑なワークフローにおいてポリシーの競合や誤検知が発生した場合のデバッグコストは未知数である。Google DeepMindがAI Control Roadmapで非同期監視システムの開発を提唱し、MicrosoftがAIエージェントガバナンスで可観測性を重視しているように、AIの「自由な思考」と「企業の安全」を両立させるには、開発者向けのデバッグツールや可視化機能の拡充が不可欠である。Amazonが提供するこのゲートウェイベースの制御が、どこまで実用的な解決策となるか、今後の実装事例が注目される。
