WHIが開発したブラウザ操作エージェントは、プロンプトキャッシュの徹底活用、モデルの最適化、システムプロンプトの改修といった多角的なアプローチにより、プロセスあたりの運用コストを最大97%削減することに成功した。これは、トークン消費が激しいブラウザ操作タスクにおいて、不要な履歴の削除やプロンプトキャッシュを徹底することで、ビジネスとしての採算性を確保する上で決定的な要因となった。AIエージェントの実装において、モデル性能だけでなく実行基盤の最適化が不可欠であることを示す事例である[出典1]。
当初、WHIはLangGraphを用いた独自実装でAIエージェントの開発を進めていた。しかし、Amazon Bedrock AgentCoreの登場を機にアーキテクチャを刷新し、モノリシックな構成からサブエージェントを個別に実行する分散型へと移行した。この変更により、エージェントの保守性と拡張性が大幅に向上した。Amazon Bedrock AgentCoreは、企業がAIエージェントを安全かつ大規模に展開・運用するためのマネージドサービススイートであり、プロトタイプから本番環境への移行における課題解消を目的としている[aws.amazon.com]。
Amazon Bedrock AgentCoreの導入は、開発リソースの配分にも大きな影響を与えた。WHIのエンジニアは、AIの推論ロジックそのものよりも、ビジネスロジックの構築に注力できる環境を得た。特にAgentCore Observabilityによるマネージドサービスでのログ管理と監視の効率化は、運用コストの削減と開発効率の向上に寄与している[devoteam.com]。これにより、開発者はAIエージェントの導入効果を最大化しつつ、持続可能な運用体制を構築することが可能となる。
今回の成功は特定の業務フローに対する最適化の結果だが、今後、より複雑で曖昧な指示が求められる業務へと適用範囲を広げた際、現在のアーキテクチャがどの程度のスケーラビリティを発揮できるかは未知数である。また、エージェントの自律性が高まるほど、誤操作やセキュリティリスクに対するガバナンスの重要性も増す。Amazon Bedrock AgentCoreは、エージェントの動作とアクセスを管理するためのポリシーコントロール機能を備えており、ガバナンス設計を支援すると見られる[infoq.com]。企業はAIエージェントを「魔法の杖」ではなく、緻密なエンジニアリングと継続的なガバナンス設計によって実用化されるツールとして捉える必要があるだろう。