Amazon Web Services（AWS）は、Amazon Bedrock上でOpenAIの最新モデル「GPT-5.6」シリーズの提供を開始した。特筆すべきは、明示的なプロンプトキャッシュ機能の導入であり、反復的なタスクにおける入力コストを大幅に削減できる可能性がある。
Amazon Bedrockに導入された明示的なプロンプトキャッシュ機能は、AIアプリケーションの運用経済性を大きく変える。AWSの技術文書によれば、システム指示やツール定義など繰り返し送信されるプロンプトの特定部分をキャッシュすることで、キャッシュされた入力トークンは90%の割引が適用される。キャッシュ書き込みには通常入力の1.25倍のコストがかかるが、キャッシュされたコンテンツは30分間再利用可能である。特にエージェント型ワークフローのように同一コンテキストを多用するアプリケーションでは、コスト削減効果が極めて高い。これはAI APIコストを最適化するための必須のFinOpsベストプラクティスであると、クラウド運用専門家の間でも指摘されている。
今回Amazon Bedrockで一般提供が開始されたOpenAIのGPT-5.6シリーズは、「Sol」「Terra」「Luna」の3モデルで構成される。AWSの発表によれば、Solは推論能力に特化し、Terraはバランス型、Lunaは高速処理に強みを持つ。これらのモデルは推論努力（reasoning effort）の調整機能も提供しており、開発者は推論に費やす計算リソースを制御することで、コストと精度のトレードオフを緻密に管理できる。これにより、アプリケーションの要件に応じて最適なパフォーマンスと経済性を追求することが可能となる。
プロンプトキャッシュの導入は、開発者にとって新たなエンジニアリングの課題を提起する。キャッシュ書き込みコストが通常入力の1.25倍である一方で、読み出し時に90%の割引が適用されるため、いかにキャッシュヒット率を最大化するかが重要となる。効率的なプロンプト設計、特に繰り返し利用されるコンテキスト部分の特定とキャッシュ戦略の最適化は、AIアプリケーションの運用コストを大きく左右する要素となる。これは、AI開発におけるコスト最適化が単なる効率化から、ミッションクリティカルな規律へと変化したことを示している。
プロンプトキャッシュ機能の実際の運用環境での安定性と効果が今後の焦点となる。キャッシュの有効期間が30分に設定されているが、この期間が実際の商用アプリケーションにおいてどの程度の頻度でリセットされるか、また、自動化された「暗黙的キャッシュ」と開発者が制御する「明示的キャッシュ」の使い分けがアプリケーションのパフォーマンスにどう影響するかが注目される。GPT-5.6の推論努力調整機能が、実際のレイテンシや応答品質に与える具体的な影響範囲についても、さらなる検証が必要であると考えられる。
