企業内の機密情報を扱うAI研究エージェントが、外部検索を通じて情報を漏洩させる「モザイク効果」のリスクがServiceNowの研究で浮上した。利便性を追求するほどプライバシーが損なわれるという、AI開発の深刻なジレンマが明らかになっている。
ServiceNow AIとエディンバラ大学の研究チームが発表した「MosaicLeaks」研究によれば、AIエージェントが外部検索エンジンに発行するクエリの断片から、第三者が企業の機密情報を推論・再構築できてしまう「モザイク効果」のメカニズムが明らかになった。個々の検索クエリは無害に見えても、社内文書にある「クラウド移行率」と公開されている「セキュリティ開示情報」をエージェントが別々に検索するだけで、外部の観測者はそれらを繋ぎ合わせ、企業が隠したい機密事実を推論できる。これは、AIが社内情報と外部情報を統合して高度な調査を行う際に生じる、新たな情報漏洩経路である。
研究チームが1,001の多段階調査プロセスを構築し検証したところ、既存のAIモデルの多くが頻繁に機密情報を漏洩していることが確認された。さらに、モデルのタスク遂行能力を向上させるための学習を行うと、皮肉にも情報漏洩のリスクが比例して高まるという構造的な矛盾が判明している。より正確な検索結果を得るためにエージェントがクエリに詳細なコンテキストを詰め込むほど、外部に漏れる情報量も増大するという「性能とプライバシーのトレードオフ」が浮き彫りになった。この事実は、AIエージェントの設計において、性能追求が直接的にセキュリティリスクを高める可能性を示唆している。
ServiceNowの研究では、単純にプロンプトで「秘密を漏らすな」と指示するだけでは、性能低下を招くか、あるいは効果が不十分であることも確認されている。この状況は、企業がAIエージェントを実務に導入する際、利便性の裏側に潜む「検索の痕跡」という脆弱性をどう管理するかという、新たなAIガバナンス上の難題を突きつける。AIエージェントが社内機密を扱う以上、その外部との情報交換をいかにセキュアに保つかは、情報システム部門にとって喫緊の課題となる。従来のセキュリティ対策だけでは対応しきれない、AI特有のリスクへの対処が求められる。
この状況に対し、研究チームは「PA-DR（Privacy-Aware Deep Research）」という強化学習手法を提案している。PA-DRは、タスクの成功報酬とプライバシー分類器を組み合わせることで、漏洩率を大幅に低減しつつ、正確性を維持する可能性を示した。例えば、Qwen3-4B-InstructをPA-DRでトレーニングすると、精度が向上し、回答および完全情報漏洩が34.0%から9.9%に減少したと報告されている。しかし、この手法が実環境における多様な企業データに対しても汎用的に機能するのか、また検索エンジン側での匿名化技術との連携など、今後の技術的課題は依然として残されている。
