生成AIによる巧妙なフィッシング攻撃が急増する中、Amazonは「Amazon Bedrock」を活用した新たな防御フレームワークを提示した。従来のルールベースの検知を無効化する「文脈」を重視した分析手法は、企業セキュリティのあり方を根本から変える可能性がある。
サイバー攻撃の現場において、フィッシングメールの脅威は新たな局面を迎えている。かつては拙い日本語や不自然な送信元ドメインといった形式的な綻びから検知が可能であった。しかし、生成AIの普及により、文法的に完璧で、かつ組織の人間関係や業務文脈を精緻に模倣したメッセージが大量生産されている。Amazonの技術ブログによれば、従来のSPFやDKIMといった形式的な認証プロセスは送信元の正当性を検証するものの、AIが生成した巧妙な本文の内容までは評価できない。このため、形式的な認証を通過したメールが従業員を欺くリスクが飛躍的に高まっている。
Amazonが提案する「Amazon Bedrock」を中核とする多層的な分析パイプラインは、従来の認証を通過したメールに対し、AIが「送信者の振る舞い」や「文脈の整合性」を評価する。同社の技術文書では、Bedrockは単語の選択、コミュニケーションスタイルの逸脱、リクエストの文脈的適切性という3つの主要な要素でメッセージを分析すると解説されている。さらに、Amazon Bedrock Guardrailsを用いることで、分析プロセスにおける機密情報の漏洩を防ぎつつ、AIの判断を組織のポリシーに適合させる。例えば、個々の送信者の過去の通信スタイルをベースラインとして記録し、そこからの逸脱や要求内容の不自然さをAIがリアルタイムで判定する仕組みだ。
このアプローチは、セキュリティ担当者が「反応的」なフィルタリングから「能動的」な検知へとシフトするための重要な足がかりとなる。AIが生成する高度なフィッシング攻撃に対抗するには、誤字やキーワードに基づく検出だけでなく、行動信号や文脈の整合性を優先する対策が不可欠である。ただし、単なるツール導入にとどまらず、AIの判断をいかにガバナンスの枠組みに組み込むかという運用能力が問われる。例えば、AIが不審と判断したメールに対して、どのようなプロセスで人間が介入し、最終的な判断を下すのかという運用フローの確立が、現場のセキュリティ担当者には強く求められる。
本質的な課題も残されている。AIによる分析は、過剰な検知を抑えるためのチューニングが極めて困難である。また、攻撃者がガードレールの隙間を突くような悪意ある入力を仕掛けた場合、システムがどこまで耐えうるかは未知数である。さらに、個人の通信スタイルを学習させることによるプライバシー保護と、セキュリティ精度のトレードオフをどう解決するかも議論の余地がある。今後、AIが攻撃と防御の両面で主役となる時代において、この「文脈理解」というアプローチがサイバー戦の切り札となるのか、それとも新たな脆弱性を生むのか、今後の実運用における検証が待たれる。
