生成AIの普及により、文法的に完璧なフィッシングメールが急増し、従来のルールベースの防御網は限界を迎えている。Amazonの技術ブログによれば、同社は「Amazon Bedrock」を活用した新たな分析パイプラインを提示し、表面的な形式ではなく「文脈と行動パターン」に基づく次世代のセキュリティ対策を打ち出した。
かつてフィッシングメールの判別は、不自然な日本語や送信元ドメインの不一致を探す単純な作業であった。しかし、現代の攻撃者は公開情報と生成AIを悪用し、ターゲットの組織構造や人間関係を精緻にマッピングする。これにより、文法的に完璧で、かつ文脈に沿った説得力のあるメールを大量生成することが可能になった。SPFやDKIMといった従来の認証プロトコルはドメインのなりすましを防ぐ基盤ではあるものの、正当なアカウントが侵害された場合や、AIが生成した巧妙なコンテンツに対しては効果が限定的であり、既存の防壁を容易にすり抜けてしまうのが現状である。
Amazonが提示する多層的な分析パイプラインは、「Amazon Bedrock」を中核に据えている。このアプローチは、従来の認証プロセスを通過したメールに対し、Bedrockの基盤モデルが「言葉の選択」「スタイルの逸脱」「要求の妥当性」を多角的に評価する点に特徴がある。具体的には、送信者の過去の通信スタイルとの乖離を分析し、通常のコミュニケーションパターンからの逸脱を検出することで「違和感」を数値化する。さらに「Amazon Bedrock Guardrails」を組み合わせることで、分析過程での機密情報漏洩を防ぎつつ、モデルのハルシネーションを抑制し、動的な行動ベースの評価を実現するものである。
この高度な防御策は、企業のセキュリティ運用に新たな課題を突きつける。全従業員のコミュニケーションスタイルをベースラインとして構築するコストや、誤検知をどこまで許容するかという運用上の判断が求められる。また、Guardrailsの設定は諸刃の剣となり得る。攻撃者が意図的に不適切な表現を混ぜてフィルターを回避しようとした場合、過度に厳格なガードレールは本来分析すべき脅威の検知を妨げる可能性がある。AIによる攻撃が高度化する中で、防御側もAIを導入せざるを得ないが、それは同時にセキュリティシステム自体が複雑化し、新たな脆弱性を生むリスクと隣り合わせである。
Market Inteloの市場調査によれば、AI駆動型メールセキュリティ市場は2025年に62.3億ドルに達し、2031年には123.1億ドルに成長すると予測されており、AIによる防御の自動化は不可避な流れである。Abnormal AIやProofpointといった競合他社も行動AIを活用したソリューションを提供し、市場は活況を呈している。Amazonが示したフレームワークは防御の自動化に向けた重要な一歩だが、真の強固なセキュリティは、AIの判断を最終的に人間がどう統制し、ガバナンスを効かせるかという組織的な知見に委ねられている。企業は「AI対AI」の消耗戦を強いられる中で、最終的な判断基準と運用体制の設計が今後の焦点となるだろう。
