生成AIの悪用により、文法ミスや不自然な言い回しがない「完璧な」フィッシングメールが急増し、従来のセキュリティフィルターは機能不全に陥っている。これに対しAmazonは、生成AI基盤モデルAmazon Bedrockを活用し、文脈分析と行動パターン照合による次世代の防御策を提示した。企業は新たな脅威への対応を迫られている。
かつてフィッシングメールは、不自然な日本語や誤字脱字、送信元ドメインの不一致といった「明らかな綻び」から判別できた。しかし、生成AIの台頭はこの前提を根底から覆した。攻撃者はOSINTを駆使してターゲットの組織構造や人間関係をマッピングし、文法的に完璧で、かつ文脈に沿ったパーソナライズされたメールを大量生成している。DuoCircleの分析によれば、AIが生成したフィッシングメールは従来のキーワードやドメイン照合をすり抜ける傾向が強く、クリック率は手動作成の4.5倍に達している。従来の防御策は、もはや限界を迎えているのが現状である。
こうした状況を受け、Amazonが打ち出したのは、生成AI基盤モデル「Amazon Bedrock」を既存のセキュリティインフラに統合するアプローチである。同社の技術文書によれば、このシステムはSPFやDKIMといった従来の認証プロセスを通過したメールに対し、Bedrockの基盤モデルが「言葉の選択」「コミュニケーションスタイルの乖離」「要求の文脈的妥当性」の3点を多角的に評価する。これにより、たとえ送信元が正当であっても、普段のやり取りとは異なる不自然な要求を検知することが可能となる。この多段階パイプラインが、高度な攻撃を阻止する鍵となっている。
この防御策には高度な運用スキルが求められる。特にAmazon Bedrock Guardrailsによる制御機能は、AIの「暴走」や機密情報の漏洩を防ぐ防波堤となる一方で、設定の難しさを伴う。ガードレールを厳しく設定しすぎれば、分析に必要な悪意あるコンテンツまで遮断してしまうリスクがあり、逆に緩めれば誤検知やハルシネーションを招く恐れがある。セキュリティ担当者は、モデルの感度を絶妙なバランスで調整し続けなければならず、これは新たな運用負荷として現場にのしかかるだろう。
今後、企業は「メールは信頼できるサーバーから送られてくるもの」という性善説を捨て、AIによる「文脈の真贋判定」を標準装備する必要がある。Amazonの試みは、AIの脅威をAIで制するという論理的な帰結を示しているが、攻撃者側もAIを高度化させており、いたちごっこは避けられないと見られる。防御側には、単なるツールの導入だけでなく、組織内のコミュニケーション特性をデータ化し、動的なリスクスコアリングを継続する運用体制の構築が急務となる。攻撃者が個人の通信スタイルを模倣するようになった場合、現在の行動分析モデルがどこまで対抗できるかは今後の焦点である。
