OpenAIは、ChatGPTを悪用して投資や恋愛詐欺を組織的に展開していたカンボジア拠点の犯罪ネットワークを特定し、関連アカウントを停止した。この事案は、AIが単なる詐欺のツールにとどまらず、人身売買や強制労働といった深刻な人権侵害のインフラとして利用されている実態を浮き彫りにしている。
OpenAIの発表によれば、2026年に入りカンボジアのポイペトを拠点とする詐欺グループがChatGPTを悪用していたことが確認され、関連アカウントネットワークが遮断された。この組織は、投資詐欺や恋愛詐欺、法執行機関へのなりすましなど多岐にわたる手口をAIで効率化していた。ChatGPTは、偽のオンラインペルソナ作成や被害者へのメッセージ生成、詐欺スキームの宣伝コンテンツ作成に活用されていたという。特に「接触」「感情的誘導」「金銭搾取」という一連のプロセスがAIによって自動化されていたと見られる。
この詐欺活動の深刻な側面は、その背後に人身売買や強制労働の影があることだ。OpenAIの調査では、ChatGPTの利用履歴から労働者の債務管理や不法滞在に関する記録、脱走未遂や拘束を示唆する内容が確認された。これは東南アジアで社会問題化している「詐欺センター」の実態と合致する。国連人権報告書は、東南アジアのオンライン詐欺産業が年間数百億ドル規模に達し、拷問や性的虐待、強制労働にさらされた被害者によって支えられていると指摘している。
OpenAIは関連アカウントを停止し、業界パートナーおよび関係当局と脅威の兆候を共有することで対応した。特にWhatsAppからの情報提供が端緒となっており、企業間の連携が詐欺対策において重要な役割を果たしている。しかし、アカウント停止はあくまで対症療法に過ぎない。AI技術の民主化が進む中で、犯罪者が新たなアカウントを作成し手口を巧妙化させることは避けられない課題であり、根本的な解決には至っていないのが現状だ。
今回の事案は、AIの安全性が単なる技術的課題を超え、人権保護という倫理的・政治的な責務へと変容していることを示している。AIは人身売買の抑止に活用できる可能性を秘める一方で、生成AIが搾取の経路を生み出す「二面性」を持つ。AI企業には、単なる利用規約の遵守にとどまらず、犯罪の予兆を検知するアルゴリズムの高度化と、国際的な法執行機関とのより強固な連携が求められる段階に入ったと言える。
AI技術の民主化に伴い、犯罪組織がChatGPTのような主要プラットフォームから、より規制の緩いオープンソースモデルへと移行するリスクが懸念される。このような移行を防ぐためには、AI業界全体で監視の網を広げ、脅威情報を共有する枠組みの強化が不可欠だ。東南アジア諸国がAIの安全性、特に性的ディープフェイクへの懸念から特定のモデルを禁止する動きを見せていることは、地域全体でAIプロバイダーに影響を与える可能性があり、今後のAIガバナンスの方向性を示すものとして注目される。
