Google DeepMindは、AI技術が生物学的リスクを増大させる可能性を認め、開発プロセスに厳格な安全基準を組み込む「バイオレジリエンス」戦略を策定した。創薬やゲノム解析におけるAIの活用が加速する中で、技術の恩恵と安全性の両立を図るためのガバナンスのあり方が問われている。
Google DeepMindが「バイオレジリエンス」戦略を打ち出した背景には、AlphaFoldのような強力なAIツールが病原体設計などに転用される「デュアルユース」の懸念がある。ランド研究所の報告によれば、AIは現在、生物学的設計の支援ツールとしての役割が主だが、2027年以降には自律的に新しい病原体を設計する能力を獲得するリスクが指摘されている。スタンフォード大学HAIも生物医学研究における倫理的枠組みの必要性を強調しており、技術の恩恵を維持しつつ悪用を防ぐための自律的な監視体制が不可欠となっている。
戦略の核心は、モデルの学習データや推論結果に対する監視体制の強化にある。具体的には、生物学的脅威となり得る情報の生成を制限するフィルタリング技術や、悪意ある利用を検知する防御システムの構築が軸となる。米国科学技術政策局（OSTP）は、新規生物剤の設計を可能にする計算モデルの監視を推奨しており、米国AI安全研究所（NIST）は、AIが危害を引き起こす能力を評価するためのガイダンス策定を担う。2022年の「MegaSyn実験」では、創薬AIが短時間で神経剤VXの類似体を生成した事例もあり、技術的な安全網の実装が急務である。
AIによる対策強化は、創薬分野における安全基準を大きく変える可能性がある。現場の研究者にとって最大の懸念は、過度な規制が正当な研究活動を阻害することだ。創薬AI市場は2030年に向けて年平均成長率37.67%という急成長が見込まれる中、研究者は「責任あるAI」指導原則に基づき、倫理的利用とデータ保護を両立させる必要がある。単なる規制強化ではなく、創薬プロセスに組み込まれた人間による監視や予期せぬ結果の軽減といった、実務的な安全対策の運用が現場の信頼性を左右するだろう。
AIの民主化が進む中で、特定の企業による対策だけでは限界がある。オープンソース化されたモデルが拡散すれば制御不能になるリスクが残るため、国際的な安全基準の策定と管理枠組みの構築が焦点となる。Microsoftの研究によれば、AIが生成した毒性タンパク質に対するバイオセキュリティスクリーニング技術には依然として脆弱性が存在し、技術の進歩と管理システムの間にギャップが生じている。今後はAI開発者と生物学の専門家が共同で「デュアルユース」問題を監視する国際的な枠組みを構築できるかが、社会的な信頼を勝ち取る鍵となる。
