大規模言語モデル（LLM）の誤回答（ハルシネーション）問題に対し、米スタートアップProbablyが新たな解決策を提示した。同社は決定論的な検証システムを開発し、Andreessen Horowitzから900万ドルの資金を調達。AIの信頼性を飛躍的に高めることを目指している。
Probably社は、LLMが確率論的に回答を生成する特性に起因する事実誤認を根本的に排除するアプローチを提唱している。TechCrunchの報道によれば、同社の核となる技術は、LLMの出力に対し決定論的な検証システムを組み合わせることで、従来のAIでは困難とされた99.99%の精度達成を目指すものだ。この「検証用ハーネス」と呼ばれる枠組みは、AIの回答がユーザーに提示される前に、厳格なデータサイエンスのロジックに基づき妥当性をチェックする仕組みである。
Probably社の戦略は、AI業界の主流である「巨大モデル」の追求とは一線を画す。検証ハーネスの精度を高めることで、あえて小型のLLMモデルを採用し、ローカル環境での稼働を可能にしている。これにより、膨大なトークンコストを削減し、企業がAIを導入する際の経済的負担を大幅に軽減できる。さらに、機密データをオンプレミスで処理できるため、データレジデンシーやセキュリティに関する懸念も解消されると見られる。
現在の生成AI業界は、パラメータ数を競う巨大モデルの開発競争が激化している。しかし、Probably社はこの「スケール至上主義」に対し、AIの知能を補完する周辺技術の重要性を提示している。創業者のピーター・エリアス氏は、AIラボ側にはモデルの修正回数を減らすインセンティブが働きにくいという構造的な問題が存在すると指摘。同社の技術は、モデル自体の改善に依存せず、外部からの検証によって信頼性を確保するという新たな解決策を提示するものだ。
Probably社の技術は、企業が生成AIを会計、金融報告、医療診断といった極めて高い精度が求められる業務に安全に組み込む道を切り拓く。LLMの出力に引用と監査証跡が付与されることで、規制要件への対応も容易になる。これにより、これまでAI導入の障壁となっていた信頼性の問題が解消され、情シス担当者は、AIを単なる実験的なチャットボットではなく、既存の基幹業務システムに統合可能な「信頼できるツール」として評価できるようになるだろう。
Probably社の決定論的検証システムは、データサイエンス分野での有効性が示唆されているが、会計や医療といったより複雑で多様な業務ドメインにおいて、同様の検証ハーネスがどの程度汎用的に機能するかが今後の焦点となる。また、検証システム自体が複雑化した場合、そのメンテナンスコストや、検証プロセスがもたらすレイテンシが、リアルタイム性が求められる業務にどの程度影響を与えるかも重要な課題だ。これらの実運用上の課題をクリアできるかが、同社の技術の真価を問うことになる。
