Our Story
CTはハルシネーションを捉える会社として始まりました。金融、法律、 医療のように、AIが一度間違えればそのまま損失や責任問題につながる 産業において、「AIの回答の中から誤りを見つけ出す技術」があれば、 導入における最後の壁を越えられると信じていました。
そこで当時の市場のやり方に倣いました。すでにできあがったエージェントの回答を受け取り、根拠と照合し、モデルで再検証し、誤りを示す。そうした検知技術に注力しました。技術そのものは進歩し、検知率も上がりました。
ところが現場では、三つの壁にぶつかりました。
間違っていることはわかっても、なぜ間違ったのかがわかりませんでした。 回答だけを見ても、原因が古い文書なのか、切り方を誤った資料なのか、検索が見当違いのものを拾ってきたのか、モデルの誤りなのかを区別できませんでした。元データから回答までの経路がシステムのあちこちに散らばっていて、たどり直す道がなかったからです。
見つけた問題が改善につながりませんでした。 検知結果を渡しても、データを直し、設定を変え、再び評価する作業はお客様側のエンジニアの仕事でした。そのエンジニアたちはすでに多忙で、結果として同じ種類のハルシネーションが何か月も繰り返されるのを見守ることになりました。
検知はいつも後手に回りました。 ハルシネーションは回答ができあがった後に捉えるものではなく、データが用意され、検索され、組み合わされる過程ですでに決まっていました。最終段階でどれだけ精緻に濾しても、上流で生まれる問題の速さには追いつけませんでした。
ここで私たちは方向を変えました。ハルシネーションは「検知」の問題では なく、システム全体の問題でした。元データから回答までが一本につながって いてはじめて原因を突き止められ、突き止めた原因が人の手を介さずに データと設定へ反映されてはじめて改善が止まりません。そこでCTは、 検知ツールではなく、エージェントをつくり運用する全工程を一つに束ね、 自ら改善されていくシステムをつくることにしました。
ハルシネーション検知から始まった会社が、結局システム階層の全体をつくることになった理由は一つです。ハルシネーションを本当に減らすには、それが生まれる場所の全体を扱わなければならないと、現場で学んだからです。

.png)
