「ハルシネーション制御の実務側からの補足」

人事規定、法務、内部統制といったハルシネーションが許されない領域での間違い起きない手法として、
・LLMに直接回答させない
・一次情報のある場所へ誘導するのみ
というAI活用機能を整備しています。

NYU記事の方針ですね（検索エンジンとして使用し、チェック済の社内文書を提示）。

"using chatbots as complex search engines that point customers to excerpts from pre-approved company documents or policy pages that should answer the customer's questions, rather than generating a new answer to the question"
https://t.co/wbx6uTHMj3

例としては、
ユーザー：住宅補助っていつまでもらえるんだっけ？
システム：住宅補助については総務が提供している次の文書を参照ください（誘導するのみ）
という感じです。

（一次文書はチャプターやセクションごとにアンカーリンクを付け、できるだけ該当箇所に近いURLを作成できるよう各部門に働きかける努力は重要です）

ベクトルDBやElasticsearchだけで簡易対応することも可能ですが、
・ユーザー入力を適切な検索クエリに変換するためのLLM
・部門横断で散在した文書を継続クロールする仕組み
などが必要になるため、それなりに作り込みは必要です。

おすすめの企業像
・社員 1000人以上
・人事／総務／情シス／監査などが大量の規程を発信
・部門ごとに情報管理方法がバラバラ（サイロ化で利用者が「どこに何があるか分からない」状態になりがち）

内製が可能なら、高額なエンプラサーチ導入より ROI を合わせやすいです。

（Azure / AWS / GCP の RAG構築系サービスにも “回答生成OFF” や “検索結果のみ返す” モードが標準搭載されています） December 12, 2025