ハルシネーション対策|AIの答えを確かめる手順
ハルシネーションは、AIが事実と違うことを、もっともらしく答えてしまうことです。AIを使う限り、ゼロにはできません。だから、出てきた答えを確かめる手順を決めておくのが一番の対策です。
この記事では、僕が毎日やっている確かめ方を書きます。なぜAIが間違えるのかはAIが嘘をつくのはなぜかに書きました。
まず、間違いが出やすい場所を知る
全部を確かめるのは無理です。僕は、次の5つだけは必ず確かめると決めています。
| 間違いやすい物 | 例 |
|---|---|
| 数字 | 料金、検索数、ダウンロード数 |
| 日付 | いつ始まった、いつ終わった |
| 仕様 | できる、できない、上限 |
| 「無い」という答え | 「まだ誰もやっていない」 |
| 自分のこと | 自分の体験、自分の経歴 |
確かめる手順
1. 公式のページを開く
数字や仕様は、作っている会社や役所の公式のページを開いて確かめます。まとめ記事や、別のAIの答えでは確かめたことになりません。
2. 確かめた日を書いておく
AIの道具の料金や機能は、すぐ変わります。記事やメモには「2026年11月に確認」のように、確かめた日を一緒に書きます。このブログの記事もそうしています。
3. 出典を聞いたら、自分で開く
AIに「出典は?」と聞くと、URLを出してくれます。でも、そのURLが本当にその内容を書いているとは限りません。出された出典は、自分で開いて、その文があるかを見ます。
4. 別のAIに見てもらっても、最後は原文
別のAIに「この答えは正しい?」と聞くこともあります。間違いに気づくきっかけにはなります。ただ、指摘のほうが間違っていることもあるので、最後は原文で確かめます。
5. 自分のことは、自分の記録と照らす
AIに文章を書かせると、自分がしていない体験が混ざることがありました。自分の話は、メモや写真など、自分の記録にある物だけを使います。
頼み方で減らす
確かめる前に、頼み方で減らすこともできます。
- 「分からないことは、分からないと書いて」と最初に伝える
- 「推測の部分には、推測と書いて」と頼む
- 数字は「公式のページで確かめた物だけ」と条件をつける
これで間違いがなくなるわけではありませんが、どこを疑えばいいかが分かりやすくなります。
まとめ
- ハルシネーションはゼロにできない。確かめる手順で防ぐ
- 数字、日付、仕様、「無い」、自分のこと、の5つは必ず確かめる
- 公式のページを開き、確かめた日を書く
- 頼む時に「推測には推測と書いて」と伝える
確かめずに頼りすぎて失敗した話はAI依存の危険に書きました。