誤解と注意

ハルシネーション対策|AIの答えを確かめる手順

ハルシネーションは、AIが事実と違うことを、もっともらしく答えてしまうことです。AIを使う限り、ゼロにはできません。だから、出てきた答えを確かめる手順を決めておくのが一番の対策です。

この記事では、僕が毎日やっている確かめ方を書きます。なぜAIが間違えるのかはAIが嘘をつくのはなぜかに書きました。

まず、間違いが出やすい場所を知る

全部を確かめるのは無理です。僕は、次の5つだけは必ず確かめると決めています。

間違いやすい物 例
数字 料金、検索数、ダウンロード数
日付 いつ始まった、いつ終わった
仕様 できる、できない、上限
「無い」という答え 「まだ誰もやっていない」
自分のこと 自分の体験、自分の経歴

確かめる手順

1. 公式のページを開く

数字や仕様は、作っている会社や役所の公式のページを開いて確かめます。まとめ記事や、別のAIの答えでは確かめたことになりません。

2. 確かめた日を書いておく

AIの道具の料金や機能は、すぐ変わります。記事やメモには「2026年11月に確認」のように、確かめた日を一緒に書きます。このブログの記事もそうしています。

3. 出典を聞いたら、自分で開く

AIに「出典は?」と聞くと、URLを出してくれます。でも、そのURLが本当にその内容を書いているとは限りません。出された出典は、自分で開いて、その文があるかを見ます。

4. 別のAIに見てもらっても、最後は原文

別のAIに「この答えは正しい?」と聞くこともあります。間違いに気づくきっかけにはなります。ただ、指摘のほうが間違っていることもあるので、最後は原文で確かめます。

5. 自分のことは、自分の記録と照らす

AIに文章を書かせると、自分がしていない体験が混ざることがありました。自分の話は、メモや写真など、自分の記録にある物だけを使います。

頼み方で減らす

確かめる前に、頼み方で減らすこともできます。

  • 「分からないことは、分からないと書いて」と最初に伝える
  • 「推測の部分には、推測と書いて」と頼む
  • 数字は「公式のページで確かめた物だけ」と条件をつける

これで間違いがなくなるわけではありませんが、どこを疑えばいいかが分かりやすくなります。

まとめ

  • ハルシネーションはゼロにできない。確かめる手順で防ぐ
  • 数字、日付、仕様、「無い」、自分のこと、の5つは必ず確かめる
  • 公式のページを開き、確かめた日を書く
  • 頼む時に「推測には推測と書いて」と伝える

確かめずに頼りすぎて失敗した話はAI依存の危険に書きました。

この記事を書いた人

とも個人開発をしている大学生

3年ほど前、noteの記事を書く手伝いにAIを使い始めました。今はAIでブラウザゲームとスマホアプリを作っています。うまくいったことより、つまずいたことを多めに書きます。