誤解と注意

AIが嘘をつくのはなぜ?作業中に出た実例と見分け方

AIは、悪気なく嘘をつきます。知らないことを「知らない」と言わずに、もっともらしい答えを作ってしまうからです。この間違いは「ハルシネーション」と呼ばれています。

僕は毎日AIで作業していて、何度もこれに出会っています。この記事では、実際の例と、なぜそうなるのか、どう見分けているかを書きます。

実際に受け取った間違い

体験していないことが書かれていた

AIに記事の下書きを頼んだら、僕がしていない体験が、僕の体験として1行入っていました。前後の流れに合っていて、読んでも違和感がありません。自分の記録と照らし合わせて、初めて気づきました。

日付がずれていた

Google の検索のある機能について、AIは「2026年6月に終わった」と書いていました。公式の発表を開き直すと、実際は5月7日でした。6月は、説明のページが消された日だったのです。近い日付なので、確かめなければそのまま使っていました。

調べていないのに「無い」と言った

「このジャンルのアプリは、まだ誰も出していない」とAIが言ったことがありました。実際に検索すると、似たアプリはいくつもありました。調べた結果ではなく、推測で書いていたのです。

AIが嘘をつく理由

文章を作るAIは、「この次に来そうな言葉」を予測して文を組み立てています。正しいかどうかを確かめながら書いているわけではありません。

そのため、次のような時に間違いやすくなります。

  • 数字、日付、固有名詞(それっぽい値を作りやすい)
  • 最近の出来事(知らないことを、知っている風に書く)
  • 頼んだ人が期待していそうな答え(「ある」と言ってほしそうなら「ある」と書く)

嘘をつこうとしているのではなく、正しさより「それらしさ」で文を作っている、と考えると分かりやすいです。

見分け方

完全に見分ける方法はありません。僕がやっているのは、疑う場所を決めておくことです。

  • 数字、日付、料金、仕様は、必ず公式のページで確かめる
  • 「無い」「誰もやっていない」と言われたら、自分で検索する
  • 自分のことが書かれていたら、自分の記録と照らす
  • 自信たっぷりの言い方でも、中身は確かめる

具体的な手順はハルシネーション対策にまとめました。

まとめ

  • AIは、もっともらしい間違いを悪気なく書く
  • 数字、日付、固有名詞、「無い」という答えは特に危ない
  • 理由は、正しさより「次に来そうな言葉」で文を作っているから
  • 大事なことは、公式や実物で確かめる

頼りすぎるとどうなるかはAI依存の危険に書いています。

この記事を書いた人

とも個人開発をしている大学生

3年ほど前、noteの記事を書く手伝いにAIを使い始めました。今はAIでブラウザゲームとスマホアプリを作っています。うまくいったことより、つまずいたことを多めに書きます。