AIが嘘をつくのはなぜ?作業中に出た実例と見分け方
AIは、悪気なく嘘をつきます。知らないことを「知らない」と言わずに、もっともらしい答えを作ってしまうからです。この間違いは「ハルシネーション」と呼ばれています。
僕は毎日AIで作業していて、何度もこれに出会っています。この記事では、実際の例と、なぜそうなるのか、どう見分けているかを書きます。
実際に受け取った間違い
体験していないことが書かれていた
AIに記事の下書きを頼んだら、僕がしていない体験が、僕の体験として1行入っていました。前後の流れに合っていて、読んでも違和感がありません。自分の記録と照らし合わせて、初めて気づきました。
日付がずれていた
Google の検索のある機能について、AIは「2026年6月に終わった」と書いていました。公式の発表を開き直すと、実際は5月7日でした。6月は、説明のページが消された日だったのです。近い日付なので、確かめなければそのまま使っていました。
調べていないのに「無い」と言った
「このジャンルのアプリは、まだ誰も出していない」とAIが言ったことがありました。実際に検索すると、似たアプリはいくつもありました。調べた結果ではなく、推測で書いていたのです。
AIが嘘をつく理由
文章を作るAIは、「この次に来そうな言葉」を予測して文を組み立てています。正しいかどうかを確かめながら書いているわけではありません。
そのため、次のような時に間違いやすくなります。
- 数字、日付、固有名詞(それっぽい値を作りやすい)
- 最近の出来事(知らないことを、知っている風に書く)
- 頼んだ人が期待していそうな答え(「ある」と言ってほしそうなら「ある」と書く)
嘘をつこうとしているのではなく、正しさより「それらしさ」で文を作っている、と考えると分かりやすいです。
見分け方
完全に見分ける方法はありません。僕がやっているのは、疑う場所を決めておくことです。
- 数字、日付、料金、仕様は、必ず公式のページで確かめる
- 「無い」「誰もやっていない」と言われたら、自分で検索する
- 自分のことが書かれていたら、自分の記録と照らす
- 自信たっぷりの言い方でも、中身は確かめる
具体的な手順はハルシネーション対策にまとめました。
まとめ
- AIは、もっともらしい間違いを悪気なく書く
- 数字、日付、固有名詞、「無い」という答えは特に危ない
- 理由は、正しさより「次に来そうな言葉」で文を作っているから
- 大事なことは、公式や実物で確かめる
頼りすぎるとどうなるかはAI依存の危険に書いています。