AI依存の危険|頼りすぎて失敗した大学生の話
AIは便利です。僕も毎日使っています。ただ、便利だからこそ、自分で確かめる手間を飛ばしたくなります。AI依存の一番の危険は、ここだと思っています。
この記事は「AIを使うのをやめよう」という話ではありません。頼りすぎて実際に失敗したことと、そこから決めたルールを書きます。
頼りすぎて失敗したこと
「できました」を信じて出した
AIに作ってもらったゲームを、AIの「できました」を信じて公開したことがありました。あとで自分の iPhone で開くと、画面が真っ白で動きませんでした。公開する前にスマホで1回開けば分かったことです。
テストが全部合格なのに、壊れていた
AIに「ちゃんと動くか確かめるテスト」も書いてもらっていました。結果は全部合格。でも実際に触るとバグがありました。テストの書き方が間違っていて、何をしても合格になっていたのです。確かめる仕組みまでAIに任せると、間違いに気づく手段がなくなります。
自分の体験が作られていた
記事の下書きをAIに頼んだら、僕がしていない体験が1行入っていました。読んでも自然なので、自分の記録と照らすまで気づきませんでした。
なぜ頼りすぎるのか
どれも、AIの答えが「それらしかった」から起きました。間違いが目立つなら、すぐ気づけます。AIの間違いは、自然で、自信のある言い方で出てきます。だから確かめる気が起きにくいのです。
もう1つは、速さです。AIが一瞬で答えを出すので、自分で確かめる時間がもったいなく感じます。でも、確かめずに出して直すほうが、ずっと時間がかかりました。
決めた自分のルール
- 実物は自分で触る。スマホで使う物はスマホで開く
- 数字、日付、仕様は公式で確かめる(ハルシネーション対策)
- 自分の体験は、自分の記録にある物だけ書く
- 面白いか、出していいか、は自分が決める
AIに任せるのは「作る」と「調べる」まで。「良いかどうか決める」は人に残す、という線の引き方です。
まとめ
- AI依存の危険は、確かめる手間を飛ばしてしまうこと
- AIの間違いは自然で自信のある言い方で来るので、気づきにくい
- 実物は自分で触り、事実は公式で確かめる
- 決めるのは人。AIを使うのをやめる必要はない
AIがなぜ間違えるのかはAIが嘘をつくのはなぜかに書いています。
「決めるのは人」という考えは、AIに奪われない仕事は?にも書いています。