誤解と注意

AI依存の危険|頼りすぎて失敗した大学生の話

AIは便利です。僕も毎日使っています。ただ、便利だからこそ、自分で確かめる手間を飛ばしたくなります。AI依存の一番の危険は、ここだと思っています。

この記事は「AIを使うのをやめよう」という話ではありません。頼りすぎて実際に失敗したことと、そこから決めたルールを書きます。

頼りすぎて失敗したこと

「できました」を信じて出した

AIに作ってもらったゲームを、AIの「できました」を信じて公開したことがありました。あとで自分の iPhone で開くと、画面が真っ白で動きませんでした。公開する前にスマホで1回開けば分かったことです。

テストが全部合格なのに、壊れていた

AIに「ちゃんと動くか確かめるテスト」も書いてもらっていました。結果は全部合格。でも実際に触るとバグがありました。テストの書き方が間違っていて、何をしても合格になっていたのです。確かめる仕組みまでAIに任せると、間違いに気づく手段がなくなります。

自分の体験が作られていた

記事の下書きをAIに頼んだら、僕がしていない体験が1行入っていました。読んでも自然なので、自分の記録と照らすまで気づきませんでした。

なぜ頼りすぎるのか

どれも、AIの答えが「それらしかった」から起きました。間違いが目立つなら、すぐ気づけます。AIの間違いは、自然で、自信のある言い方で出てきます。だから確かめる気が起きにくいのです。

もう1つは、速さです。AIが一瞬で答えを出すので、自分で確かめる時間がもったいなく感じます。でも、確かめずに出して直すほうが、ずっと時間がかかりました。

決めた自分のルール

  • 実物は自分で触る。スマホで使う物はスマホで開く
  • 数字、日付、仕様は公式で確かめる(ハルシネーション対策)
  • 自分の体験は、自分の記録にある物だけ書く
  • 面白いか、出していいか、は自分が決める

AIに任せるのは「作る」と「調べる」まで。「良いかどうか決める」は人に残す、という線の引き方です。

まとめ

  • AI依存の危険は、確かめる手間を飛ばしてしまうこと
  • AIの間違いは自然で自信のある言い方で来るので、気づきにくい
  • 実物は自分で触り、事実は公式で確かめる
  • 決めるのは人。AIを使うのをやめる必要はない

AIがなぜ間違えるのかはAIが嘘をつくのはなぜかに書いています。

「決めるのは人」という考えは、AIに奪われない仕事は?にも書いています。

この記事を書いた人

とも個人開発をしている大学生

3年ほど前、noteの記事を書く手伝いにAIを使い始めました。今はAIでブラウザゲームとスマホアプリを作っています。うまくいったことより、つまずいたことを多めに書きます。