AI は便利で、私も日々の作業で使い倒しています。
ただ、ミスをしない完璧な存在だと思い込むと、痛い目に遭います。実際に私が遭いました。

ここでは、AI を信じ切って5000円を無駄にした話と、AI の誤った回答（ハルシネーション）を鵜呑みにして医者の前で恥をかいた話を書きます。

70万件のラベリングに5000円を溶かした

仕事で、70万件ほどのデータにラベルを付ける作業がありました。

人間が手でやるなら、条件を絞って一括で付けていくような作業です。
ただそのときは疲れていたこともあって、「最新の AI ならもっとうまくやってくれるだろう」と、Gemini 2.5 Flash Mini に丸投げしました。

結果は失敗でした。5000円分の API 料金が、使い物にならないデータに変わっただけでした。

なぜ一部で試さなかったのか。冷静になればすぐ分かります。
外注先の人に頼むときなら、最初は必ず少量で出してもらって品質を確認するはずです。それを、相手が AI というだけで「完璧にやってくれる」と決めてかかっていました。

人間は疑うのに、AI は疑わない。この非対称さが、いちばん危ないところだと思います。

健康診断でAIの回答を鵜呑みにした

もう一つ、AI の回答の当てにならなさを実感した出来事があります。

過敏性腸症候群の症状が出ていて、薬を飲んでいた時期に、ちょうど健康診断がありました。バリウムを飲んで大丈夫なのかが不安で、AI に聞いてみたんです。

返ってきたのは、強い調子の「やめたほうがいい、危険です」という回答でした。

それを信じ込んだ私は、当日、医者に「過敏性腸症候群なので、バリウム検査は駄目ですよね」と伝えました。
返ってきたのは、何を言っているんだという冷ややかな反応でした。結局そのままバリウムを飲みましたが、何の問題も起きませんでした。あの不安は何だったのか、という気持ちだけが残りました。

それ以来、AI の回答をそのまま信じることはしなくなりました。
仕事でも、人に依頼すれば重大なミスが混じることはあるし、方向性がずれることもあります。私はエンジニアなので、自分の専門分野なら「これは間違っている」と気づいて指示し直せます。問題は、専門外のことだと、その判断ができないまま信じてしまう点です。

まとめ

AI は確かに優秀です。それでも、平気で間違えるし、こちらの意図を完璧に汲んでくれるわけでもありません。

  • 有能だけれど、ときどき自然な顔で嘘をつく新人
  • 普段は優秀でも、調子によって雑な仕事をすることがある同僚

これくらいの距離感でいるのがちょうどいいのだと思います。
全部を丸投げせず、まず一部で試す。命や健康に関わることは、専門家に確認する。

当たり前のことを、5000円と恥ずかしい思いを払って学びました。