AIが教えてくれた「それらしい嘘」を、危うく信じるところだった

使い始めの頃、AIには何でも聞けば正解が返ってくると思っていました。
ある資料づくりで統計の数字をAIに聞き、出てきた数値をそのまま載せかけたことがあります。
念のため出典を探したら、どこにも見つかりませんでした。
数字も、それを発表したはずの機関の報告書も、存在しなかったのです。

怖いのは、答え方に迷いがないことです。
自信のある正解と、自信のあるでたらめが、同じ顔で出てきます。
人間なら口ごもる場面で、AIは流暢に話し続ける。
「堂々としているから正しい」という人間相手の勘は、AIには通用しませんでした。

とはいえ「AIは信用できない」で終わらせると、便利さも一緒に捨てることになります。
私が落ち着いた線引きはこうです。
文章の組み立てや言い換え、渡した資料の要約、アイデア出し。
こうした「材料をこちらから渡して加工してもらう仕事」は、安心して任せられます。
狂うとしても、目の前で分かるからです。

裏取りが要るのは「AIの記憶から取り出させる仕事」です。
統計の数字、法律や制度の内容、固有名詞、日付、URL。
ここは出典まで確認するか、最初から「出典付きで。見つからなければ、見つからないと言って」と頼みます。
不思議なもので、この一言があるだけで、でたらめの割合は目に見えて減ります。

いまは、AIを「博識だけど、知ったかぶりもする同僚」だと思って付き合っています。
発想の広さと作業の速さは、文句なしに頼りになる。
でも数字と固有名詞だけは、本人に悪気がないぶん、こちらで確かめる。
そう割り切ってからは、騙されることも、必要以上に疑うこともなくなりました。