AIの一括処理で、データが静かに壊れた話

AIに一番向いている仕事は何かと聞かれたら、私は「大量の単純作業」と答えます。
数百件のデータ整形や、ファイルの一括変換。
人間がやると丸一日かかってミスも出る仕事を、AIは数分で片付けてくれます。
ただ、この便利さには落とし穴がありました。

少し前、テキストデータ数百件の整形をAIに任せたことがあります。
仕上がりをざっと眺めて、問題なし。
そのまま保存して、その日は気持ちよく終わりました。
数日後、そのデータを読み込んだ画面の一部が、開かなくなっていました。

原因は、目に見えない改行コードでした。
変換の過程で改行の種類が変わってしまい、文字数を厳密に数えている箇所が狂っていたのです。
画面で見ても違いは分かりません。
「ざっと眺めて問題なし」は、何の保証にもなっていませんでした。

この失敗から変えたのは、頼み方です。
一括処理を頼むときは、処理そのものと一緒に「壊れていないことを確かめる方法」を先に決めて、それもAIにやらせる。
たとえば「変換後の全件が読み込みエラーにならないか、機械的に確認して結果を報告して」と、最初の依頼に含めてしまいます。

コツは、確認を人間の目視にしないことです。
数百件を目で見ても、見えない文字は見つかりません。
読み込めるか、件数が合うか、合計値が変わっていないか。
機械的に白黒つく確かめ方を、AIと一緒に先に決めておきます。

AIは手を抜いたわけではありません。
頼まれた変換は、頼まれたとおりにやっています。
壊れたのは、私が「うまくいったかどうかの確かめ方」を用意していなかったからです。
処理と検証はいつもセット。
一括処理を頼む機会が多い人ほど、効いてくる習慣だと思います。