生成AIは、ここ1〜2年で仕事の中にかなり入ってきました。調べものも、資料の下書きも、AIに頼むのが当たり前になりつつあります。

一方で、AIの答えを信じすぎたことによる失敗も、少しずつ表に出てきています。しかも、経験の浅い人だけの話ではありません。熟練の専門家や、大手の組織でも起きています。

こうした事例から言えるのは、AIを使うこと自体が問題なのではなく、AIの答えを自分で検品する力と、検品した結果について「誰が、どう確認したか」を説明できる形にしておくことが必要だ、ということではないかと思います。

以下は、公表されている失敗事例と研究です。ご自身の職場に置き換えながら、参考にしていただければ幸いです。詳しく知りたい方のために、それぞれ元の記事へのリンクを付けています。

1．政府向け報告書に、架空の引用（2025年10月）

大手会計事務所の豪州法人が政府に納めた報告書に、実在しない論文や、判決からの架空の引用が含まれていました。契約額は約44万豪ドルで、約9.7万豪ドルを返金しています。専門家が関わった報告書でも、引用が実在するかという基本的な確認が抜けていた事例です。
https://www.cfodive.com/news/deloitte-refunds-60k-report-ai-errors-australian-government-accounting/803321/

2．AIに頼るうちに、医師の目が鈍った（2025年8月）

内視鏡医19人を対象にした研究です。AIによる診断支援を日常的に使い始めたあと、AIなしで検査したときの腺腫の発見率が、28.4%から22.4%へと約2割下がりました。AIが間違えたのではなく、AIに頼るうちに自分で見つける力が落ちていた、という結果です。
https://www.thelancet.com/journals/langas/article/PIIS2468-1253(25)00133-5/abstract

3．15年のベテランでも、AIの誤りに引っ張られた（2023年）

乳がん検診の画像読影で、AIがわざと誤った判定を示す実験です。15年以上の経験を持つ医師でも、正答率が82%から45.5%に下がりました。「ベテランが確認すれば大丈夫」とは言い切れないことを示しています。
https://www.rsna.org/news/2023/may/ai-bias-may-impair-accuracy

4．速くなったつもりで、実際は遅くなっていた（2025年7月）

熟練のソフトウェア開発者16人を対象にした実験です。AIを使うと、実際には作業時間が19%長くなっていたのに、本人たちは20%速くなったと感じていました。体感と実測がずれていた事例です。
https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/

5．AIを使うと、自分の出来を高く見積もる（2025年10月）

約500人に、ChatGPTを使って論理問題を解いてもらった実験です。全員が自分の成績を実際より高く見積もり、AIに詳しいと答えた人ほど、その傾向が強く出ました。
https://www.aalto.fi/en/news/ai-use-makes-us-overestimate-our-cognitive-performance

6．AIに任せると、理解が残らない（2026年1月）

エンジニア52人を対象にした実験です。AIを使って作業した群は、あとの理解度テストが平均50%で、使わなかった群の67%を下回りました。ただし、AIの答えに「なぜそうなるのか」と聞き返し、中身を自分で確かめた人は、点が落ちていませんでした。
https://www.anthropic.com/research/AI-assistance-coding-skills

6つの事例に共通しているのは、AIの答えを、その根拠をたどらないまま受け入れていたことです。

大事なのは、何回聞き直すかではないと思います。1回でも、うまく聞けば十分です。その答えがどこから来て、どういう筋道で出てきたのかを、自分でたどれる形で受け取れているか。そこが分かれ目になっている可能性があります。

そして、たどった結果を「誰が、どう確認したか」として残しておけば、監査法人にも、税理士にも、金融機関にも説明できます。「AIが作りました」では通りません。AIを信じすぎないことと、説明責任を負えることは、同じ一つの力なのではないでしょうか。

ISAO国際公認会計士事務所　加藤 勲
管理部門のAI活用と、AIのアウトプットを「誰がどう確認したか」まで説明できる仕組みづくりをご支援しています。