ChatGPTやCopilotを日常で使うようになって、もう1年以上経つ方も多いと思います。便利さに慣れてきた一方で、「AIの回答、どこまで信じていいのか」という疑問は消えません。私自身、会計監査・CFO・コンサルを通じて「数字や事実を最後に検証する仕事」を続けてきましたが、AI時代こそ、この検証思考が個人にも求められる時代だと感じています。
今回は、AIのアウトプットを鵜呑みにしないための「即効チェックリスト」を、実務目線でご紹介します。
1．回答直後に投げ返す「4問」
AIは流暢に答えてくれますが、流暢さと正しさは別物です。回答を受け取ったら、そのチャットの中で次の4問をそのまま投げ返してみてください。
・「それって何を根拠に言ってる？」（ソースの確認）
・「逆の可能性は？」（バイアスの排除）
・「見落としあるとしたらどこ？」（死角のあぶり出し）
・「その回答の確実性は何％くらい？」（リスクの数値化）
監査人の現場では、相手の主張に対して必ず「根拠書類は？」「他の解釈は？」と切り返します。これと同じ動作をAIに対してもやるだけで、AIは自分の不確かな部分を白状し始めます。特に4問目の「確実性は何％？」は強力で、80％と返ってきたら20％は外している前提で読む、というシンプルな運用ができます。
2．別チャネルで「セカンドオピニオン」をとる
もう一つの基本動作が、セカンドオピニオンです。AIの回答をコピーして、別のAI（CopilotならChatGPTやClaudeなど）に貼り付け、「これ正しい？」と聞くだけ。これだけで、いわゆるハルシネーション（捏造）の発見率が劇的に上がります。
これは税理士に確認したあと、別の税理士にもう一度聞いてみるのと構造が同じです。モデルが違えば、参照しているデータも、思い込みのクセも違います。違う「目」を入れることが、リスク管理の基本です。
3．なぜここまでやるのか
AIには弱点が3つあります。1つ目は「ない」の証明が苦手なこと。「該当する特許はありません」と断言しても、実はAIが知らないだけ、という状況がよくあります。2つ目は、確実性を問われると不確かな部分を素直に出してくる性質。3つ目は、モデルごとに思い込みのクセが違うこと。
裏を返せば、4問を投げ、セカンドオピニオンを取るだけで、これらの弱点は実用上ほぼカバーできます。
最終判断は、必ず人間の手で
AIの回答は、あくまで「検索のヒント」「下書きの叩き台」です。経理の数値判断、税務の論点整理、契約書の確認──最終的な責任は、いつも人間の側にあります。
便利さに慣れるほど検品の手間を惜しみたくなりますが、ここを抜くとAIは「便利な部下」から「困った部下」に変わります。「4問＋セカンドオピニオン＋人間の最終判断」を、ぜひ今日からの基本動作に。