AIが出した回答に、事実と異なる内容が混ざっていた経験はありませんか。
存在しない法律の条文、実際とは違う統計数字、架空の人物のコメント。読んで違和感がないまま使ってしまうと、後から困ることがあります。
確認するのは2段階だけです。
- ① AIに根拠を出させる
- ② 別の角度から反論・例外を探させる
この2段階を毎回やるだけで、AIの作り話に引っかかるリスクを大きく下げられます。
ハルシネーションとは何か
「ハルシネーション」とは、AIが事実と異なる内容を、もっともらしい文章として出力することです。日本語で言えば「AIの作り話」です。
AIは「正しい情報を調べて答える」のではなく、「自然な文章を生成する」仕組みで動いています。そのため、正しそうに聞こえる文章を作ることは得意ですが、その内容が事実かどうかを自分で確認する機能は持っていません。
問題は「間違える」ことではありません。「間違いが自然な文章に見える」ことです。読んで気づかないまま使ってしまうのが、いちばんのリスクです。
では、具体的にどう確認すればよいかを見ていきます。
まずここを確認｜特に気をつける情報の種類
【ハルシネーションが起きやすい情報】
❌ そのまま使わない（必ず一次情報で確認）
・「〇〇法第〇条によると」などの法令引用
・「〇〇年の調査では〇〇%」などの統計数値
・「〇〇氏が述べているように」などの人物の発言
・固有名詞（会社名・製品名・人名）の詳細情報
✅ 比較的そのまま使いやすい
・文章の構成・言い回し・トーンの調整
・箇条書きや要約など、形を整える作業
・アイデア出し・たたき台づくり
裏取り2段階の手順
【ステップ1：根拠を出させる】
AIの回答に数字・法律・固有名詞が含まれていた場合、そのまま使う前に以下をAIへ送信してみてください。
「この回答の中で、事実として根拠が必要な部分はどこですか。また、推測や一般論で補っている部分があれば、その旨を教えてください。」
AIが「〇〇については確認が必要です」と返してきた箇所は、必ず官公庁のサイト・公式発表・原典で確認してから使います。
【ステップ2：反論・例外を探させる】
ステップ1で問題がなさそうに見えても、もう一段確認します。以下をAIへ送信してください。
「この内容に反論・例外・誤りがあるとすれば、どのような点が考えられますか。事実として不正確な部分、古くなっている情報、状況によって異なる部分があれば教えてください。」
AIが「前の回答を正しいとは前提せず、独立した視点で」反論を探すよう促すことがポイントです。
現場でいちばん多いのは「詳しそうだから信じた」という判断ミスです
社内でAIを使い始めた頃、「AIが言っているから正しいだろう」という判断でそのまま資料に使ってしまうケースをよく見ました。特に、自分が詳しくない分野ほどAIを信じやすくなります。逆に言えば、自分が詳しくない内容こそ、一次情報で確認する習慣が必要です。AIは「たたき台を作る道具」です。最終確認は人間がやる、この前提を崩さないでください。
よくある失敗と対処
「一般的に」「〜と言われています」という答えは、根拠がないサインです。以下をAIへ送信してください。「"一般的に"という表現を使わず、具体的な出典・数値・事例で示してください。それが難しい場合は"確認できませんでした"と答えてください。」
AIは自分の回答を肯定しやすい傾向があります。以下をAIへ送信してください。「前の回答を正しいとは前提せず、独立した視点で反論・例外・誤りを探してください。」前提を外すひと言が、確認の精度を上げます。
「〇〇年時点で〇〇%」という数値は、AIが作り上げた数字である可能性があります。統計・調査結果・割合が含まれる場合は、必ず出典を確認してください。出典が見つからなければ、その数字は使わない判断が安全です。
次に読む記事
まとめ
・AIは「自然な文章を生成する」仕組みで動いており、事実確認は自分でしない
・数字・法律・固有名詞は「根拠を出させる→反論を探させる」2段階で確認する
・AIは「たたき台を作る道具」。最終確認は人間がやる
他の手順もまとめています → 安全・導入カテゴリ
