AIに資料を作ってもらったものの、「この内容、そのまま使って大丈夫だろうか」と不安になったことはありませんか。読みやすくまとまっているほど、確認せずに使ってしまいがちです。
私自身、AIが作った資料を人に共有する前に、公式の発表と突き合わせたところ、時期・人数・固有名詞に誤りが見つかりました。また、AIにアプリのツールの使い方を聞いたときには、実際のツールには存在しない項目を、もっともらしく説明されたこともあります。
結論からお伝えすると、AI資料のファクトチェックは「一次情報を先に確定させる」ことが基本です。本記事では、確認したい5つの項目、5つのステップ、私の体験、そして運用している3つのルールを紹介します。
【結論】AI資料のファクトチェックは「一次情報を先に確定させる」ことが基本
なぜAIが作った資料は確認が必要なのか
生成AIは、事実に基づかない誤った情報をもっともらしく生成することがあります。これを「ハルシネーション（幻覚）」と呼びます。総務省の情報通信白書も、この現象は技術的な対策が検討されているものの完全に抑制できるものではないとしています[1]。
そのため、生成AIを活用するときは、ユーザー自身が出力した答えが正しいかどうかを確認することが望ましいとされています[1]。
まず押さえたい3つのルール
運用しているのは、次の3つです。
- 一次情報を先に確定させる（公式の発表・公的機関の資料などを先に確かめる）
- 誤りだった点を、先にメモして除外する（使わない情報として外してから作業に入る）
- 日付・人数・固有名詞・数値は、まず確認する（AIの出力を「確認する対象」として扱う）
欧州のファクトチェック規範（欧州ファクトチェック規範ネットワークが定める規範）にも、「可能な限り一次資料に依拠する」というルールがあります[2]。
【なぜ起きる？】AI資料の誤りが見抜きにくくなる3つの要因
先に、原因と対策を表にまとめます。
| 要因 | どんなことが起きるか | 対策の方向 |
|---|---|---|
| 学習していない情報 | 資料の「最新」「現在」が、実際の今とずれることがある | 情報の時点を確認する |
| もっともらしい言い方 | 誤りでも、自然な文章や断定で書かれる | 数字・名称を一次情報で確認する |
| 図解や表の見やすさ | きれいな資料ほど、確認が後回しになりやすい | 見た目と内容を分けて確認する |
生成AIは、学習していない情報には対応できない
大阪大学の生成AI教育ガイドは、生成AIは既存のデータをもとに学習しているため、学習していない情報については対応することができないと説明しています[4]。ここでいう「学習していない情報」には、学習に使われたデータより新しい出来事なども含まれると考えられます。
つまり、AIが答えられる内容には、限りがあります。資料の中の「最新」「現在」という言葉が、本当に今のことを指しているかは、別に確かめる必要があります。
もっともらしい言い方が、誤りを見抜きにくくする
前述のとおり、生成AIは誤った情報を「もっともらしく」生成することがあります[1]。
記録では、資料に「どのくらい確かか」を示す数字（この記事では確信度と呼びます）が付いていました。そして、いちばん間違えていた箇所ほど、高い確信度で書かれていました。これは、今回のケースでの話で、一般化はできません。ただ、確信度の高さを、正しさの根拠にしない方がよい、という教訓になりました。
図解や表がきれいでも、内容の確認は別
政府広報オンラインは、「表やグラフがあるからといってすぐに信じることはしないで、数字が正しくなっているか、出典元があるかどうかなど、よく確認するようにしましょう」と呼びかけています[5]。
AIが作った資料は、図解や表が整っていることが多いです。見やすさと正確さは別のものとして、切り分けて確認しましょう。
【確認の対象】AI資料でまず確認したい5つの項目
確認する項目を先に決めておくと、迷わずに進められます。
| 項目 | 確認するポイント | 参考になる考え方 |
|---|---|---|
| 日付・時期 | その情報が、いつ発信されたものか。今も有効か | 「どこから、いつ発信されたものですか」[5] |
| 人数・数値・割合 | 数字が正しいか。出典元があるか | 「数字が正しくなっているか、出典元があるか」[5] |
| 固有名詞 | 人名・製品名の表記が、資料の中でそろっているか | 記録：資料ごとに表記が揺れていた |
| 言い換え・要約 | 元の表現が、意味を変えて言い換えられていないか | 記録：割合が、日数の言い方に変わっていた |
| 機能・操作手順 | 説明された項目や機能が、実際のツールに存在するか | 体験：説明された項目が、実際には存在しなかった |
日付・時期
政府広報オンラインの確認ポイントには、「その情報はどこから、いつ発信されたものですか？」「根拠となる情報は今も存在していますか？」があります[5]。時期は、資料の全体の前提になるので、最初に確認します。
人数・数値・割合
強調された数字ほど、出典を確かめます。政府広報オンラインも、「数字が正しくなっているか、出典元があるかどうか」を確認するよう呼びかけています[5]。確認するときは、公式の発表に、その数字が書かれているかを見ると安心です。
固有名詞と、言い換え
記録では、同じ人物の名前が資料ごとに表記が揺れていました。原因は、文字起こしの誤変換でした。また、公式の発表では「時間の短縮の割合」で書かれていた内容が、資料では「日数」の言い方に置き換わっていました。言い換えは、意味が変わりやすいので、原文と並べて確認します。
機能・操作手順（実際に存在するか）
ツールの使い方をAIに聞くと、もっともらしく説明されることがあります。しかし、体験としては、説明された項目が、実際のツールには存在しませんでした（詳しくは、あとの独自検証で紹介します）。
機能や操作手順は、実際のツールの画面や、公式のヘルプで、その項目があるかを確かめてから使います。
【手順】AI資料のファクトチェックのやり方5ステップ
ステップ1：一次情報（公式の発表・公的機関の資料）を探す
最初に、元になる一次情報を探します。日本ファクトチェックセンター（JFC）の講座は、「公的機関や当事者が発信しているか」も調べましょうとし、メディアの記事にはないデータや一次情報が、ウェブサイトなどで公開されていることもある、と紹介しています[3]。ツールの使い方を調べるときは、実際のツールの画面や、公式のヘルプが一次情報にあたると考えられます。
ステップ2：資料の記述と一次情報を、項目ごとに突き合わせる
次に、資料の記述を、一次情報と項目ごとに見比べます。JFCの講座は、「一次資料や関連データとの矛盾がないか」まで調べられたら、ファクトチェックの最初のステップとしては十分なレベルと言えるとしています[3]。
突き合わせるときは、先ほどの5つの項目（日付・数値・固有名詞・言い換え・機能や操作手順）を使うと、抜けが減ります。
ステップ3：誤りだった点をリストにして、先に除外する
誤りが見つかったら、その点をリストにします。そして、使わない情報として先に除外してから、作業に入ります。誤りを残したまま作業を進めると、あとで混ざりやすくなるためです。
ステップ4：AIに再確認させるときの注意点
総務省の白書は、ユーザーが答えの正しさを確認する方法として、「検索を併用するなど」を挙げています[1]。
また、大阪大学の教育ガイドは、AIに根拠となる情報を出力させることもできるが、その情報自体が間違っている場合もあるため、根拠も自分で正しいか確認する必要があると説明しています[4]。
そのため、AIに「この内容は正しいですか」と聞くだけで済ませず、AIへの再確認は補助にとどめて、最後は一次情報で確かめると安心です（この部分は出典ではなく、この記事の提案です）。
ステップ5：確認した情報の「時点」を記録する
確認した日と、確認した資料を記録します。JFCが紹介する欧州のファクトチェック規範にも、「読者が検証過程を再現できるよう、証拠をできるだけアクセス可能にする」があります[2]。また、政府広報オンラインも、「いつ発信されたものですか」と、情報の時点を確認するよう呼びかけています[5]。いつ時点の情報かを自分の記録にも残しておくと、あとで見直すときに役立ちます。
【よくある失敗】ファクトチェックで見落としやすいポイント
一次情報のように見える二次情報を、そのまま信用してしまう
JFCが紹介する欧州のファクトチェック規範では、「可能な限り一次資料に依拠する」とともに、「情報源が一つしかない場合を除き、2つ以上の情報源を提供する」ことが挙げられています[2]。情報源が1つだけのときは、特に注意して扱いましょう。
全部を完璧に確認しようとして、手が止まる
JFCの講座は、「検証の4ステップ」をすべて実践するのは時間的に難しく、最初のステップ（発信元を見る）だけで十分なこともあると述べています[3]。
また、政府広報オンラインは、チェックしても真偽が分からない情報は、「安易に情報を投稿・拡散しないことが大切」としています[5]。分からないときは、使わないという選択も大切です。
【独自検証】AIが作った資料を公式の発表と突き合わせて分かったこと
ここからは、私自身の記録です。なお、資料の原本は今は手元にありません。以下は、当時の私の記録にもとづく内容で、具体的な年・人数・確信度の数字、企業名や人名は伏せています。
【一次情報】誤りが見つかった項目と、正確だった「仕組みの説明」
きっかけは、AIが作った複数の資料を、人に共有する前の確認として、公式の発表と突き合わせたことでした。やり方は、公式の発表を先に読み、資料を読みながら気になる箇所に印を付ける、という方法です。
結果は、次のとおりです。
| 論点 | 資料に書かれていたこと | 実際 |
|---|---|---|
| 時期 | 「この時期は誤記」と、高い確信度つきで断定 | 元の時期が正しかった |
| 人数 | 大きく強調された具体的な人数 | 公式の発表に、人数の記載はなかった |
| 効果 | 作業時間の短縮が、日数の言い方で書かれていた | 公式は、時間の短縮の割合で表現していた |
| 固有名詞 | 同じ人物の名前の表記が、資料ごとに揺れていた | 文字起こしの誤変換が原因 |
| 仕組みの説明 | 全体の構造や、ルールの組み込み方の説明 | 一次情報と整合していて、正確だった |
間違っていたのは、あとから確認できる「事実」の部分でした。一方、仕組みや構造の説明は正確でした。正確な部分があったぶん、誤りが見抜きにくかったと感じています。
【独自調査】確信度が高い箇所ほど、間違えていた
特に驚いたのは、時期の誤りです。資料は、「この時期は誤記」と、高い確信度つきで断定していました。
原因は、私の推測ですが、資料を作ったAIの知識が、過去の時点で止まっていたためだと考えています。生成AIが、学習していない情報には対応できないことは、大阪大学の教育ガイドも説明しています[4]。ただし、今回の資料がなぜそうなったかは、確かめられていません。
もともと私は、「AIの間違いは、あいまいな表現や自信のなさとして出てくる」と思っていました。実際は逆でした。少なくとも今回は、確信度は「正しさの目安」ではなく、「AIがどれだけ強く思い込んでいるかの目安」でしかありませんでした。
【独自調査】ツールの使い方を聞いたら、実際には存在しない項目を説明された
もう一つ、別の場面での体験です。AIに、あるアプリのツールの使い方を調べてもらったところ、もっともらしい回答が返ってきました。ところが、実際にそのツールを開いて確認すると、説明にあった項目は存在していませんでした。
説明はもっともらしく、実際に確認するまで、間違いだとは分かりませんでした。この体験から、AIの説明は、鵜呑みにせず確かめてから使おうと思いました。ツールや機能の説明は、実際の画面や公式のヘルプで、存在を確かめてから使います。
【運用】決めた3つの確認ルールと、続けるコツ
ルールを文章にして、AIに読ませる作業ルールとして残す
この経験から、先ほどの3つのルール（一次情報を先に／誤りを先に除外／日付・人数・固有名詞・数値をまず確認）を決めました。そして、AIに読ませる作業ルールのファイルにも書きました。記憶だけに頼らず、AIにも読ませるルールとして残しておくためです。
「確認の手順」を先に決めておくと、迷わず確かめられる
突き合わせのときは、公式の発表を先に読みました。ただ、今、振り返ると、そもそも調べものを始める段階から、一次情報を先に確定させてから、二次資料を読む順序にしておけばよかったと考えています。
確認する項目と順番を、あらかじめ決めておくと、迷わずに確かめられます。手順を先に決めておくことが、続けるコツです。
まとめ：AI資料は「確認の手順」を先に決めて使おう
AIが作った資料は、読みやすく整っている一方で、時期・人数・固有名詞といった確認できる事実で、誤りが混ざることがあります。また、体験としては、ツールの使い方を聞いて、存在しない項目を説明されたこともありました。
この記事のポイントは、次の3つです。
- 一次情報を先に確定させる
- 誤りだった点を、先にメモして除外する
- 日付・人数・固有名詞・数値は、まず確認する
確認の入り口としては、政府広報オンラインが挙げる4つのチェック（情報源はある？／発信者はその分野の専門家？／他ではどう言われている？／その画像は本物？）も役立ちます[5]。
まずは、あなたが最近AIに作ってもらった資料の、時期と数字を1つだけ、一次情報で確かめてみてください。確認の手順は、まだ試行錯誤の途中です。一緒に整えていきましょう。
参考・引用元ソース
- 総務省｜令和6年版 情報通信白書｜生成AIが抱える課題（https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/html/nd141100.html）※[令和6年版の情報。2026年9月22日に本文を確認]
- 日本ファクトチェックセンター（JFC）｜ファクトチェックとは 定義・ルール・手法を解説（https://www.factcheckcenter.jp/explainer/fact-check/jfc-fact-checking-101/）※[ページ内の日付は2024年1月。2026年9月22日に本文を確認]
- 日本ファクトチェックセンター（JFC）｜JFCファクトチェック講座3：検証の4ステップ「横読み」で効率的に（https://www.factcheckcenter.jp/course/course/4-step-verification-efficient-skimming/）※[ページ内に2023年5月時点の記述あり。2026年9月22日に本文を確認]
- 大阪大学 全学教育推進機構 教育学習支援部｜生成AI教育ガイド｜生成AIに関する注意点（https://www.tlsc.osaka-u.ac.jp/project/generative_ai/important_point.html）※[ページ内に2023年の記述あり。2026年9月22日に本文を確認]
- 政府広報オンライン｜インターネット上の偽情報や誤情報にご注意！（https://www.gov-online.go.jp/article/202403/entry-5920.html）※[2024年3月掲載。ページ内に2026年2月の日付表記あり。2026年9月22日に本文を確認]
コメント