生成AIのファクトチェック——文章ではなく主張単位で根拠をたどる

生成AIが作った原稿に、自然な一文と一つの出典リンクが並ぶ。文には、制度が始まった日、利用が広がったという傾向、業務時間が短くなったという効果が含まれている。リンク先を開くと、確認できるのは開始日だけだった。それでも一文の末尾に出典があると、全体が裏づけられたように見える。

生成AIのファクトチェックでは文章から外部に確かめられる主張を一つずつ切り出し、原典がその主張の対象、時点、範囲、条件を支えるかを照合する。判定と原稿上の処置を記録し、確認できない主張は別のAI回答で補強せず、範囲を狭めるか、削除・保留にする。

NISTは生成AIがもっともらしい誤りや引用を示し得るとして、出力中の情報源と引用の確認を提案する。英国政府のAI Insightsも、出力を正解や専門家の判断と照合するよう求める。APも2026年7月、AIは取材、情報源、編集判断、検証を代替しないと明記した。[4][5][6]

本稿では公開前の文章を主張記録へ移し、残す文と止める文を決める。五つの判定はCONTEXT編集部の内部作業用であり、外部団体の公表判定や法令上の分類ではない。高い影響の内容は分野の専門家と自社規則を別に確認する。

まず、確かめられる主張を切り出す

最初に探すのは、誤字や不自然な表現ではなく、外部の証拠によって確かめられる部分である。日本ファクトチェックセンターはファクトチェックを言説に含まれる事実を客観的な事実で検証し、正確性を評価することと定義する。意見全体ではなく、事実として提示された部分を対象にする。[1]

生成文を一括して正誤判定すると、混在を見落とす。FActScoreの研究は、長文生成には知識源が支える情報と支えない情報が同居するため、短く一つの情報を伝える「atomic fact」へ分け、個別に照合する評価を提案した。論文の評価対象や知識源には限界があるが、文章より小さい単位で確かめる発想は編集実務にも使える。[3]

たとえば、手順を説明するための架空の文を置く。`政府は新制度を始め、企業での導入が広がり、業務時間を短縮した。` 読みやすい一文だが、少なくとも三つの主張がある。

• 政府が特定の制度をある時点で開始した
• 定義した企業集団で、一定期間に制度の導入が増えた
• 制度の利用が比較対象に対して業務時間を短縮した

細かく分ければよいわけではない。`導入が増えた`だけでは、何の導入か、誰の間で、いつと比べたかが消える。主張は元の文を見なくても照合できる程度に、主体、対象、時点、範囲、比較条件を残す。修飾語を落として意味を変えたら、検証ではなく別の主張を作っている。

事実、予測、評価、指示も分ける。`制度が始まった`は事実として照合できる。`今後広がる`は予測であり、誰の予測かと前提を示す。`有望だ`は評価であり、判断した主体と基準が要る。`導入すべきだ`は提案である。すべてを同じ正誤欄へ入れると、事実の確認と編集判断が混ざる。

原稿が長いときは、すべてを同じ深さで調べない。誤ると人の権利、健康、金銭、評判、重要な選択へ影響する主張を先に置く。次に、タイトル、リード、見出し、結論、図表、引用、数値など、読者が判断へ使う箇所を確認する。優先順位を付けても、未確認の文を確認済みに変えてはいけない。

出典の有無より、支える範囲を見る

リンクが開くことと、資料が主張を支えることは別である。まず、著者、発行主体、題名、公開日、版を見て、探していた資料と同じかを確かめる。次に、本文、表、注記の該当箇所を読み、主張の言葉が資料の範囲を越えていないかを見る。NISTが情報源と引用の確認を独立した行為として置くのも、引用表示だけでは内容の適合を保証できないからだ。[4]

Full Factは公開情報、統計、一次研究を用い、可能な限りプレスリリースや統計の要約ではなく、データ表、法的文書などの一次資料へリンクする。読者が自分で確かめられるよう、事実記述を出典へ結ぶ。資料の種類だけで決めず、原典の該当箇所が目の前の主張を支えるかまで読む。[2]

出来事の日付では資料の更新日を出来事の日と読み替えない。制度なら、決定、公布、施行、申請開始、実施が別の日になり得る。`始まった`がどれを指すかを原稿で決め、同じ日付を原典の該当箇所で確認する。

数字は値だけでなく、分母と定義を運ぶ。`半数が導入した`なら、回答企業の半数か、対象業界全体の推計か、試行を導入に含むかを確かめる。`増えた`なら、いつといつを同じ方法で比べたかが要る。調査名と数字が合っても、母数や時点が違えば別の主張である。

引用は、話者がその語を発したかだけで終わらない。質問、前後の発言、否定や留保、翻訳の選択によって意味が変わる。録音や原文へ戻り、削った箇所を含めても同じ意味かを見る。文字起こしAIを取材で使う工程のように、逐語の原本を残しておくと照合しやすい。

因果はさらに厳しい。施策の後に指標が変わっただけでは、施策が変化を起こしたとは限らない。比較対象、測定方法、同時に起きた別の変化、研究が示す範囲を読む。資料が相関や参加者の自己評価しか示さないなら、`短縮した`を`短くなったという回答があった`まで狭める必要がある。

一次資料も無条件に正しいわけではない。制度の内容には所管機関の文書が近いが、制度の効果を運営者の発表だけで確定はできない。調査設計、利益相反、測定誤差、対象範囲、更新の遅れを確かめ、争いがある点は異なる立場の資料も探す。一次か二次かは距離の目安であり、結論そのものではない。

出どころと真偽も分ける。C2PAは、Content Credentialsが来歴情報の形式や改ざんの有無を検証しても、その情報や内容が真実かという価値判断はしないと明記する。Content CredentialsはAI画像を見破る印ではないで整理した通り、誰が何を使って作ったかと、そこで述べた主張が正しいかは別の問いである。[7]

判定から、原稿の処置まで決める

照合が終わったら、感想ではなく判定を付ける。`たぶん大丈夫`や`要確認`だけでは、公開してよいか決まらない。本稿では内部作業用に、支持、限定、未確認、不一致、判定対象外の五つへ分ける。同じ組織では定義を固定し、担当者ごとに言葉の強さが変わらないようにする。

`限定`は、弱い判定を付けたまま強い文を残すための欄ではない。資料が一部地域だけを対象にするなら、原稿から`全国で`を外し、対象地域を書く。自己申告調査なら、行動の事実ではなく回答結果として書く。原典の条件を文章へ戻して、初めて公開できる。

`未確認`と`誤り`は同じではない。証拠が見つからないだけで、存在しないと証明したことにはならない。一方、JFCは根拠不明を問題の軽い状態とは扱わない。内部原稿でも、確認できない主張を事実として載せず、削除、保留、確認範囲を示した不確実性の記述へ変える。[1]

資料同士が食い違うときは、都合のよい一つを採らない。対象期間、定義、版、調査方法、発行主体をそろえて比較する。条件をそろえても結論が分かれるなら、`不一致`を無理に正誤へ畳まず、何が一致し、どこから分かれるかを示す。追加確認ができるまで断定を避ける。

書かれた主張がすべて支持されても、記事全体が公正で十分とは限らない。反対材料、例外、重要な条件を落とせば、個々の文は正しくても全体は読者を誤らせる。JFCは必要な周辺情報による文脈説明を方法に含める。FActScoreも支持された情報の割合を見る精度と、書くべき情報の欠落を捉える網羅性は別だと限界を示す。[1][3]

主張の抽出、検索語の作成、候補資料の整理にAIを使うことはできる。しかし、別のAIが同じ答えを返しても独立した裏づけにはならない。同じ学習データや検索結果を参照し、もっともらしい引用を繰り返す可能性がある。AIの回答を理解せず渡すミート・プロキシを、確認工程の中で再現しない。[4]

判定を付ける人はAIの結論を採用するのではなく、原典の該当箇所を自分で読み、主張と同じ範囲を支えるかを決める。自動照合を使う場合も、抽出漏れ、誤った資料の検索、文脈の切断をサンプルで監査する。量を処理できることと、正確に判定できることを同じ指標にしない。

記録を残し、直せない主張は載せない

ファクトチェックの成果物は原稿に並ぶリンク集ではなく、主張と判断を追える確認記録である。一行に、主張、原典、確認箇所、条件、判定、原稿上の処置、確認者、確認日を置く。第三者が同じ資料を開き、なぜその文を残したかを再現できる粒度にする。[1][2]

• 主張：主体、対象、時点、範囲、比較条件を含む一文
• 根拠：原典URL、文書名、版、ページ・表・段落、確認日
• 判断：支持・限定・未確認・不一致・判定対象外と、その理由
• 処置：残す、条件を書く、言い換える、削る、保留する、専門確認へ送る

確認の深さは誤ったときの影響で上げる。人の健康、権利、金銭、採用、評判、安全に関わる主張は、分野の知識がある人へ、主張と原典の該当箇所を指定して渡す。APの基準が示す通り、AIの利用は取材、情報源、編集判断、検証を置き換えない。確認できる人と時間を用意できないなら、公開範囲を狭めるか止める。[6]

オンライン資料は更新される。確認記録には確認日と版を残し、可能なら利用条件の範囲でページやPDFの保存先も記録する。AI時代に文脈が重要になる理由で扱ったように、資料の時点と適用範囲が消えると、後から同じ結論を再現できない。

公開後に新しい資料が出たり、判定を変える誤りが見つかったりすることもある。JFCとFull Factはいずれも、訂正方針と公開後の修正を検証実務の一部に置く。どの主張と判定が変わったか、変更日と理由を読者に分かる形で残す。更新による変化と、公開時からの誤りも分ける。[1][2]

生成AIの文章は自然に読めるほど一つの完成品に見える。だが、公開の判断は一文ごとでも、リンクの数でもない。まず一段落を選び、確かめられる主張へ分ける。原典の該当箇所と条件を結び、支持された文だけを戻す。限定、未確認、不一致を直せないなら、その主張を載せない。流暢さではなく、この記録がファクトチェックを通過した証拠になる。