冒頭画像はAI生成の制作イメージです。本文の図解・練習例は、説明内容を確かめながら当サイトで構成しています。
生成AIのしくみをほどく｜全5回の第3回
読みやすい文章、整った表、きれいな参考文献。それでも、中身が正しいとは限りません。第3回は、生成AIが事実と異なる内容をもっともらしく示す現象を考えます。AIを試験するためだけでなく、自分が受け取った説明を確かめるための読み方です。
回答を主張に分解し、日付・対象・根拠の対応から使える範囲を決める。
流暢さと、裏づけは別の軸
一般にハルシネーションと呼ばれる問題には、存在しない出典、事実と違う日付、資料にはない理由づけなどが含まれます。NISTの生成AIリスク資料では、こうした内容を自信があるように提示する問題をconfabulationとして扱っています。
文章を生成する仕組みは、正しい事実を毎回外部で検証する仕組みと同一ではありません。学習した知識で正しく答えられる場面もありますが、未知の話や曖昧な条件でも、それらしい続きを作ってしまうことがあります。検索機能を付けた場合も、この問題が完全になくなるわけではありません。
ここでいう「自信」は、画面上の断定的な言い方についての話です。人間の内面のような確信がある、と判断しているわけではありません。「必ず」「明らかに」といった語の強さを、確認済みの印として読まないようにしましょう。
架空の案内文を、三つにほどく
次は説明のために作った架空の文章です。「青葉町の星空展示室は、毎週月曜が休館です。2025年の改装で照明が新しくなりました。来館者が増えたためです」。この施設・出来事を実在情報として紹介しているのではありません。
一見まとまった説明ですが、確かめる対象は別々です。休館日は現在の利用案内、改装は当時のお知らせ、改装理由は施設側の発表が必要です。一つが合っていても、残りまで正しいとは言えません。「照明が変わった」という記述だけから「来館者が増えたから」と理由を補うのも飛躍です。
長い回答を一度に信じるか疑うかで迷ったら、一文ごとに、何を確かめればよいかを横に書いてみてください。答えを短い主張へ分けると、照合する場所がはっきりします。
出典があるときほど、本文を開く
リンクの見た目だけでは十分ではありません。まず開けるか、発行元は誰か、題名・日付・対象は合うかを確認します。その後、AIが述べた内容を、その資料の本文が実際に支えているかを見ます。関連したページが付いているだけで、必要な数値や条件が載っていないこともあります。
PDFなら表の注記、公式案内なら適用日や対象地域まで読みます。古い時点の説明が当時は正しくても、現在の料金・制度・営業時間を答える根拠には足りないことがあります。「公的サイトにある」ことと「今回の問いに答える資料である」ことを分けるのがコツです。
同じAIに聞き直すだけでは、独立した確認にならない
「本当ですか」と尋ねると、訂正する場合も、そのまま説明を重ねる場合もあります。聞き直しは不明点を探す助けになりますが、回答の正しさを外側から検証したことにはなりません。別のAIとの一致も、同じ誤情報を参照している可能性が残ります。
そこで、日常の確認を「主張を抜き出す→一次資料を探す→条件と日付を照合する→見つからない部分は未確認に戻す」の順にします。結論を急がず、「資料上では確認できない」と残せることも大事です。
作業に使う前の、一枚メモ
自分のメモに「使いたい主張」「根拠の発行元と場所」「確認した日」「残る疑問」の四欄を作ります。アイデア出しの候補と、公表する事実を別に置くと、AIの便利さを使いながら誤記を持ち込みにくくなります。とくに行動を左右する数値や条件から確かめましょう。
この回答を使うなら、何を残しておく？
架空の展示室の案内を、実際のお出かけメモへ変えるつもりで読み直します。最初の欄には「月曜休館」と書き、その隣に現在の公式利用案内の場所と確認日を記します。次に「祝日の扱い」を別の欄へ置きます。休館日の一文が読めても、祝日の例外まで確認できたことにはならないからです。
「2025年に照明を改装した」は、現在の案内に載らないこともあります。当時のお知らせを探し、見つからなければメモから外すか「未確認」と残します。「来館者が増えたため」は、出来事から自分で補った理由かもしれません。発表に書かれていないなら、因果関係として紹介しません。
このように一つずつ見ると、確認できた情報だけを使って文章を組み直せます。誤りを見つけることだけが目的ではありません。どこまでなら読者へ伝えられるか、範囲を決めるための作業です。
ミキさん身近な疑問を、一つずつ
参考文献が付いていると、つい安心してしまうね。
ハジメさんしくみと例をつないで考える
まず実在する資料か開いてみよう。その上で、今回の主張をどの記述が支えるか、一つずつ確かめると使える範囲が見えるよ。
数字を含む説明では、分母と対象をそろえる
数字の説明が整っていても、「利用者の数」と「利用された回数」が途中で入れ替わっていないかを見ます。架空の集計で、10人がそれぞれ3回使ったなら、10人と30回はどちらも成り立ちます。ここへ同じ「30」という数字を置いても、30人になったことにはなりません。
割合なら、何を全体として数えたかを確認します。比較なら、期間、対象、定義がそろっているかを見ます。AIが計算式を見せた場合も、元の数字と条件を取り違えていれば、式の形だけが正しくても結論は使えません。
確認が難しいときは、回答をさらに長くするより、「この数字は誰の、何の数ですか」「この比較の期間はそろっていますか」と、根拠を探す問いへ分解します。問い直し自体を検証の代わりにはせず、資料へ戻るために使います。
「分からない」を残せる答え方にする
資料から分かる部分と推測を分けて書くよう依頼することは、未確認の箇所を探す助けになります。ただし「不明」と書くよう頼んだから、誤りが消えたとは限りません。出典の実在や、主張との対応を確かめる工程は残ります。
アイデア候補、確認済みの事実、まだ分からないことを三つに分けて置くと、そのまま公開してよい文と、調べ直す文の境目が見えます。AIの回答を丸ごと採用するか捨てるかではなく、使える範囲へ整える読み方です。
ひとつ、確かめてみよう
公式ページへのリンクが一つあれば、回答全体の裏づけになる？
考え方・答えを見る
なりません。そのページのどの記述が、どの主張を支えるかまで照合します。資料にない理由や結論は、別途確認が必要です。
参考にした一次資料
2026年11月1日確認。本文のたとえ・模式図・練習問題は当サイトで制作しています。
よかったら、いいねで教えてください。
全カテゴリで人気コンテンツ TOP5！