ChatGPTハルシネーション対策｜公式が言う原因と機能で減らす方法

ChatGPTに聞いた答えをそのまま資料に貼ったら、書かれていた出典が実在しなかった。もっともらしい文章なので、どこを疑えばいいのかも分からない。

先に結論を書きます。ハルシネーション（もっともらしく聞こえるが正しくない回答）は、聞き方の工夫だけでは消えません。OpenAI自身が「正確性が100%に達することは決してない」と書いています。ですから対策は「ゼロにする」ではなく、発生を減らす・出てきた答えを見分ける・重要な判断には渡さないの3つを重ねる形になります。

結論の先出し：ハルシネーション対策は「3つの層」に分かれる

ハルシネーション対策とは、AIの誤りをゼロにする技ではなく、誤りが混じる前提で、混入量を減らし、混じったものを見つけ、重大な判断から遠ざける一連の運用のことです。対策を1つの技として探すとうまくいきません。効く場所が違う3つの層に分けると、自分がどこを抜かしているかが分かります。

まとめると：3層のうち、いちばん省略されやすいのは第2層（出てきた答えの採点）です。この記事の中心はそこに置いています。

この記事の根拠（見た資料と、確かめられなかったこと）

ハルシネーションの解説は、出どころが書かれていないものが多い分野です。この記事が何を見て書いたかを先に示します。

この記事はOpenAIが公開している一次情報だけで書いています。英語資料の引用には、その引用のすぐ横に「原文は英語。訳は当サイトによる」と書き添えました。日本語の公式訳があるものは、公式訳をそのまま引いています。

まとめると：確認できたものだけを書き、確認できなかったものは「確認できなかった」と書いています。

ハルシネーションとは何か｜公式の定義と、出方の3つの型

ハルシネーションとは、言語モデルが生成する、もっともらしく聞こえるが正しくない発言のことです。OpenAIは日本語版の解説ページで、次のように定義しています。

ハルシネーションとは、言語モデルが生成する、もっともらしく聞こえるが正しくない発言のことです。

要点は「もっともらしい」が定義に入っていることです。下手な嘘なら気づきます。気づけないから問題になります。OpenAIのヘルプは、出方を3つの型に分けています。

同じヘルプは、ChatGPTの限界を4つ挙げています。①知識の期限 ②自信は信頼性ではありません ③アクセス不足（技術的問題・ペイウォール・robots.txtにより読めないページがある）④バイアスと過度の単純化（単一の視点を絶対的真実として提示することがある）の4つです。②は、この記事全体でいちばん覚えて帰ってほしい一行です。自信たっぷりに書かれていることは、正しさの保証になりません。それを提供元自身が限界として挙げています。

そもそもAIがどうやって文章を作っているのかが曖昧な方は、先に生成AIが文章を作る仕組みを読むと、この後の話が早く入ります。

まとめると：警戒すべきは「日付のずれ」より「それらしい出典」です。型2を疑う癖がつくだけで、被害の大半は防げます。

なぜ対策しても消えないのか｜OpenAIが示した「採点方式」の説明

多くの解説は原因を「AIは次に来る確率が高い単語を選んでいるから」で終えています。これはなぜ起きるかの説明であって、なぜ対策しても残るのかには答えていません。

OpenAIは2025年9月5日に公開した解説（元論文は同年9月4日にarXivへ投稿）で、別の説明をしています。日本語版から引用します。

言語モデルでハルシネーションがおきる理由は、標準的な学習と評価の手順により、不確実性を認めるよりも、当て推量のほうに報酬が出るためだと論じています。

同じページは、これを試験にたとえています。

これは多肢選択のテストのようなものです。答えがわからなくても、運が良ければ当てずっぽうで正解になるかもしれません。空のままにすれば間違いなくゼロ点です。

具体例も添えられています。誰かの誕生日を尋ねられ、モデルがそれを知らない場合、「9月10日」と推測すれば365分の1の確率で正解になります。「分かりません」と答えれば確実にゼロ点です。点を取りにいく側から見れば、当てずっぽうのほうが得なのです。

元論文の要旨も同じ趣旨です。（原文は英語。訳は当サイトによる）

原文：”Like students facing hard exam questions, large language models sometimes guess when uncertain, producing plausible yet incorrect statements instead of admitting uncertainty.”
参考訳（当サイト）：難しい試験問題に向き合う学生と同じように、大規模言語モデルは不確かなとき、不確実性を認めるかわりに、もっともらしいが正しくない発言を出しながら推測することがある。

「正直なモデル」のほうが点は低いのに、間違いは少ない

これが数字で見える表があります。OpenAIが公開しているSimpleQAという評価の結果です（このうち精度とエラー率は、GPT-5 System Cardの表8でも同じ数値を確認できます。棄権率が載っているのは公式ブログの表のほうです）。

正解率はほぼ同じ（22%と24%）なのに、間違いの量は約3倍違います。差を作っているのは「分からないときに答えないかどうか」だけです。OpenAI自身の言葉では次のとおりです。

不確かな場合に戦略的に推測することで正確性は向上しますが、エラーとハルシネーションが上昇します。

この採点方式で訓練されてきたので、「言い切る癖」はモデル側にあらかじめ入っています。使う側がプロンプトを工夫しても、その癖が消えるわけではありません。だから対策しても残ります。

それでも「防げない」わけではない

同じページは2つのことを同時に書いています。

まとめると：ハルシネーションは、性能不足ではなく採点の設計から来る癖です。だから「もっと賢いモデルを待つ」は対策になりません。使う側が、答えを控えてよい状況を作ってやることが対策になります。

「言い切っている答え」ほど危ない｜Model Specが示す5段階

OpenAIには、モデルにどう振る舞ってほしいかを書いた「Model Spec」という文書があります。先ほどの解説ページも、日本語で次のように触れています。

当社の Model Spec では、不正確である可能性がある情報を自信を持って提供するよりも、不確実性を示す、あるいは質問内容を明確にすることを求める方が優れていると示しています。

そのModel Spec本体には、回答の望ましさの順位が書かれています。（原文は英語。訳は当サイトによる）

原文：”The overall ranking of outcomes looks like this: confident right answer > hedged right answer > no answer > hedged wrong answer > confident wrong answer”

読者の行動に翻訳すると、こうなります。ChatGPTが「たぶん」「確認が必要です」と言っているときは、むしろ健全な信号です。逆に、条件も留保もなく言い切っている答えほど、いったん止まって確かめる価値があります。

Model Specは、不確実性を伝えるべきかの判断を2つの軸で示しています。①不確実性の度合いが大きいほど明示が重要、②その誤情報を信じたときの影響が大きいほど（軽い不便で済むのか、重大な金銭的損失や身体的な危害に至るのか）より明確な留保が必要、という2軸です。またModel Specは、不確実性を会話的な言葉で表すのが既定で、利用者が求めない限り数値や信頼区間では示さないとしています。つまり「確信度80%」のような数字は、こちらから頼まない限り出てきません。

まとめると：自信の強さは、正しさの証拠になりません。OpenAIのヘルプも限界の2番目に「自信は信頼性ではありません」を挙げています。

嘘が出やすい質問を、聞く前に見抜く（5つの型）

Model Specは、モデルが不確実になる原因を5つに整理しています。自分の質問がここに当てはまるなら、答えを受け取る前から警戒度を上げておきます。

ここに1つでも当てはまるなら、次の章の「道具の切り替え」を先に行います。特に「情報の古さ」に当てはまる質問を、道具なしのまま聞くのは、いちばん避けたい使い方です。OpenAIのヘルプも、限界の筆頭に「知識の期限」を挙げています。

まとめると：ハルシネーションは、当たった質問ではなく質問の型で予測できます。聞く前に1回だけ、この5つを思い出してください。

機能で減らす｜ウェブ検索・deep research・Thinkボタンの使い分け

OpenAIのヘルプは、事実の正確性を上げるための道具として検索、コードインタープリター（データ分析）、deep researchの3つを挙げています。ここに2026年8月6日に発表されたThinkボタンを足すと、次の使い分けになります。

公式のFAQは、検索とdeep researchの使い分けを一言でこう示しています。簡単な事実には検索、深さと網羅性にはdeep research。調べものの規模で選べば足ります。

ChatGPT searchは無料版・Plus・Team・Edu・Enterpriseの全ユーザーが使え、ログアウト中の無料ユーザーでも利用できます。一方でOpenAIは、2026年8月6日に発表した更新について、テキストチャットが無制限になるとしたうえで「ファイルのアップロード、画像、その他のツールには引き続き制限が適用されます」と明記しています。Thinkボタンにも不正利用防止の制限がかかります。なお、この無制限化とThinkボタンは同じ発表の中で「来週から」提供されると案内されており、順次の提供です。いつ自分の画面に来ているかは、実際に開いて確かめてください。どの機能がどのプランでどこまで使えるかは変わりやすいので、ChatGPT無料版と有料版の違いもあわせて確認してください。

ウェブ検索をオンにしても嘘は残る

ここは他の解説がほとんど書いていない点です。まず前提として、OpenAIのヘルプは「ChatGPT は特定のツールが有効になっていない限りウェブを検索しませんが、これらのツールはすべてのモデルでデフォルトで有効になっています」と書いています。つまり多くの人は、すでにオンの状態で使っています。それでも誤りが出ているのが現状です。オンかどうかは、入力バーのアイコン、または回答にウェブの出典が引用されているかで判別できます。

だからOpenAIのヘルプ自身が、正確性が重要なときは検索やdeep researchを使ったうえで、リンクに直接アクセスしてソースを確認することを求めています。出典が付いていることと、出典が正しいことは別です。

まとめると：機能の切り替えは、対策のなかで最も費用対効果が高い一手です。ただし「検索をオンにしたから安全」ではありません。リンクを開くところまでが1セットです。

指示で減らす｜不確実性を申告させる3つの言い方

プロンプトの工夫は、すでに世の中に出回りきっています。ここでは3つだけに絞り、なぜ効くのかを前章の採点方式の話と結びつけて示します。効く理由が分かっていれば、効かない場面も分かります。

この3つでも消えないことは、前章のとおりです。指示は癖を抑えるだけで、学習の段階で作られた癖そのものは消しません。指示は第1層であって、第2層（出てきた答えの採点）の代わりにはなりません。

なお、モデルや推論レベルの選び方そのもの、思ったとおりに答えてくれないときの直し方は、この記事では扱いません。ChatGPTが思い通りに答えてくれない時の直し方にまとめてあります。

まとめると：プロンプトは「許可を出す」ために書きます。禁止を並べるより、答えを控えてよいと伝えるほうが効きます。

出てきた答えを採点する7つの観点

ここがこの記事の中心です。多くの解説は「ファクトチェックしましょう」で終わりますが、手元の回答のどこを見るのかが書かれていません。次の7つを上から順に見てください。

OpenAIが挙げている「責任を持って使うための実践的なヒント」4項目

上の表は、OpenAIのヘルプが書いている次の4項目を、手を動かせる形に落としたものです。

7つ全部をやらなくても構いません。観点1（リンクを開く）と観点2（引用・研究名）の2つだけで、捏造系はほぼ捕まります。

なお、確定した原稿を世に出す前にどう裏を取るか（情報のタイプ別に、どこへ確認しに行くか）は、この記事では扱いません。AI記事のファクトチェック手順にまとめています。この記事はあくまでChatGPT側で嘘を減らし、出てきた答えを見分けるところまでを担当します。

まとめると：採点は上から順で構いません。その答えを採用してよい理由を自分の言葉で言えないなら、まだ確認は終わっていません。

提供元が引いている線｜規約が求める確認と、渡してはいけない判断

意外に知られていない話があります。ChatGPTを使っている人は、すでに「確認します」と約束しています。2026年1月1日発効の利用規約には「精度」という独立した節があり、こう書かれています。

アウトプットは常に正確であるとは限りません。お客様は、本サービスからのアウトプットを、真実又は事実に基づく情報の唯一の情報源として、又は専門家のアドバイスの代わりとして依拠すべきではありません。

お客様は、本サービスからのアウトプットを使用又は共有する前に、必要に応じて人による確認を行うなど、お客様のご利用事案に対するアウトプットの正確性と適切性を評価する必要があります。

同じ節は、なぜそうなるのかも書いています。「機械学習の有する確率的本質を前提とすると」、実在の人物・場所・事実を正確に反映しないアウトプットになることがある、という説明です。ハルシネーションの理由を、提供元が規約の中で認めているということです。

「決める」に使ってはいけない領域は、提供元が指定している

OpenAIの使用ポリシー（2025年10月29日発効）は、禁止される利用として「機密性の高い領域での重大な意思決定の、人間の確認のない自動化」を挙げ、対象領域に重要インフラ・教育・住居・雇用・金融活動および与信・保険・法律・医療・重要な行政サービス・製品安全・国家安全保障・移住・法執行を列挙しています。あわせて「有資格者の適切な関与なく、資格を要する個別の助言（法律や医療に関する助言など）を提供する行為」も禁止しています。

利用規約の側にも同趣旨の記載があり、信用・教育・雇用・住宅・保険・法律・医療その他の重要な決定など、個人に法的または重大な影響を与えうる目的で、その個人に関連するアウトプットを使用してはならないとされています。

なお、AIで作った文章をブログなどで公開するときの注意点は、この記事の範囲外です。ChatGPTをブログ記事に使うときの注意点を参照してください。

まとめると：「確認してから使う」は、この記事の提案ではなく、利用者が同意している条件です。そう考えると、確認は追加の手間ではなく、もともと含まれていた手順になります。

結局どうするか（3択）

この記事の方法が合わない場合の逃がし先

よくある質問

Q1. ハルシネーションは完全になくせますか

なくせません。OpenAIは「モデルのサイズ、検索および推論の能力にかかわらず、正確性が100%に達することは決してない」と書いています。理由は、現実の世界に本質的に回答不可能な問いがあるからです。ただし同じページは「防ぐことはできる」とも書いており、モデルが不確かなときに回答を控えられることを挙げています。ゼロにはできないが、減らすことはできる、が正確な言い方です。

Q2. 最新モデルにすれば解決しますか

誤りは減っています。OpenAIの発表によると、事実の詳細が求められる金融・医療・法律分野のプロンプトを用いた社内評価で、少なくとも1つの事実誤認を含む回答が、GPT-5.5 Instantと比べてGPT-5.6 Lunaでは約62%、GPT-5.6 Solでは約68%減少しました。ただしこれは特定の比較対象に対する相対的な減少率であり、実際の利用時に何%間違えるかを示す数字ではありません。OpenAI自身も、これらの評価値は本番環境での発生率を反映するものではなく、事実重視・過去の失敗・高リスクといった条件で選んだ場面での性能を示すものだと注記しています。減っても、確認をやめる根拠にはなりません。

Q3. ウェブ検索をオンにすれば安心ですか

安心とまでは言えません。OpenAIのヘルプによれば、これらのツールはすべてのモデルで既定で有効になっています。つまり多くの人はすでにオンで使っており、それでも誤りは出ています。同じヘルプは、技術的な問題やペイウォール、robots.txtにより読めないページがあること、単一の視点を絶対的な真実として提示しうることを限界として挙げています。出典が付いていることと、出典が正しいことは別です。リンクを開いてください。

Q4. 「わからないときはわからないと答えて」は効きますか

効きます。理由は、モデルが、空欄なら確実にゼロ点という採点で訓練されてきたからです。この一文は、答えを控えても不利にならないという許可にあたります。ただし学習の段階でついた癖そのものが消えるわけではないので、この指示だけで確認を省略することはできません。

Q5. 「この情報は本当？」とChatGPT自身に聞き返すのはどうですか

それだけで済ませないでください。OpenAIのヘルプは限界の1つとして「自信は信頼性ではありません」を挙げており、モデルは誤った答えにも高い自信を示すことがあります。同じ性質のものに真偽を尋ねても、自信の強さが返ってくるだけで、正しさの証明にはなりません。利用規約も、出力を真実の唯一の情報源として依拠すべきではないとしています。真偽の確認は、出典そのものを開いて行ってください。

Q6. 無料版でも対策できますか

できます。ChatGPT searchは無料版を含む全ユーザーが利用でき、ログアウト中の無料ユーザーも使えます。2026年8月6日に発表された更新では、無料ユーザーがThinkボタンをタップしてGPT-5.6 Lunaにじっくり検討させられるようになります。これは同じ発表の中で「来週から」と案内された順次提供のため、まだ自分の画面に来ていないこともあります。この記事の7つの観点は、プランに関係なくすべて実行できます。

まとめ

出典