ハルシネーション対策は3層で考える。技術、検証のルール、責任の所在である。仕事でAIを使う米国の労働者500人を対象にした2026年9月の調査では、AIの答えを毎回確認する人は35%にとどまり、誤答で損害が出たら法的に責任を負うのは「自分個人」だと答えた人が51%いた。
調査を実施したのは、カリフォルニア州アーバインのビジネス訴訟法律事務所Kolmogorov Lawである。結果はStackerの配信でCNN系列の地方局サイトなどに9月11日から掲載された。法律事務所が自社の発信のために行った調査であり、回答はウェイトなし、誤差は±4.4ポイントとされる。その前提で読んでも、数字は十分に重い。
AIのハルシネーションとは何か
ハルシネーションとは、AIが事実に基づかない内容を、もっともらしい形で出力することを指す。存在しない論文を引用する。ない機能を説明する。数字を作る。文章は流暢なので、読む側は気づきにくい。
Kolmogorov Lawの記事は、ニューヨーク・タイムズがAI検証企業Oumiに委託した分析を引いている。それによると、Googleの検索結果の最上部に出るAI Overviewsは、4,326件の検索でGemini 3が91%正確だった。Gemini 2の85%から改善している。一方で、AIが引用した出典が答えを裏づけていない「根拠のない」回答は56%あり、前年の37%から増えた。答えは正しくなったが、その根拠として示されるリンクは当てにならなくなった。
記事はさらに、Googleが年間約5兆件の検索を処理することから、9%の不正確さは毎時数千万件の誤答にあたると換算している。
AIが間違えること自体は、もう驚きではない。問題は、その間違いを人がどう扱っているかだ。
毎回確認するのは35%、疑いながら使ったのが42%
調査の対象は、仕事でAIツールを使う18〜64歳の米国の就業者500人。72%が毎日または週に数回AIを使い、8割近くが調べ物に、約半数が文書やメールの下書きに使っている。23%は法務、財務、コンプライアンスに関わる質問にも使ったことがある。
AIの答えを、行動に移すか他人に渡す前に自分で確認するか。この問いに「常に」と答えたのは35%だった。「たいてい」が33%、「ときどき」が26%、「めったに、またはまったく」が6%。合わせて65%は、毎回は確認していない。
その65%のうち42%は、間違っていると疑いながら、その答えで進めたことがあると認めた。理由は、速いから。あるいは、AIが自信ありげだったから。4分の1は複数回そうしている。
結果も出ている。回答者の30%が、AIの誤答が仕事で問題を起こしたと答えた。成果物のミス、誤った判断、時間や金の損失、顧客や法的な問題。4%は「深刻」と表現した。さらに24%は、問題が起きたかどうか分からないと答えている。
分からない、が24%。誤答の影響は、気づかれないまま流れていく。
「常に確認する」人も、40%は疑った答えを通した
意外な数字がある。「常に確認する」と答えた173人のうち、40%は「間違っていると疑った答えを受け入れたことがある」とも答えた。この群が仕事で問題を報告した率は32%で、全体の30%とほぼ変わらない。
確認しているつもりの人と、していない人で、結果に差がない。確認という行為が、形式になっている可能性がある。
危険度の高い用途ではさらに悪い。法務、財務、コンプライアンスの質問にAIを使う113人のうち、43%は誤答がすでに何らかの損失を招いたと答えた。それでも同じ群の64%は、毎回は確認していない。損をした経験は、行動を変えていない。
サブグループの人数は少なく、誤差は大きい。それでも方向は一貫している。
なぜ確認しなくなるのか
ペンシルベニア大学ウォートン校のSteven ShawとGideon Naveは2026年1月、1,372人を対象にした3つの事前登録実験の結果を発表した。AIが自信ありげに誤った答えを出した試行では、73%の参加者がそれを受け入れた。AIを使うと、誤った答えへの確信も高まった。
2人はこれを「認知的降伏」と名づけた。答えが速く、滑らかに返ってくる。それだけで、自分で考える、確認するという工程が抜け落ちる。意図的にAIへ作業を渡し、あとで出力を確認する「認知的オフロード」とは違う。降伏は、確認する意思そのものが消える状態だ。
Kolmogorov Lawの調査は、この実験室の結果が職場でも起きているかを確かめるために設計された。毎回確認する35%、疑いながら通す42%という数字は、ウォートンの73%と同じ現象の、現場での姿である。
利用規約は、正確さを約束していない
記事によれば、OpenAI、Google、Anthropicの3社はいずれも、利用規約で出力の正確性に関する責任を否認している。回答者の52%は、そう書いてあることを知らなかった。
Anthropicの消費者向け利用規約（2025年10月8日発効）を確認すると、こう書かれている。「出力は常に正確とは限らず、詳細さや具体性ゆえに正確に見えても、重大な不正確さを含み得る」。そして「出力やアクションは、その正確性を独立に確認することなく依拠すべきではない」。サービスと出力は現状有姿で提供され、正確性や信頼性を含むあらゆる保証は法の許す限り否認される。
AIを作った側が、自分で確認しろと書いている。使う側の半数は、それを読んでいない。
それでも、労働者は結果を分かっている。「仕事でAIの誤答に基づいて行動し、金銭的な損害が出た場合、法的に誰が責任を負うと思うか」。この問いに51%が「自分個人」と答えた。雇用主は18%、分からないは15%、AIを作った会社は12%。
会社の側は、ほとんど備えていない。AIの出力を成果物に入れる前に確認することを義務づける書面の方針が勤務先にあると答えたのは22%。ないが59%、分からないが19%。法務、金融、医療、コンサルティング、不動産といった顧客対応の職種でも、約3人に1人にとどまった。
対策は3層で組む
「ハルシネーション 対策」で検索すると、上位に並ぶのはRAGやプロンプトの工夫といった技術の話である。それらは有効だが、この調査が示しているのは、技術の手前で崩れている現実だ。
第1層は技術。出典を示させる、根拠の無い断定を避けるよう指示する、社内文書を参照させる。これは上位の記事が書いているとおりで、本稿では繰り返さない。
第2層は検証のルール。誰が、どの段階で、何を確認するかを決める。Kolmogorov Lawの記事は、個人には「信頼するが検証せよ」を、雇用主には書面の方針の整備を勧めている。方針があるのは22%。つまり78%の職場では、確認するかどうかが個人の裁量に委ねられている。ウォートンの実験が示すとおり、裁量に任せた確認は、速さと自信の前で降伏する。
第3層は責任の所在。AI事業者は規約で免責している。会社に方針がない。そのとき損害の責任が誰に落ちるかを、51%の労働者はすでに察している。記事は、法的な場面ではAIの誤答に依拠した人が最終的に責任を負い得ると指摘する。日本の職場で同じ結論になるかは、契約や就業規則、個別の事情による。だが「AIが言ったから」が免責にならないことは、どの国でも変わらないだろう。
3層のうち、技術は買える。ルールは決めれば済む。責任だけは、決めないままだと、いちばん弱い人のところに落ちる。
よくある質問
AIのハルシネーションとは何か
AIが事実に基づかない内容を、もっともらしい形で出力すること。存在しない出典や数字、機能を自然な文章で生成する。Kolmogorov Lawの記事が引用したニューヨーク・タイムズ委託の分析では、GoogleのAI Overviewsは4,326件の検索で91%正確だった一方、引用した出典が答えを裏づけていない回答が56%あった。
ハルシネーション対策で最初にやるべきことは
技術より先に、誰がどの段階で確認するかを決めること。米国の労働者500人調査では、確認を義務づける書面の方針がある職場は22%だった。方針がないと確認は個人の裁量になり、ウォートン校の実験ではAIの誤答を73%が受け入れた。
AIの誤答で損害が出たら誰の責任になるのか
AI事業者は利用規約で出力の正確性を保証していない。Anthropicの規約は「正確性を独立に確認することなく依拠すべきではない」と明記している。調査では労働者の51%が「自分個人」の責任になると答えた。日本での扱いは契約や就業規則による。
ChatGPTに嘘をつかせないプロンプトはあるか
出典を示させる、分からないときは分からないと答えさせる、といった指示は誤答を減らす。ただし調査では、「常に確認する」人でも40%が疑わしい答えを通していた。プロンプトは第1層の対策であり、確認のルールと責任の取り決めがなければ、効果は個人の注意力の範囲にとどまる。