AIに間違えられて、もう信じられない。使うのをやめる前にどう立て直す？間違いを見た後の「信頼」の研究

約7分で読めます

本の上に置いた虫めがね — Photo: Auckland Museum Collections from Auckland, Aotearoa New Zealand / CC BY 2.0 / Wikimedia Commons

AIによる調査公開された研究をAIが調べて整理しました（独自の実験ではありません。出典は末尾）。

AIの説明を信じて覚えたら、間違いだった。それ以来、AIの答えが全部あやしく見えて、使うのが怖い。そう感じる人は少なくありません。研究からわかるのは、人はAIの間違いを一度見ると、必要以上にAIを避けやすいこと。そして、避けすぎも頼りすぎも成果を下げることです。立て直しのこつは、AIを「信じるか、やめるか」で決めず、間違えやすい所だけ確かめる使い方に変えることです。

3行でわかる

人は、AI（アルゴリズム）が間違えるのを見ると、人の予想より正確だと知っていても、AIを選ばなくなりやすい。5つの実験で確かめられた「アルゴリズム嫌悪」と呼ばれる傾向。
反対に、確かめずに従いすぎることも失敗のもとになる。研究のまとめでは、目指すのはAIの得意・不得意に合わせて信頼の度合いを合わせ、確かめながら使う状態とされる。
立て直しは、①間違いを種類で分ける ②教材を渡して確かめられる使い方に絞る ③答えをもらわず自分で手を入れる ④間違えた種類だけ確かめる ⑤急いでいるときは使わない ⑥2週間、当たり外れを記録する、の6つ。

01 悩みの正体AIの間違いを見ると、全部信じられなくなるのはなぜ？

人は、同じ間違いでも、人より機械の間違いに厳しく反応しやすいためです。一度の間違いで「この機械はだめだ」と信頼を一気に下げやすいことが、実験でわかっています。

人の先生が一度言い間違えても、すぐに「この先生は信用できない」とは思いません。ところがAIが一度間違えると、他の答えまで全部あやしく感じます。

研究では、人は機械に「ほぼ完ぺきな答え」を期待しやすいと考えられています[3]。期待が高いぶん、一度の間違いで信頼が大きく下がります。ただ、それはAIの力を正しく測った結果とは限りません。

02 科学的にわかっていること間違えたAIを避けるのは、正しい判断？

必ずしも正しくありません。実験では、AIが人より正確でも、間違いを見た人はAIを避けました。一方で確かめずに従うことも失敗を増やすため、研究は「確かめながら使う」ことを勧めています。

Dietvorstら（2015）[1]

参加者は、統計モデル（アルゴリズム）か人のどちらかの予想に、自分の報酬を結びつけるかを選んだ。アルゴリズムの予想を実際に見た人は、アルゴリズムへの自信が下がり、より不正確な人の予想を選びやすくなった。アルゴリズムが人より正確だったのを見た人でも同じだった。同じ間違いでも、人よりアルゴリズムへの自信の方が早く下がった。

対象: 5つの実験の参加者。課題は先の数字を予想するもの／限界: 勉強でAIを使う場面を調べたものではない。生成AIが広まる前の研究。

Zellnerら（2021）のレビュー[2]

予想の研究をまとめたレビュー。同じ研究グループの続く研究では、アルゴリズムの答えを少しだけ自分で直せるようにすると、間違いを見た後でもアルゴリズムを使う人が増えたと紹介している。一方で、人よりアルゴリズムの助言を好むという反対の結果の研究もあり、結果は条件で変わるとしている。

対象: 予想と判断の研究をまとめたレビュー／限界: 直せる仕組みの研究は、このレビューの紹介で確認した。勉強の場面ではない。

DietvorstとBharti（2020）[3]

9つの研究（合計4,820人）で、人は予想の誤差が1つ増えるごとの重みを、だんだん小さく感じることがわかった。そのため人は、「ほぼ完ぺきな答え」を出せそうかどうかで方法を選び、先が読みにくい分野ほど、最も正確なアルゴリズムでも使わなくなった。

対象: 9つの研究、合計4,820人／限界: 予想の課題での結果で、学習の効果は測っていない。

Zerilliら（2022）のレビュー[4]

AIへの信頼の研究をまとめたレビュー。間違いを見てAIを避けすぎることも、感心しすぎて確かめずに従うことも、人とAIを合わせた成果を下げるとした。目指すのは、AIの実力に期待の度合いを合わせ、確かめながら使う状態だとまとめている。

対象: AIへの信頼と説明の研究／限界: 著者らの考え方の整理を含み、勉強の場面で試したものではない。

Goddardら（2012）のシステマティックレビュー[5]

機械の判断に頼りすぎる「自動化バイアス」の研究を集め、13,821本から74本を分析した。仕事の量が多い、課題が複雑、時間が足りないときに、頼りすぎが起きやすかった。使う人の訓練や、自分の判断に責任を持たせることが、頼りすぎを減らす手立てとして挙がった。

対象: 主に医療の判断支援システムの研究／限界: 勉強の場面ではなく、効果の大きさをまとめた分析ではない。

Bastaniら（2025）[6]

トルコの高校で、約1,000人の数学の授業に生成AI（GPT-4）を入れた実験。普通に答えを聞ける版では、57問の練習問題に各10回答えを聞くと、正しい答えは平均51%だった。この版で練習した生徒は、AIなしのテストで、AIを使わなかった生徒より17%低かった。先生が用意した正しい解答をAIに渡し、答えを言わずヒントを出す版では、テストの成績は下がらなかった。

対象: トルコの高校生、2023〜2024年度／限界: 高校数学と2023年当時のAIの結果。今のAIや他の科目の誤り率は違う可能性がある。

ここで紹介した研究の多くは、予想や判断の課題を使ったものです。AIで独学する社会人を直接調べた研究ではありません。下の手順は、わかっていることを独学に当てはめたものです。

03 今日からできる小さな一歩AIへの信頼を、どう合わせ直す？

AIをやめるか続けるかで決めず、間違えた種類と使い方を分けて考えます。確かめられる使い方に絞り、間違えやすい所だけ確かめ、当たり外れの記録で信頼の度合いを合わせ直します。

間違いを1件ずつ書き出し、種類で分ける

見つけた間違いを、「細かい事実・数字」「計算」「出典」「考え方の説明」などに分けます。全部が同じように間違っていたのか、特定の種類だけなのかが見えてきます。間違えた内容を覚えてしまったときは、誤って覚えたことの覚え直し方も使えます。

所要 10分

教材や解答を渡して、その範囲で聞く

AIに一から答えさせず、教科書の該当ページや問題集の解答を貼って、その中で説明してもらいます。上の実験で成績が下がらなかったAIは、正しい解答を渡された上でヒントを出す作りでした[6]。依頼の文は依頼文テンプレート表にまとめています。

所要依頼1回ごとに1分

答えをもらわず、自分の答えか、AIの案に手を入れる

先に自分で答えを書き、AIには間違いの指摘だけを頼みます。AIの説明を使うときも、そのまま写さず、自分の言葉で直して書きます。直せる形にすると、間違いを見た後でも使い続けやすいことが研究で紹介されています[2]。

所要 1問ごとに3〜5分

間違えた種類だけ、教材で確かめるルールを作る

たとえば「数字・固有名詞・出典・計算は、必ず教材で確かめる」と1行で決めます。AIが細かい事実を間違えやすい理由はAIがもっともらしく間違える仕組みで説明しています。

所要ルール作り5分

急いでいるとき・疲れているときは、AIの答えを使わない

時間が足りない、課題が複雑、仕事が多いときほど、機械の判断に頼りすぎやすいことがわかっています[5]。試験直前や夜遅くは、AIの答えを覚えるのをやめ、教材で確かめられる時間に回します。

所要 0分（決めておくだけ）

2週間、当たり外れを記録して、確かめる量を決め直す

AIに聞いたこと、教材で確かめた結果（合っていた・違っていた）、種類を1行で書きます。2週間たったら、間違いがほとんど出ない種類は確かめる回数を減らし、よく出る種類は必ず確かめます。記録で信頼の度合いを合わせるのは、研究の考え方を当てはめた方法です[4]。

所要 1日2〜3分

04 続けるためのコツ確かめる手間で疲れないためには？

全部を確かめようとしないことです。間違いが見つかった種類だけ確かめ、AIなしで解ける力もときどき確かめます。

確かめる作業は、勉強の最後の5分にまとめると続けやすい。
週に1回はAIなしで問題を解き、自分の力を確かめる（AIなしで解ける力を取り戻す手順）。
「AIが間違えた」ことより、「確かめて気づけた」ことを記録に残す。気づけた回数は、確かめる力がついている印になる。
AIのしくみや版が変わったら、記録をいったんリセットして、2週間記録し直す。

05よくある質問

AIはどれくらい間違えるの？

分野や使い方で大きく違い、全体の誤り率を示した研究はありません。高校数学の実験では、2023年のGPT-4に普通に答えを聞くと、正しい答えは平均51%でした。この数字を他の科目や今のAIにそのまま当てはめることはできません。

一度間違えたAIは、もう使わない方がいい？

やめる前に、間違いの種類を確かめるのがおすすめです。人は、AIの間違いを一度見ると、平均では人より正確でもAIを避けやすいことが実験でわかっています。間違いやすい所だけ確かめるルールを作れば、役に立つ部分は使い続けられます。

全部の答えを確かめていたら時間が足りません。

全部を同じように確かめる必要はありません。数字・固有名詞・出典・計算など、間違いが見つかった種類だけ教材で確かめます。2週間記録して、間違いがほとんど出ない種類は確かめる回数を減らします。

AIを信じすぎるのと、信じなさすぎるのは、どちらが悪い？

どちらも成果を下げます。レビュー論文は、AIを避けすぎることと、確かめずに従うことの両方が問題で、目指すのは「確かめながら使う」状態だとしています。

AIのことで強い不安や落ち込みが続くときは、一人で抱えずに相談してください（こころの健康相談統一ダイヤル 0570-064-556）。

出典

Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114-126. https://doi.org/10.1037/xge0000033
Zellner, M., Abbas, A. E., Budescu, D. V., & Galstyan, A. (2021). A survey of human judgement and quantitative forecasting methods. Royal Society Open Science, 8(2), 201187. https://doi.org/10.1098/rsos.201187
Dietvorst, B. J., & Bharti, S. (2020). People reject algorithms in uncertain decision domains because they have diminishing sensitivity to forecasting error. Psychological Science, 31(10), 1302-1314. https://doi.org/10.1177/0956797620948841
Zerilli, J., Bhatt, U., & Weller, A. (2022). How transparency modulates trust in artificial intelligence. Patterns, 3(4), 100455. https://doi.org/10.1016/j.patter.2022.100455
Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121-127. https://doi.org/10.1136/amiajnl-2011-000089
Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122. https://doi.org/10.1073/pnas.2422633122