AIの答えが間違っていても、そのまま信じてしまうのはなぜ？人が機械の判断に頼りすぎる「自動化バイアス」の研究

自分で出した答えが合っていたのに、AIの説明を読んで書き換えてしまった。後で間違いだったと気づき、なぜ信じたのかと落ち込む人は少なくありません。人が機械の答えに頼りすぎる傾向は「自動化バイアス」と呼ばれ、専門家でも起こることが研究で確かめられています。

01 悩みの正体人はなぜ、AIの間違った答えを信じてしまう？

人は機械の答えを「確かめる手間を省く近道」として使いやすく、AIの出力を十分に見張らなくなります。これは自動化バイアスと呼ばれ、注意の配り方が関わると考えられています。

自動化バイアスとは、機械やAIの判断に頼りすぎる傾向のことです。病院の診断支援システムや、飛行機の操縦を助ける装置の研究で、長く調べられてきました。

ParasuramanとManzey（2010）は、この分野の研究をまとめ、自動化バイアスには2種類の誤りがあると整理しました[2]。

• 従ってしまう誤り: AIが示した間違った答えを、そのまま受け入れる。
• 見落とす誤り: AIが指摘しなかったことは「問題なし」と思い、自分で気づけたはずの点を見逃す。

2人は、注意が大きく関わるとしています。ほかの作業で手いっぱいなとき、人は機械の出力を見張る注意を減らします。この傾向は初心者にも専門家にも見られ、練習を重ねるだけでは消えないとまとめられています。

74の研究を調べたGoddardら（2012）のレビューでは、頼りすぎを強める条件も挙げられています[1]。独学の場面に置きかえると、次のようになります。

表1　頼りすぎを強めやすい条件（Goddardら 2012より）

頼りすぎを強めやすい条件	独学で起きやすい場面
その分野の経験が浅い	学び始めたばかりの科目でAIに質問する
AIへの信頼の強さや、自分の判断への自信	「AIのほうが正しいはず」と感じ、自分の答えを確かめずに捨てる
作業が多い・複雑	長い解説や複数の問題をまとめてAIに見てもらう
時間がない	試験直前に、確かめずに答えを写す

02 科学的にわかっていること詳しい人でも、AIの間違いに引きずられる？

引きずられます。経験の長い専門家でも、AIが間違った答えを示すと正解の割合が大きく下がりました。ただし経験が浅い人ほど、影響を強く受けていました。

表2　AIの分類の正しさと、医師が正しく分類できた割合（Dratschら 2023）

読み手の経験	AIの分類が正しいとき	AIの分類が間違っているとき
経験の浅い医師	79.7%	19.8%
中くらいの経験	81.3%	24.8%
経験の長い医師	82.3%	45.5%

ここで紹介した研究は、医療の専門家や医学生が対象です。一人で資格や語学を学ぶ人を調べた研究は見つかりませんでした。また、防ぎ方については研究の見方が分かれています。Goddardらは研修や「自分が責任を持つ」意識づけを有効な対策に挙げる一方[1]、ParasuramanとManzeyは、研修や指示だけでは防げないとまとめています[2]。

03 今日からできる小さな一歩AIの間違いに引きずられないためには？

気をつけるだけでは防ぎにくいので、手順で防ぎます。先に自分の答えを出し、AIが変えた点だけを教科書で確かめ、急いでいるときはAIの答えを写さないことです。

04 続けるためのコツAIを使い続けながら、頼りすぎを防ぐには？

AIをやめるのではなく、AIが答えを変えたときだけ立ち止まる習慣をつけます。AIが「自信がない」と示した答えや、あいまいな言い方の答えは、特に確かめます。

• 「合ってる？」と聞かない。自分の答えを見せて聞くと、AIは合わせてきやすくなります。AIが間違いでも「合っています」と言いやすい理由も参考にしてください。
• AIが間違えやすい質問を知っておく。細かい数字や固有名詞は外れやすいです。AIがもっともらしい間違いを言う仕組みにまとめています。
• 頼りすぎたと感じたら、AIなしの日をつくる。AIなしで解ける力を取り戻す手順があります。
• 逆に、間違いを見て全部疑うのも行きすぎ。信頼を合わせ直す方法はAIに間違えられた後の立て直し方で扱っています。

05よくある質問

詳しい人なら、AIの間違いに気づけますか？

気づきやすくはなりますが、防げるわけではありません。乳がん検診の画像を読む放射線科医27人の実験では、経験の長い医師でも、AIが間違った分類を示すと正解の割合が82.3%から45.5%に下がりました。

「AIは間違えることがある」と知っていれば大丈夫ですか？

知っているだけでは足りない可能性があります。自動化バイアスについての講義を受けた医学生185人でも、AIの影響で答えがよくなった人と悪くなった人の両方が、AIの影響を同じように大きく感じていました。

AIを勉強に使うのはやめたほうがいいですか？

やめる必要はありません。研究でもAIを使うと平均の正確さは上がっていました。先に自分の答えを出してから比べる、AIが変えた点だけは教科書で確かめる、といった使い方で、間違いに引きずられにくくできます。

関連記事

AIと独学

AIを使ってプログラミングを独学するには？自分で書けなくならない6つの手順（AIとプログラミング学習の研究と、その限界）

AIと独学

AIにアイデアや文章を手伝ってもらうと、ほかの人と似た答えになるのはなぜ？AIによる「均質化」の研究

AIと独学

AIに教わったことを、数日たつと忘れている。どう立て直す？会話を問題に変えて、日をあけて思い出す6つの手順（思い出す練習と「外に預ける記憶」の研究）