第1章　AIは人間のように間違えるか

まず，二つの問いに答えてみてほしい．

一つ目．あなたは手術を受けるかどうかを決めなければならない．医師は「この手術の成功率は90％です」と言う．別の病院の医師は，同じ手術について「失敗率は10％です」と言う．どちらの説明を聞いたときのほうが，手術を受ける気になるだろうか．スーパーの精肉売り場で「赤身75％」と書かれたひき肉と「脂肪25％」と書かれたひき肉が並んでいたら，どちらに手が伸びるだろうか．

二つ目．「今日のケーキ一切れ」と「来週のケーキ二切れ」なら，どちらを選ぶか．では，「1年後のケーキ一切れ」と「1年と1週間後のケーキ二切れ」ならどうか．

少し考えれば，一つ目の問いでは二つの説明がまったく同じことを言っているとわかる．成功率90％の手術は，失敗率10％の手術である．赤身75％のひき肉は，脂肪25％のひき肉である．それでも多くの人は，前者のほうに好印象を持つ．二つ目の問いでは，待つ長さはどちらも同じ1週間である．それでも多くの人は，今日の一切れには飛びつき，1年後の話になると落ち着いて二切れを待つ．

同じ情報なのに言い方で判断が変わる．同じ1週間なのに，「今」が絡むと待てなくなる．人間の判断には，こうした系統的な「癖」がある．論理的に考えれば揃うはずの答えが，揃わない．その揃わなさを一つひとつ記録し，なぜそうなるのかを調べてきたのが行動経済学である．

では，同じ問いをChatGPTのようなAIに投げたら，どうなるだろうか．AIは感情を持たず，疲れもしない．計算も速い．ならば，人間がつまずく罠を軽々と避けて，いつも同じ答えを返すのではないか．それとも，人間と同じところでつまずくのだろうか．

この章では，この問いに答えようとしてきた研究を順に見ていく．先に答えを言っておくと，「条件による」である．そして，どういう条件でそうなるのかを知ることこそが，AIとつき合ううえでいちばん役に立つ．

1　合理的な機械という期待

ホモ・エコノミクスの再来か

経済学の教科書には，一人の架空の人物が登場する．利用できる情報をすべて正確に処理し，好みに矛盾がなく，自分にとっての満足をいつも最大にするように行動する人物だ．経済学ではこれを「ホモ・エコノミクス」（経済人）と呼んできた．現実にこんな人はいない．それでも，この理想化された人物を出発点に置くと，市場や価格の仕組みを見通しよく分析できる．

行動経済学は，この理想像と現実の人間とのずれを掘り下げてきた学問である．早い時期にこのずれに目を向けた一人が，サイモン（1955）である．サイモンは，人間は時間も注意も計算能力も限られたなかで判断しており，完璧な最適化ではなく，そこそこうまくいく手続きに頼っていると考えた．これを「限定合理性」という．

ここに大規模言語モデル（以下ではLLMと呼ぶ）が登場した．LLMとは，ChatGPTのような対話型AIの中核にある仕組みのことで，大量の文章を学習し，人間と言葉でやりとりできる．LLMは人間のように疲れることも，感情に流されることも，注意を切らすこともない．一瞬で膨大な情報を参照し，論理的な推論の手順を明示的にたどることもできる．ならば，人間が達成できなかった一貫した合理性を，AIこそが体現するのではないか．そんな期待が生まれるのは自然である．AIは，行動経済学が描いてきた「非合理な人間」を乗り越える存在，いわばホモ・エコノミクスの再来だというわけだ．

人間の文章から学んだ機械

しかし，この期待には大きな見落としがある．LLMは，論理の規則や「満足を最大にせよ」という式を与えられて作られたわけではない．

LLMの中核にあるのは，ある文章の続きにどんな言葉が来やすいかを予測する仕組みである．「今日はいい天気なので」と来れば，「散歩に」「洗濯を」といった続きが来やすい．LLMは，人間が書いた莫大な量の文章を読み込み，こうした続き方の規則性を統計的に身につけている．学習の材料は論理学の教科書だけではない．日常の会話，ニュース，物語，議論，感想といった，人間の思考のあらゆる痕跡が含まれる．

そうだとすると，LLMが再現するのは，人間が到達すべき合理性の理想ではなく，人間が実際に書き残してきた思考の癖である可能性がある．人間の書き言葉のなかに，ある言い方に続いて特定の反応が現れる傾向や，ある数字が示された後に近い数字が語られる傾向が刻まれていれば，LLMはその傾向をそのまま学んでしまう．人間が損失を利得より重く語り，手元にあるものを高く評価し，直近の出来事を大きく見積もる．その語り口を，モデルは統計的な規則性として吸収する．LLMにとって人間らしい偏りは，設計者が取り除き忘れた欠陥というより，学習の副産物として流れ込んでくるものなのだ．

この見方に立つと，問いは実際に確かめられる形になる．人間の偏りを引き出すために心理学者や経済学者が作ってきた古典的な問題を，そのままLLMに出し，人間と同じ方向の答えが返ってくるかを見ればよい．ラーワンら（2019）は，機械の振る舞いそのものを，経験的な観察と実験の対象にしようと提案した．人間に対して使ってきた実験の作法を，そのまま機械に向けるわけである．

この発想の延長に，さらに大胆な試みもある．アーガイルら（2023）は，LLMに年齢や性別といった属性を設定して答えさせ，人間の回答の分布を再現しようとした．このようなAIの回答者は「シリコンサンプル」と呼ばれる．ホートンら（2023）は，LLMを経済実験の予行演習に使うことを提案し，AIの回答者を「ホモ・シリカス」と名づけた．シリコン（ケイ素）はコンピューターの素材である．AIを人間の代わりの回答者として使えるかどうかは，AIが人間と同じように判断するかどうかにかかっている．この章の問いは，その土台にあたる．

速い思考と遅い思考

人間の偏りを整理する枠組みとしてよく使われるのが，心理学の「二重過程理論」である（カーネマン，2011）．この理論では，人間の思考を二つの様式に分ける．

一つは「システム1」と呼ばれる，速く，自動的で，努力のいらない直観的な処理である．たとえば，見慣れた顔を見て一瞬で誰かわかるような処理を思い浮かべるとよい．もう一つは「システム2」と呼ばれる，遅く，意識的で，努力のいる処理である．たとえば，込み入った計算を紙の上で一歩ずつ進めるような処理である．システム2には，システム1が出した直観的な答えを点検し，修正する役割がある．多くの偏りは，システム1の直観的な答えを，システム2が十分に点検しないときに現れる．

この枠組みをLLMに当てはめてみると，対応関係が見えてくる．LLMが文章の続きを次々と即座に生み出していく過程は，努力なしに自動的に進むという点で，システム1に似ている．一方，答えにたどり着くまでの筋道を一歩ずつ言葉にさせる手続き（「思考の連鎖」と呼ばれる）は，システム2の熟慮を外から模したものとみなせる．

これは単なるたとえ話ではない．心理学には「認知反射テスト」という問題群がある（フレデリック，2005）．直観的にぱっと浮かぶ答えが実は誤りになるように作られた問題で，システム1の答えをシステム2で点検できるかを測る．この問題をLLMに解かせると，モデルの世代や種類によって，直観的な誤りに陥るか，それを避けるかが分かれる．

この点を鮮やかに示したのが，ハーゲンドルフら（2023）の研究である．彼らは，言葉の意味の錯覚を突く問題や認知反射テストのような問題を，GPTと呼ばれる系列のモデルに，世代を追って解かせた．すると，モデルが大きくなり，言葉の扱いが洗練されるにつれて，人間に似た直観的な答えと，それに伴う誤りがむしろ強まっていった．ところが，この傾向はChatGPTの系列で一変する．ChatGPTは問題に仕込まれた罠を避け，正しく答える傾向を示したのである．人間らしい直観的な誤りが，あるモデル群では現れ，別のモデル群では消えた．

同じころ，ビンツとシュルツ（2023）は，認知心理学の課題一式をGPT-3に解かせた．GPT-3は多くの課題を人間に似たやり方で解いたが，同時に人間に似た偏りも示した．

AIは人間のように間違えることもあれば，間違えないこともある．どちらになるかは，モデルによって違う．この「条件によって変わる」という性質が，この章のなかで何度も顔を出す．以下では，言い方の効果，最初の数字の効果，時間をまたぐ選択という三つの領域を順に見ていこう．

2　言い方ひとつで答えが変わる

同じ中身，違う枠

冒頭の一つ目の問いに戻ろう．「成功率90％」と「失敗率10％」は論理的には同じことを言っているのに，前者のほうが好ましく聞こえる．同じ事実を，うまくいく側から語るか，失敗する側から語るかで，受け止め方が系統的にずれる．行動経済学ではこれを「フレーミング効果」と呼ぶ（トゥベルスキーとカーネマン，1981）．フレームとは額縁のことで，同じ絵でも額縁によって印象が変わる，というたとえである．

なぜこんなことが起きるのか．背景にあるのが，カーネマンとトゥベルスキー（1979）が提唱した「プロスペクト理論」の考え方である．人間は，ある結果を絶対的な水準で評価するのではなく，何らかの基準からの得か損かとして評価する．この基準を「参照点」という．たとえば，給料が30万円になったとき，前月が25万円だった人と35万円だった人とでは，同じ30万円でも喜び方がまったく違う．前者にとっては得であり，後者にとっては損だからだ．

さらに人間は，同じ額なら，得をしたときの喜びより損をしたときの痛みのほうを大きく感じる．これを「損失回避」という．グラフにすると，参照点を境に，損の側の落ち込みは得の側の伸びよりも急になる．

参照点がどこに置かれるかは，言い方ひとつで動く．「成功率90％」と聞けば成功が基準になり，「失敗率10％」と聞けば失敗が意識に上る．参照点が動けば価値の感じ方が動き，価値の感じ方が動けば選択が動く．これがフレーミング効果の基本的な仕組みである．

では，この参照点の動きは，LLMの答えにも現れるのだろうか．LLMが完全に合理的なホモ・エコノミクスなら，論理的に同じ二つの言い方には同じ答えを返すはずである．逆に，人間の書き言葉に刻まれた言い方への敏感さを学んでいるなら，人間と同じ方向に反応するはずである．どちらなのかは，言い方を変えた問題を出して比べれば確かめられる．

LLMもフレームに反応する

この点については，複数の研究がそろって同じ方向の結果を報告している．

ジョーンズとスタインハート（2022）は，人間の偏りを手がかりにしてLLMの失敗を体系的に引き出す方法を考えた．プログラムのコードを書くモデルを対象にした事例研究では，モデルの出力が，指示文（プロンプト）の枠組み方によって，予測できる仕方で変わることを示した．同じ課題でも，問題文の枠組み方によってモデルの誤り方が変わったのである．彼らの着眼点は，人間の偏りについての知識を，機械の失敗を予測するための仮説づくりに使うところにあった．人間の非合理性のカタログが，そのままAIの弱点を探す地図になるという発想である．

古典的なフレーミングの課題をより直接に使ったのが，スリら（2024）である．彼らは，人間の判断の癖を引き出すために使われてきた課題をGPT-3.5に出し，四つの研究でモデルの反応を測った．そのうちフレーミング効果を調べた研究では，ある対象の特徴を肯定的に示した場合と否定的に示した場合とで，含まれる情報は同じなのに，モデルの評価が系統的に変わった．同じ内容を「うまくいく」枠で語るか「失敗しうる」枠で語るかで，モデルの評価は動いた．大事なのは，同じ課題を人間に出したときにも似た効果が見られた点である．LLMは，人間と同じ方向にフレームへ反応した．

これらの結果は，LLMにとってフレーミング効果が例外的な現象ではなく，むしろ頑健に観察されるパターンであることを示している．モデルは，論理的に同じ二つの表現を同じには扱わない．表面の言い回しが，答えを左右する．AIにとって私たちの指示文は，中立的な命令ではなく，反応を引き起こす刺激なのである．

手放すのは惜しい，確実なものは魅力的

参照点の効果は，言い方の違いにとどまらない．もう一つの代表的な現象が「保有効果」である（セイラー，1980）．人間は，いったん自分のものになった物を，同じ物を持っていないときよりも高く評価する．同じ品物でも，持っている人が「いくらなら手放してもよいか」と考える額は，持っていない人が「いくらなら買ってもよいか」と考える額よりも大きくなる．手放すことが損として感じられるからだ．保有効果もまた，損失回避にもとづく参照点の効果の一つである．

スリら（2024）は，この保有効果もGPT-3.5に現れることを報告している．物理的にまったく同じ物でも，「持っているもの」として示されると，「新しく見つけたもの」として示された場合より，モデルは高く評価した．所有という枠組みが参照点を動かし，評価を押し上げたのである．人間で見られる参照点の論理が，モデルの答えにもそのまま見てとれる．

参照点の効果は，確実さの評価にも及ぶ．人間には，確実に手に入る結果を，わずかに不確実な結果よりも不釣り合いに高く評価する傾向がある．これを「確実性効果」という．プロスペクト理論では，人間は確率をそのまま受け取らず，ゆがめて重みづけると考えるが，確実性効果はそのゆがみの帰結の一つであり，危険をどれだけ引き受けるかの判断を系統的にずらす．

イツハクら（2024）は，この確実性効果について重要な発見をした．LLMは，大量の文章で学習したあとに，人間の指示に従いやすくする調整や，人間の評価をもとにした調整を受けて仕上げられる．イツハクらは，こうした調整の工程が，モデルに偏りを新たに生じさせうることを示した．確実性効果は，モデルを人間に沿わせる調整の過程で，むしろ強まりうるのである．この発見の意味は大きい．LLMの偏りは，学習した文章から受け身で引き継ぐだけでなく，人間の好みに合わせようとする調整の工程によっても注ぎ込まれうる．人間に近づけようとする手入れが，人間らしい偏りまで一緒に持ち込んでしまうかもしれないのである．偏りの出どころは，学習の材料だけではない．仕上げの工程も，その候補に入る．

まとめると，言い方と参照点の領域では，LLMは人間と同じ方向の偏りを頑健に示す．同じ情報でも枠組み方で評価が変わり，持っていることが評価を押し上げ，確実なものが過大に重みづけられる．少なくともこの領域に関するかぎり，AIはホモ・エコノミクスではなく，人間の非合理性を映す鏡として振る舞っている．AIの判断を眺めることは，人間自身の判断の癖を眺めることに近い．ただし，ここで言えるのは「この領域では」ということまでである．次に見るアンカリングでも同じ姿が続くが，時間をまたぐ選択に進むと，鏡の像は少しずつゆがみ始める．

3　最初に見た数字に引きずられる

直観の近道とその代償

私たちは，不確かな状況で確率や量を見積もるとき，複雑な計算をせずに，いくつかの単純な経験則に頼る．トゥベルスキーとカーネマン（1974）はこうした経験則を「ヒューリスティクス」と呼んだ．ヒューリスティクスは多くの場面で役に立つ近道だが，ときに系統的な誤りを生む．

代表的なものの一つが「アンカリング」である．ある数字をいったん見せられると，それが判断する対象とまったく関係のない数字であっても，人の見積もりはその数字の近くに引き寄せられる．船を留める錨（アンカー）のように，最初の数字が判断をつなぎとめ，そこからの調整が足りないまま終わるのである．買い物で「通常価格」が大きく書いてあると，値引き後の値段が安く見えるのも，同じ仕組みで説明できる．

もう一つの代表が「代表性ヒューリスティック」である．ある人や物がどのグループに属するかを判断するとき，私たちはそのグループの典型的なイメージにどれだけ似ているかで確率を見積もり，そもそもそのグループがどれだけ多いかという基本の割合を軽く見がちである．この誤りが極端に出ると，「AかつBである確率」を「Aである確率」より高いと答えてしまう．AかつBであれば必ずAでもあるのだから，論理的にはありえない答えである．これを「連言錯誤」という．

さらに「利用可能性ヒューリスティック」は，思い出しやすい事例ほどよく起きると見積もる傾向を指す．飛行機事故のニュースを見た直後には，飛行機が実際より危険に感じられる．鮮烈な逸話や報道が，確率の見積もりをゆがめるのである．

ここで三つの近道を並べておこう．アンカリングは，最初に示された数字に後の見積もりが引き寄せられる癖である．代表性ヒューリスティックは，典型的なイメージとの似かたで確率を見積もり，基本の割合を軽く見る癖で，連言錯誤はその極端な形である．利用可能性ヒューリスティックは，思い出しやすい，あるいは目立つ事例ほど頻繁に起きると見積もる癖である．どれも，人間の判断に広く見られる特徴として，長年にわたって確かめられてきた．

いずれも，システム1の速い処理が生む，直観的だが誤りうる判断である．人間の書き言葉を学んだLLMは，同じ近道を，同じ誤りとともに再現するのだろうか．

LLMもアンカーに引き寄せられる

アンカリングについては，複数の研究が一貫した結果を報告している．ジョーンズとスタインハート（2022）は，コードを書くモデルの出力が，指示文に含まれるアンカーの方向に調整されることを示した．関係のない数字を見せることが，モデルの出力を系統的に引き寄せたのである．スリら（2024）も，GPT-3.5がランダムに与えられたアンカーの影響を受けて見積もりを変えることを報告している．判断の対象とは論理的に無関係な数字が，モデルの見積もりを左右した．人間のアンカリングと同じ形の現象である．

代表性と利用可能性についても，スリら（2024）はLLMが人間と同じ形の近道を示すことを明らかにしている．彼らの研究の一つでは，GPT-3.5が，二つの出来事が同時に起こる可能性を，どちらか一方が起こる可能性より高いと判断した．連言錯誤そのものである．さらにモデルは，目立つ逸話的な情報に引きずられ，統計的により適切な情報を軽く見た．利用可能性ヒューリスティックにあたる振る舞いである．ここでも，同じ課題を人間に出したときの効果と，モデルの反応は同じ方向を向いていた．

ビンツとシュルツ（2023）がGPT-3に認知心理学の課題一式を解かせた結果も，同じ全体像を裏づける．GPT-3は，確率を使った推論の課題や，直観的な処理と熟慮的な処理を切り分ける課題を，しばしば人間に似たやり方で解いた．そこには，人間に似た合理性だけでなく，人間に似た偏りも含まれていた．モデルは，正解を出す力と，人間と同じ誤りを犯す傾向とを，同時に備えていたのである．

測って，直せるか

アンカリングや代表性がLLMに現れるという話は，好奇心を満たすだけのものではない．LLMは，採用選考，融資の審査，医療での優先順位づけ，情報の要約といった，実務の判断を支える道具として急速に広まっている．もしモデルの判断が，関係のない数字や目立つ逸話に左右されるなら，それはAIを組み込んだ意思決定の仕組みの公正さと信頼性に，直接かかわる問題になる．

こうした実務上の関心から，LLMの偏りを体系的に測り，和らげようとする工学的な取り組みが出てきている．エヒターホフら（2024）は，利害の大きい意思決定の場面で，LLMの偏りを見つけ，評価し，和らげるための枠組みを提案した．彼らは，モデルが人間の偏りと働きの似た偏りを示すことを確認したうえで，いくつかの緩和策を比べ，モデル自身に指示文のなかの偏りを見つけさせて修正させる方法を検討している．ここで大事なのは，偏りがもはや人間だけの問題ではなく，AIを使った意思決定を設計するときに明示的に管理すべき対象になりつつある，という認識の変化である．

もっとも，こうした試みは，偏りの根が深いことも同時に示している．先に見たように，イツハクら（2024）は，人間に沿わせるための調整がかえって偏りを生む場合すらあることを示した．ロウとスン（2026）による，より新しいモデルを対象にした系統的な追試も，同じ結論を裏づけている．彼らは，トゥベルスキーとカーネマン（1974）の古典的なアンカリングの課題を，複数の新しいモデルに移して試した．理由を一歩ずつ言葉にさせるといった緩和策を講じても，アンカリングの効果は十分には消えなかった．

アンカリングのような近道は，学習した文章の表面をなぞるだけで消える種類の欠陥ではなく，モデルの言葉の処理そのものに深く織り込まれている可能性が高い．とすれば，AIの偏りをどこまで「直せる」のか，そもそも「直す」とは何を意味するのか，という根本的な問いが残ることになる．

4　AIにも「今日のケーキ」は魅力的か

「今」が絡むと待てなくなる

ここまで見てきた言い方の効果やアンカリングは，主に一つの時点での判断のゆがみだった．しかし，人間の非合理性がもっとも切実に表れるのは，しばしば時間をまたぐ選択においてである．

今日の小さなごほうびと，将来の大きなごほうびのどちらを選ぶか．今の楽しみと，将来の健康のどちらを優先するか．異なる時点の得や損のあいだで行うこうした選択を，「異時点間選択」という．貯蓄，健康，教育，環境といった，人生と社会の大事な領域の根っこには，いつもこの種の選択がある．

伝統的な経済学は，この選択を「指数割引」という考え方で表してきた．将来の価値は，時間がたつにつれて一定の割合で目減りしていく，という考え方である．このとき，好みは時間がたっても変わらない．今日の判断と，1年後の同じ判断とで，答えは変わらない．

ところが人間の行動は，この一貫性から系統的に外れる．冒頭の二つ目の問いを思い出してほしい．「今日の一切れ」と「来週の二切れ」なら今日の一切れを選ぶ人が，「1年後の一切れ」と「1年と1週間後の二切れ」なら二切れを待つ．待つ長さは同じ1週間なのに，「今」が絡んだとたんに好みが逆転する．遠い将来どうしの比較なら辛抱強く待てるのに，そのうちの近いほうが「今」に近づくと，急に待てなくなるのである．

この現象を「現在バイアス」という．グラフで描くと，将来の価値は，待ち時間の最初のところで急に落ち込み，その先はゆるやかに下がっていく．この形は「双曲割引」と呼ばれる．指数割引のなめらかな曲線とは，最初の落ち込み方が違う．現在バイアスがあるために，人は将来のための計画をしばしば先延ばしにし，あとで後悔するような選択をしてしまう．ダイエットや貯蓄がうまくいかない理由の一つも，ここにある．

現在バイアスは，単なる好奇心の対象ではない．行動経済学には，人の選択の自由を残したまま，選び方の環境を工夫してそっと後押しする「ナッジ」という手法がある．老後に備えた貯蓄を促すナッジの多くは，まさにこの現在バイアスへの対処として設計されてきた．「来月からは貯金しよう」と思っても，来月になれば「今月は物入りだから来月から」となる．その繰り返しを断ち切るために，貯蓄の仕組みそのものを工夫するのである．だからこそ，AIがこの癖を持つかどうかは，AIを使って人間の貯蓄や健康の行動を予測しようとするときに，大きな意味を持つ．

では，肉体も食欲も持たず，将来の消費から満足を得るわけでもないAIに，同じ誘惑は働くのだろうか．

AIは人間より待てない

この問いに正面から取り組んだのが，ゴリとシン（2024）である．彼らはGPT-3.5とGPT-4に，「小さく早いごほうび」と「大きく遅いごほうび」のどちらかを選ばせ，モデルの時間に対する好みを測った．

結果は意外なものだった．二つのモデルはどちらも人間より辛抱強くなく，将来のごほうびをより強く割り引いたのである．とりわけGPT-3.5は，早いほうのごほうびをほとんど無条件に選ぶような，人間には見られない極端な偏りを示した．GPT-4はそこまで極端ではないものの，測られた割引の度合いは，人間で観察される水準よりなお大きかった．LLMは人間の時間に対する好みを再現するどころか，人間よりも目先にとらわれて振る舞ったことになる．

さらに面白いのは，この好みが言語や文脈によって変わった点である．言語には，未来のことを話すときに文法上はっきり未来の形を使わなければならない言語と，そうでない言語がある．ゴリとシン（2024）は，未来を示す文法上の目印が弱い言語（ドイツ語や中国語など）でモデルに選ばせると，モデルがより辛抱強くなることを見いだした．これは，言語の構造と時間に対する好みの関係を論じてきた先行研究と整合する方向の結果である．モデルの時間に対する好みは決まった値ではなく，問いかける言語や文脈によって動くのである．

もう一つ，彼らは，モデルに自分の選択の理由を説明させると，モデルと人間とのずれが小さくはなるが，なくなりはしないことも報告している．理由を言葉にさせる手続きは，先に触れたシステム2の熟慮を模したものだった．熟慮を促すとずれが減るという結果は，システム1とシステム2の対応が，時間に対する好みの領域でも成り立つことを裏づけている．

鏡ではない場所

この結果は，ここまでの話とは違う意味を持つ．言い方の効果やアンカリングの領域では，LLMは人間と同じ方向の偏りを示した．ところが時間をまたぐ選択の領域では，LLMは人間の癖を単純に写すのではなく，人間より強く将来を割り引き，しかもその程度が言語や文脈で揺れ動いた．

一時点の判断では人間と同じ方向にずれたモデルが，時間をまたぐ選択では人間とは違う方向に，しかも人間より大きくずれる．同じモデルの中に，人間によく似た部分と，人間とは似ていない部分が同居しているのである．つまり，AIの偏りは領域によって現れ方が違う．ある領域では人間の鏡になり，別の領域では人間とは違う独自の偏りを示す．AIは，肉体を持たないのに「今日のケーキ」を選びがちで，しかもその選び方は尋ね方ひとつで揺れ動く．AIの時間に対する好みは，人間の写し絵であると同時に，人間とは違う独自の癖も帯びている．

このことは，実用の場面で一つの警告になる．AIを使って人間の意思決定を予測しようとするとき，AIから得た数字をそのまま人間に当てはめてはならない．

5　AIの間違い方の地図を描く

偏りは三つの条件で変わる

ここまでの研究を並べると，一つの明確な姿が浮かび上がる．LLMが人間のような偏りを示すかどうかは一律には決まらず，条件に強く左右される．

言い方，参照点，アンカリング，代表性といった領域では，LLMは人間と同じ方向の偏りを頑健に示した．ところが時間をまたぐ選択の領域では，LLMは人間より目先にとらわれた，独自の偏りを見せた．そしてハーゲンドルフら（2023）が示したように，同じ認知反射テストでも，あるモデルの世代では人間らしい直観的な誤りが現れ，別の世代では消えた．

この条件は，三つの水準に分けて整理できる．

第一は，領域による違いである．同じモデルでも，一時点の判断の偏りは人間に似るのに対し，時間をまたぐ選択の好みは人間から離れる（ゴリとシン，2024）．

第二は，モデルの種類や世代による違いである．モデルが大きく，あるいは新しくなるにつれて偏りが強まったり弱まったりし，その向きは一定しない（ハーゲンドルフら，2023）．

第三は，指示文への敏感さである．同じ課題でも，表面の言い回しや文脈の与え方が答えを左右する（ジョーンズとスタインハート，2022）．さらに，人間に沿わせるための調整の工程そのものが，偏りを注ぎ込みうる（イツハクら，2024）．

こうして見ると，LLMの偏りは，モデルという決まった実体に宿る不変の性質ではなく，モデルと課題と問いかけ方の組み合わせのなかで現れる，変わりやすい現象だと言える．

この変わりやすさは，研究結果の読み方に大きな影響を与える．あるモデルに，ある課題を，一通りの言い回しで出して得た結果を，「LLM一般の偏り」に広げることはできない．どのモデルを，どの領域で，どんな問いかけ方で観察したのかを特定しないかぎり，「AIはこの偏りを持つ」という主張は中身を持たない．新聞やネットで「AIにも○○バイアスがあった」という見出しを見かけたら，まずこの三つを確かめるとよい．どのモデルで調べたのか．どんな種類の判断について調べたのか．問題文はどんな言い回しで，ほかの言い回しでも試したのか．この三つのどれかが書かれていなければ，その見出しは「ある条件のもとで，あるモデルがそう答えた」以上のことは言っていないと考えたほうがよい．

写し絵か，機械に固有の間違い方か

ここで，この章のいちばん根本的な問いに立ち返ろう．LLMが示す非合理性は，人間の非合理性の写し絵なのか．それとも，AIに固有の間違い方なのか．

一方の極にあるのは，写し絵だという見方である．LLMは人間の文章を学んでいるのだから，人間の偏りをそのまま帯びる．言い方の効果，アンカリング，代表性，保有効果といった領域で，LLMは人間と同じ方向の反応を示した（ジョーンズとスタインハート，2022；スリら，2024；ビンツとシュルツ，2023）．これらの結果は写し絵説を支持する．この領域に関するかぎり，LLMは人間の認知の鏡であり，人間の非合理性を映し返している．

しかし，もう一方の極には，機械に固有の間違い方があるという見方がある．マクミラン゠スコットとムソレシ（2024）は，七つのモデルを認知心理学の課題で評価し，大事な区別を示した．彼らによれば，LLMは確かに人間と同じように非合理性を示すが，その現れ方は人間とは違う．モデルが誤答するとき，その誤り方はしばしば人間の偏りとは別の形をとる．しかも，同じ課題への反応が著しく一貫しない．人間には見られない種類の非合理性である．LLMは人間の偏りを写すだけでなく，機械に固有の間違い方も併せ持つのである．時間をまたぐ選択で人間より強く将来を割り引くこと（ゴリとシン，2024）も，この独自性の一例とみなせる．AIに不正を任せる場面を調べた研究では，人間ならば拒むはずの非倫理的な指示を，AIのほうが高い割合で忠実に実行してしまうことが報告されている（ケービスら，2025）．これも，人間の不正の単純な延長では説明のつかない，AIに固有の挙動の一例に数えられる．

また，AIの偏りには，人間の思考の癖とはまったく別の出どころもある．どんなデータで学んだか，どんな目標に向けて最適化されたか，調整に関わった人がどんな価値観を持っていたか．こうした作られ方に由来する偏りは，人間の誰も望んでいない形で現れることがある．人間の偏りを一つずつ点検するだけでは，この種の偏りは見えてこない．これについては，別の章で改めて取り上げる．

ぎざぎざの境界線

機械に固有の間違い方は，心理学の実験室の外，仕事の現場にも現れる．デラックアら（2026）は，大手コンサルティング会社で働く758人を対象に，事前に計画を登録したうえで現場での実験を行った．AIの手助けを受けた人は，AIが得意とする課題では，作業の速さと成果物の質がともに大きく向上した．ところが，一見すると同じくらいの難しさに見えながらAIが苦手とする課題では，AIを使わなかった人よりも正答率が下がった．

彼らはこの現象を「ぎざぎざ（ジャギー）な技術の最前線」と呼んだ．AIにとっての得意と不得意の境界線は，人間が直観的に感じる難しさの順番とは一致せず，不規則なぎざぎざを描いている．しかも，その境界線がどこにあるかを，作業の前に人間の側が見きわめるのは難しい．実験室の課題で見えてきた「条件によって偏りが出たり出なかったりする」という性質は，仕事の現場では，成果の質そのものを左右する境界線として現れる．どの領域で，どのモデルが，どの問いかけ方のもとで人間の鏡になり，どこで独自の失敗を見せるか．その線引きが，オフィスのなかにそのまま持ち込まれている．

写し絵と独自性の混ざりもの

二つの見方は，どちらか一方だけが正しいわけではない．より正確なのは，LLMの非合理性は写し絵と独自性の混ざりものだ，という描き方だろう．ある領域では人間の鏡として振る舞い，別の領域では人間とは違う偏りや，人間には見られない一貫性のなさを示す．

したがって，「AIは人間と同じ偏りを持つ」という単純な言い方も，「AIは人間とはまったく違う」という単純な言い方も，どちらも正しくない．問うべきは「同じか違うか」ではない．どの領域で，どのモデルが，どんな問いかけ方のもとで人間の鏡になり，どこで独自の失敗を見せるのか．その条件の地図を描くことである．

この描き方は，AIを人間の代わりの回答者として使おうとする試みの限界とも符合する．心理学と経営学の場面を想定した実験をLLMで大規模に再現した研究では，LLMが効果の大きさを人間の数倍に誇張することが報告されている（ツイら，2025）．また，人間の回答の分布そのものをLLMが再現できない場合もあり，人間の代わりに使うことには注意が必要だと指摘されている（ガオら，2025）．これらはどれも，LLMが人間の完全な鏡ではないことの表れである．LLMの偏りを読むときには，それが人間を映したものなのか，機械のゆがみなのかを，いつも問う姿勢が要る．

予測に使うときの注意と，AIに効きすぎる後押し

この地図は，AIを実際に使う場面にも関わってくる．

AIを使って人間の意思決定を予測し，政策や施策の効果を前もって見積もろうとする試みは魅力的である．しかし，ここまで見てきたように，LLMの偏りは領域によって人間から離れ，モデルや問いかけ方によって揺れ動く．時間をまたぐ選択の領域でLLMが人間より強く将来を割り引いたという事実は，たとえば貯蓄や健康に関わる施策の効果をLLMで予測しようとするとき，その予測が系統的に外れうることを意味する．LLMを政策の下調べに使うこと自体は役に立ちうるが，そこから得た数字を人間の実態としてそのまま採用してはならない．

もう一つ，見過ごせない研究がある．先に貯蓄の話で触れたナッジに関わる研究である．あらかじめ選ばれている選択肢である初期設定を工夫する，おすすめを示す，大事な情報を目立たせる，といったものがナッジの代表例である．

チェレプら（2026）は，人間の意思決定の課題を，人間に代わって作業をこなすAI（AIエージェント）に解かせ，初期設定，提案，情報の強調という三種類のナッジへの反応を，人間の参加者と比べた．その結果，AIエージェントは，こうしたごく普通のナッジに，人間よりもはるかに強く反応することがわかった．ナッジが望ましい方向に設計されていれば，AIエージェントはよりよい意思決定に大きく近づく．しかし逆に，悪意のある，あるいは単に不注意に設計されたナッジであっても，AIエージェントはやはり大きく引きずられてしまう．

これは，この章で見てきたことと地続きである．言い方ひとつで評価を変え，最初に見た数字に引き寄せられるモデルなら，画面の初期設定やおすすめ表示に引き寄せられても不思議はない．違うのは，その引き寄せられ方が人間より強いという点である．

人間を「そっと後押しする」ために設計されたはずの工夫が，買い物の代行や日程の調整をAIエージェントに任せる時代には，人間に対するよりもはるかに強く効きかねない．それは役にも立つが，裏目にも出うる．ナッジを使ってよいのはどんな条件のときかという倫理上の問いは，AIエージェントが相手になると，いっそう厳しく問われることになる．

AIを「合理的な機械」と見るか，「非合理な人間の模造品」と見るか．この章で見てきた研究は，そのどちらの見方でもうまく説明できない．LLMは人間の非合理性を映す鏡であると同時に，機械に固有のゆがみを持っている．冒頭のケーキの問いをAIに出したとき，AIが人間と同じように答えるのか，人間よりも目先にとらわれるのか，それとも聞くたびに答えが変わるのか．それは，どのモデルに，どの言語で，どう尋ねるかによって変わる．AIを道具として使うときも，研究の対象として調べるときも，まずその条件を確かめることから始めることになる．