AIにも『思い込み』があった。存在しない規則を“発見”する新現象、その正体とは

衝撃の発見―AIはなぜ“勘違い”するのか？

ランダムな情報に隠された「ウソの規則」

2025年11月11日、立教大学大学院とITコンサルティング企業の株式会社豆蔵の研究グループが、AI研究の世界に激震を走らせる発表を行いました。彼らが発見したのは、大規模言語モデル（LLM）が、全くのデタラメな情報に対しても、もっともらしい「規則性」を見つけ出してしまうという現象です。研究チームは、規則的なものから完全にランダムなものまで、様々なパターンの数列をAIに提示し、「この数列の規則を説明してください」と質問する実験を実施しました。その結果は、専門家の予想を裏切るものでした。

主要AIが軒並み見せた奇妙な振る舞い

この実験が衝撃的だったのは、特定のAIだけの問題ではなかった点です。OpenAI、Meta、Googleといった、世界をリードする企業が開発した5種類の主要なLLMが、例外なくこの奇妙な振る舞いを見せたのです。全てのAIモデルが、ランダムな数列に対して、存在しないはずの規則を自信を持って解説し始めました。これは、AIが時折、事実に基づかない情報を生成してしまう「ハルシネーション」と呼ばれる現象の、これまで知られていなかった根本的な原因の一つを示唆しています。

では、なぜAIはこのような奇妙な振る舞いを見せるのでしょうか？その答えは、驚くべきことに、私たち人間の“思い込み”と深く関係していました。

人間の“思い込み”と同じ？AIに潜む意外なクセ

哲学者が指摘した人間の「偏見」

研究チームは、この現象を「種族のイドラ」になぞらえています。これは、17世紀の哲学者フランシス・ベーコンが提唱した概念で、人間が生まれつき持っている「思い込み」や「偏見」のことです。例えば、私たちは夜空の星のランダムな配置に「星座」という形を見出したり、偶然の出来事が続くと「何か意味があるに違いない」と考えたりします。このように、人間には、本来は無秩序なものの中に何とかして秩序やパターンを見つけ出そうとする生来の傾向があります。今回の発見は、AIにもこれとよく似た性質が備わっている可能性を示しているのです。

AIも秩序を求めてしまう？

これまでの一般的な理解では、AIは学習した膨大なデータを参照して答えを生成しているだけだと考えられてきました。しかし、今回の実験結果は、その考えに一石を投じます。AIは単にデータを記憶しているだけでなく、情報が不完全だったり、曖昧だったりする状況に置かれると、自ら「最もそれらしい」秩序を能動的に作り出そうとするのではないか、というわけです。これは、AIが単なるデータ記憶装置ではなく、未知の状況で推論する能力を持つことの裏返しとも言えます。しかし、その推論が時として、全くの「勘違い」を生み出してしまうのです。

理屈は分かっても、AIが具体的にどんな“勘違い”をしたのか気になりますよね。実際の実験で観測された驚きの回答例を見てみましょう。

AIはどんな「ウソ」をついたのか？具体的な失敗例

「これは素数の間隔です」という誤答

実験では、AIに対して例えば「3, 1, 4, 1, 5, 9」のような、円周率に基づいた規則的な数列や、「2, 4, 6, 8, 10」のような単純な偶数の数列が提示されました。これらに対しては、AIはほぼ正確に規則性を言い当てることができました。問題が起きたのは、コンピュータで生成された完全にランダムな数列、例えば「7, 22, 5, 13, 2」のようなものを提示した時です。あるAIは、このようなデタラメな数列に対し、「この数列は、連続する素数の間の差に基づいて生成されています」といった、非常に専門的で、もっともらしいウソの解説を始めたのです。もちろん、その数列にそのような規則は一切存在しません。

もっともらしい説明の巧妙なワナ

AIの回答が厄介なのは、単に「分かりません」と答えるのではなく、非常に説得力のある論理を展開してくる点です。例えば、「最初の数字と次の数字の関係は〇〇で、3番目の数字は△△という法則に従っています」というように、具体的な計算式や専門用語を交えて説明します。一見すると論理的で専門的に聞こえるため、その分野の専門知識がないと誤りを見抜くのが非常に困難です。今回の研究成果は、EMNLP 2025という権威ある国際会議で発表され、その巧妙な「ウソ」の手口が世界の研究者に衝撃を与えました。

このようなAIの「思い込み」は、単に面白い現象では済みません。私たちの社会に深刻な影響を及ぼす可能性があるのです。

信頼性への警鐘―私たちの未来はどう変わる？

「ハルシネーション」解明への大きな一歩

今回の発見は、長年AI開発者を悩ませてきた「ハルシネーション」問題のメカニズムを解明する上で、非常に重要な一歩となります。AIがなぜウソをつくのか、その原因が「秩序を見出そうとする内在的な傾向」にある可能性が示されたことで、より効果的な対策を講じる道筋が見えてきました。例えば、AIが自信なさげな回答をした場合に警告を表示したり、情報の確実性をスコアで示すような機能の開発が進むかもしれません。AIの「思考プロセス」のブラックボックスに、小さな光が差し込んだと言えるでしょう。

医療や金融分野に潜むリスク

一方で、この発見はAIを社会で利用する上でのリスクを改めて浮き彫りにしました。例えば、医療分野でAIが患者のデータから存在しない病気の兆候を“発見”してしまったり、金融分野でランダムな株価の動きに誤った法則性を見出して危険な投資判断を下してしまったりするリスクが考えられます。AIの出力を鵜呑みにせず、常に批判的な視点（クリティカルシンキング）を持って検証する必要があることを、この研究は強く示唆しています。特に、人命や財産に関わる重要な意思決定をAIに委ねることの危険性について、社会全体で議論を深める必要があります。

開発者に突きつけられた新たな課題

AIの開発者たちには、この「思い込み」現象をいかに制御するかという、新たな課題が突きつけられました。AIが不確実な情報に直面した際に、安易に「ウソの規則」を作り出すのではなく、「情報が不十分で判断できません」と正直に答えるように教育する必要があります。これは、AIの性能を向上させるだけでなく、AI倫理の観点からも極めて重要です。AIが暴走しないように制御するガードレール技術のさらなる高度化が、これまで以上に求められることになるでしょう。

今後の焦点は？AIとの“賢い付き合い方”とは

AIにも人間のような「思い込み」があり、存在しない規則性を“発見”してしまう―。この衝撃的な発見は、AIの能力とその限界を私たちに教えてくれました。今後の最大の焦点は、このAIの『クセ』を開発者がいかに制御し、より安全で信頼性の高いAIを構築できるかという点にあります。同時に、私たち利用者側も、AIを万能の神ではなく、時々見事な勘違いをする「賢いが完璧ではないパートナー」として捉える視点が不可欠です。私たちは、この『思い込み』をするAIと、これからどう向き合っていくべきなのでしょうか？その答えを探す旅は、まだ始まったばかりです。