AIの「嘘」はなぜ生まれるのか？OpenAIが自ら明かしたハルシネーションの構造的欠陥

OpenAIが公開した論文「なぜ言語モデルはハルシネーションを起こすのか」をもとに、AIが誤った情報を生成する構造的な原因を解説しています。論文が指摘するのは評価の仕組みの問題で、AIの訓練では「わかりません」と答えるより推測で回答したほうが評価スコア上は有利になるため、モデルに嘘をつくインセンティブが生まれているという点です。データでは、o4-miniが正答率24％、誤答率75％、棄権率1％だったのに対し、gpt-5-thinking-miniは正答率22％、誤答率26％、棄権率52％となり、正答率はわずかに下がるものの、ハルシネーションの発生率を大きく削減できることが示されています。

また、次の言葉を予測するという学習の性質上、個人の誕生日のように文脈から予測できない事実は本質的にランダムに近く、誤りを避けられないという限界も説明されています。AIに求めるべきは全知全能さではなく誠実さであり、評価基準の見直しとユーザー側の批判的思考が必要だとまとめられています。

この要約は生成AIで作成しました。

記事はこちら

AIの「嘘」はなぜ生まれるのか？OpenAIが自ら明かしたハルシネーションの構造的欠陥

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。