高性能な推論能力の代償として増えるハルシネーション ～AIの“幻覚”は不具合か、それとも仕様か

OpenAIの最新推論モデル「o3」は正答率が向上した一方、SimpleQAでのハルシネーション率がo1の0.44からo3では0.51へ、PersonQAでも0.16から0.33へと上昇したというOpenAI自身のレポートを紹介し、生成AIの幻覚とどう向き合うべきかを5つの対策として解説しています。ハルシネーションを減らすには小型モデルよりo1やo3など大きなモデルを使うこと、「わからない場合はわからないと答えよ」といったプロンプト指示や出典提示・自信度表明を求めるプロンプトエンジニアリング、複数の生成AIで結果を照合する多段階確認（最大6モデルを同時利用できる「天秤AI」の活用を提案）、資料をアップロードして参照範囲を限定するRAG（Google NotebookLMなど）、そして最終的な人間によるファクトチェックの5つを挙げ、ハルシネーションは不具合ではなく仕様だと腹をくくり、手間を惜しまず活用する姿勢が重要だとまとめています。

この要約は生成AIで作成しました。

記事はこちら

高性能な推論能力の代償として増えるハルシネーション ～AIの“幻覚”は不具合か、それとも仕様か

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。