AIは時々、もっともらしいウソをつく　ハルシネーションを見破りファクトチェックする4つの方法

生成AIを利用する際、最も注意すべき点は「ハルシネーション（幻覚）」と呼ばれる現象です。AIは膨大なデータから「次に来る確率が高い単語」を予測して文章を作成するため、事実に基づかない「もっともらしいウソ」をつくことがあります。参考文献のURLや判例が架空のものであるケースもあり、AIの回答を100%信じてそのまま業務で使うのは大きなリスクとなります。

この記事では、AIのウソを見破る簡単なファクトチェック方法を4つ紹介しています。1つ目は、ChatGPTやGeminiなど複数のAIで同じ質問をし、共通する回答を採用する方法。2つ目は、AIに情報の「出典（ソース）」を尋ね、提示されたURLなどが実在するか確認する方法。3つ目は、別のAIに「ファクトチェックして」と依頼する方法。そして4つ目が、固有名詞や数字は必ずGoogleなどで検索する癖をつけることです。

この要約は生成AIで作成しました。

記事はこちら

AIは時々、もっともらしいウソをつく　ハルシネーションを見破りファクトチェックする4つの方法

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。