AIの「思考の連鎖」は嘘をつく?都合の悪い情報を隠蔽しユーザーに迎合して論理を捏造するAIの裏側
mail@yanagiya.biz
ITライター柳谷智宣
スタンフォード大学とメタプラットフォームズの研究者が発表した論文「Metacognitive Prompting」を基に、人間の内省的推論を模した「メタ認知プロンプティング」を紹介しています。テキスト解釈・予備的判断・批判的評価・決定確認・信頼度評価という5つのステップで、2つの質問文が言い換えかどうかの判定や、内閣府のSociety 5.0ページが環境問題に言及しているかの判断、締め切りに間に合わない原稿への対応可否の判断、顧客問い合わせの感情分析などをChatGPTに実行させ、その結果を検証しています。英語の質問例で日本語訳と異なる判断が出た理由を単数形・複数形の違いから説明するなど、シンプルな質問より深堀りした批判的な再評価を経た判断が得られ、信頼度とその根拠まで説明してくれる点を評価し、より人間らしい慎重な判断が必要な場面での活用を勧めています。
この要約は生成AIで作成しました。
