ジブリ風でバズったChatGPTの「4oイメージ生成」、1度生成した画像を修正できる
mail@yanagiya.biz
ITライター柳谷智宣
Google Researchの論文「Prompt Repetition Improves Non-Reasoning LLMs」を紹介し、プロンプトを2回貼り付けるだけで回答精度が上がる現象を解説しています。Gemini 2.0 FlashやGPT-4o、Claude 3.7 Sonnet、DeepSeek V3で検証したところ、70のテストケース中47ケースで統計的に有意な改善が確認され、悪化は0件でした。NameIndexタスクではGemini 2.0 Flash-Liteの正解率が21.33%から97.33%へ跳ね上がっています。
LLMは前の単語から次を予測する因果的言語モデルで並び順に敏感なため、2回目の処理時には1回目の全体が過去のトークンとして存在し、Attentionが全情報を参照できることが理由だと説明されます。入力処理は並列で進むためレイテンシはほぼ増えません。ただし推論を伴う場合は28中5勝1敗で効果は限定的でした。
この要約は生成AIで作成しました。
