AIと人間の思考順序が一致！Meta AIが解明した、モデルとコンテキストが思考に与える影響

Meta AIとフランスのInserm、ENSが共同で発表した論文をもとに、大規模言語モデルと人間の脳が同じ計算の道筋をたどることを示した研究を解説しています。参加者3名が10時間のオーディオブックを聴いている間のMEG（脳磁図）データと、Llama 3やMistral、GPT-2など22種類のLLMの内部挙動を比較したところ、処理順序の一致度は相関係数0.99に達し、単語の開始から約0.4秒後にスコアが上昇しました。Pythiaファミリーで1400万から120億パラメータまで比べると、小さいモデルは0.44で相関が見られない一方、120億パラメータでは0.96に達し、700億規模では頭打ちの傾向も確認されています。

Llama 3.2 3Bで文脈の長さを変えた検証では、1単語だと0.19、1000単語では0.93でした。BERTなど双方向モデルは時間的な相関が低く、一方向に処理する構造が鍵だとしています。

この要約は生成AIで作成しました。

記事はこちら

AIと人間の思考順序が一致！Meta AIが解明した、モデルとコンテキストが思考に与える影響

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。