AIは自ら社会を創るのか？ LLM集団に芽生えた「社会的慣習」と「集団的バイアス」の驚くべき実態

LLMの集団に社会的慣習が生まれるという、2025年5月にScience Advancesへ掲載されたアリエル・フリント・アシェリー氏らの論文を紹介しています。実験は24体のLLMエージェントがランダムにペアを組み、10個のアルファベットから名前を選んで一致を目指す「ネーミングゲーム」です。中央からの指示がないのに、Llama-2やLlama-3など複数のモデルで15ラウンドほどで集団が単一の名前へ収束しました。さらに本来ランダムなはずの選択に集団的な偏りが生まれ、Llama-2-70b-Chatは「R」に、Llama-3.1は「M」に収束しました。

個々のエージェントに初期の偏りはなく、集団レベルで創発的に生じます。別の名前を使い続ける少数派を投入すると、一定の臨界質量を超えたところで慣習が一気に転換し、必要な比率はLlama-2で67%、Llama-3で12%と大きく異なりました。集団としてのアライメントやモデルごとの社会的特性の理解が重要になると指摘しています。

この要約は生成AIで作成しました。

記事はこちら

AIは自ら社会を創るのか？ LLM集団に芽生えた「社会的慣習」と「集団的バイアス」の驚くべき実態

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。