ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

生成AIが示したカスタマーサポートの電話番号にかけたところ詐欺師につながる「LLM電話番号汚染」を解説しています。2025年12月に米Aurascapeが意図的な攻撃手口として報告したもので、口コミサイトやQ&Aサイト、動画の概要欄などにAIが抽出しやすい箇条書き形式で偽の番号をばらまき、広く合意された事実だとAIに誤認させます。アラン・チューリング研究所の研究では、わずか250件程度の悪意ある書き込みで最先端モデルの振る舞いが汚染されると判明しました。

実際に2025年8月、ラスベガスの男性がGoogleのAI Overviewsで調べた番号にかけ、768ドルをだまし取られており、同じ番号はDisney Cruise LineやPrincess Cruisesの窓口としても表示されていました。対策としては、電話や決済といった最終行動の直前だけは自分で公式サイトを検索して確かめる「もう1クリックの原則」が挙げられています。

この要約は生成AIで作成しました。

記事はこちら

ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。