釣られる人続出！ SNSにあふれかえるフェイク画像・動画に踊らされないように要注意

1月7日に中国・チベット自治区で発生した地震をきっかけに、AI生成のフェイク動画がSNSで拡散した問題を取り上げています。動画生成AIの性能向上により数秒の動画が誰でも手軽に作れるようになり、がれきの下に埋もれた子供や崩壊した建物からの赤ちゃん救出といったフェイク映像が再生数目的で作られ、批判を集めています。筆者は自身の自撮り画像を学習させた画像生成AIで、消防隊姿でがれきから子供を救出する架空の写真を生成し、本人と見分けがつかない仕上がりになったと報告しています。

OpenAIの「Sora」は災害関連の動画生成をポリシー違反として拒否しますが、中国の「Kling」や「Hailuo AI」では問題なく生成できてしまうといいます。フェイク映像は感情を揺さぶり拡散を誘うのが狙いであり、災害に限らず動物や人形など驚きを誘う映像も同様の目的で作られているとして、真偽を見極めるまで反応せずスルーすることを勧めています。

この要約は生成AIで作成しました。

記事はこちら

釣られる人続出！ SNSにあふれかえるフェイク画像・動画に踊らされないように要注意

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。