北国新聞によると、七尾市にクマが出没したという偽の動画がSNSで拡散されているそうです。全国でクマによる人的被害が相次ぐ中、その他にもクマに襲われるなどのフェイク動画の投稿が後を絶たず、SNS上での拡散に歯止めがかからなくなっています。11月11日放送のＣＢＣラジオ『つボイノリオの聞けば聞くほど』では、このニュースに関してつボイノリオと小高直子アナウンサーが取り上げます。

AI生成による偽動画

現在TikTokやYouTubeなどで拡散されているフェイク動画はクマが車の窓ガラスを割る、市街地で吠えるといった内容のもので、それらの多くは生成AIを使って作成されているようです。

専門家は「不自然な場面があるため注意すればわかる」としつつ、「スマートフォンの画面に次々と短い偽動画が流れてくると、作られたものと気付かず信じる人も多い」と指摘しています。

例えばクマが犬を咥えて逃げる動画には「無事だったかな」などと、実際の動画だと信じたようなコメントも相次いでいます。

インターネットで流れる情報を検証するNPOが3つの動画を調べたところ、いずれもアメリカのオープンAIが開発した生成AI「Sora」を使ったことを示す透かしが表示されていたとのこと。
「今はAIで簡単に作れる。事実として受け取ってしまう恐れがあることを気をつけなければ」と話しているようです。

透かしをチェック

動画サイトやSNSで「クマ」と検索すると数多くの動画が表示されますが、その中に巧妙に紛れ込んでいるフェイク動画。中には実際の目撃映像やニュースを引用したように見せかけて作られたものもあり、誤解を招く要因となっています。

小高「よくよく見ればわかるものも多いということですが、専門家の指摘にもあったように短い画像を流すように見ていくと、そこに気付かずに本物だと思い込んでしまう恐れがあります」

普段動画を見る時に、「これは本物かフェイクか」と疑いながら見る人はあまりいないと思います。エンタメとして気軽に消費される動画視聴の特性を逆手に取った方法です。

つボイ「『Sora』という透かしが入っているとはいえ、小さいスマホで見ていたらなかなか気づけない。余計注意が必要ですね」

この透かしも、やがて何らかの技術で取り除かれてしまう可能性もあるため、その有無だけで真偽を判断するのも避けた方がよさそうです。

情報の錯綜が招く事態

2016年の熊本地震の直後には、「動物園からライオンが逃げた」という偽の画像をTwitterに投稿し、動物園の業務を妨害したとして、神奈川県の男が逮捕されたケースもありました。

小高「何がいけないかって、偽の動画でありもしないことを見て騙されたということも問題なんですが、偽の動画の中に本物が紛れてしまい、本当に起こったことが埋もれてしまうのも大きな問題なんですよね」

注意喚起を促す動画にも「でもフェイクかもしれない」「どうせフェイクだ」という意識が生じることで、本当の危険に気付けなくなる恐れがあります。

つボイ「なんでこんなことをするんでしょうね」

小高「お金儲けのためでしょ。動画が再生されることによって収入が得られる、というSNSの仕組みの部分が非常に大きいんじゃないかと思います」

Xでは表示数（インプレッション）に応じて、広告収益を分配するシステムとなり、最近はこのシステムを悪用した「インプ稼ぎ」と呼ばれる投稿が増えています。
情報を受け取る側としては、安易に鵜吞みにせず出処や正確性を疑う視点を持つことも大切です。

SNS側はどう対策する？

小高「でもやっぱりこうした事態を防いでいくために、SNS側で企業としてもうちょっと対策をしっかりして欲しいですね」

つボイ「同じく情報を発信していく側の人間としては、それらをひとつひとつチェックしないのはいかがなものかと思います」

虚偽の情報は、見て信じてしまった時点で意識や認識の中に刻み込まれてしまいます。クマの危険性に関する誤解が広がる可能性もあるため、フェイク動画の流通に一段と警戒が必要です。

小高「そもそも人がたくさん亡くなっているという現状の中で、こういった嘘の情報を面白おかしく、ないしはお金目当てでやっているのは非常に不愉快です」

つボイ「会社としても配慮をして欲しいですね」

生成AIは有益に使ったり楽しく使ったりすることができる一方で、今回のようにそれらを利用した問題も目立ち始めました。便利な道具は正しく使わなければ、進歩の意味がないのではないでしょうか。
（吉村）