最大震度7を観測した熊本地震を受け、SNS上では真偽不明の情報が相次いで拡散した。「地震発生前に予測を発表し、場所が正確に的中した」とする投稿が300万回以上閲覧されてアカウントが凍結されたほか、偽の救助要請、「阿蘇山が噴火した」「人工地震だ」といった根拠不明の投稿も確認された。AIの進化によって画像や動画の真偽判別がさらに困難になる中、デマやフェイク動画は被災地への支援リソースをも脅かしかねない状況となっている。『ABEMA Prime』では、AI時代のSNSにおける災害時の偽情報拡散にどう向き合うべきかを考えた。
■AI進化で真偽の見極め困難に…正しい情報に途中からフェイクを混ぜ込む悪質な手口
ジャーナリストで法政大学教授の藤代裕之氏は、フェイク情報を見抜くことの難しさを指摘する。「AIの精度が上がってしまって、特に画像と動画は本当に見抜くのが難しくなってきている。よく災害が起こると『SNSの情報はリテラシーを持って真偽を見抜きましょう』と呪文のように唱えているが、その呪文はかなりAIによって無効化されている感じがある。見抜けと言っている人に、本当に見抜けるのか聞いてみたい」と述べる。
さらに藤代氏は、10年前と比べてXが「当てにならない」状態に変化した背景として、収益化の仕組みとアルゴリズムの変容を挙げる。「投稿してみんなに注目されて『いいね』を集めるとお金が入る『アテンションエコノミー』と、バズっているものを広く届けるアルゴリズムへの変化、これが大きく10年前と変わってしまった」と説明する。加えて、自動翻訳機能によって海外ユーザーが日本の災害をインプレッション稼ぎのネタにする構造も生まれているとした。
パックンも、「各SNSはフェイクニュース対策を強化しようとした時期があったが、その後Xではフェイクニュース対策が弱体化し、ほとんど皆無になった。あれは娯楽だと思う。Xに事実や真実を求めるのは違うかな」と語る。
日本地震予知学会会長で東海大学客員教授の長尾年恭氏は、今回のフェイク情報の悪質さについて、専門的な知見が巧みに利用されている点を強調した。「政府の地震調査委員会も断層について『近い将来の大地震は確実』とコメントしている。ところがSNSでは、その科学的なコメントを冒頭に正しく引用しておいて、そこから突然おかしな内容が入るという出し方をする人が多い」と指摘する。
長尾氏は「デマ情報と正しい情報を切り分けなければならない。地震予知研究も進んでいるが、それを利用してフェイクで稼ぐ人もいる。いつ起きるかはまだ言えない段階なのに、その不確実性を悪用されている」と述べる。藤代氏も同様の構造を問題視し、「内容が難しいものこそが、まさにおあつらえ向きの話題だ。陰謀論やフェイクというのは全部が嘘ではなく、必ず本当のことを少し混ぜることが重要。最初の2、3行を読むと正しいことが書いてあって『この人はいいんじゃないか』と思って読んでいくと、全く違う主張が書いてある。こうした情報をネタにお金を儲ける人たちが出てくる」と語る。
「地震予知が的中した」として拡散した投稿についても藤代氏は、「インプレッション稼ぎのためにたくさん投稿してどれか当たったらインプレッションが稼げる。数打てば当たるので大量に投稿され、アルゴリズムによって当たったものだけが流れてくる。その仕組みを利用した上手な使い方をしている人がいる」と解説する。
■かつては役立ったSNSが「悪化している」
政治ジャーナリストの岩田明子氏は、SNS活用の変遷をこう振り返る。「東日本大震災の取材時は、給水所や物資の場所が分かって本当に役に立った。だが10年前の熊本地震でも、動物園からライオンが逃げたという偽情報が拡散されて一瞬信じてしまった。だんだん巧妙になってきていて、便利なツールが大事なリソースを別のところに分散させかねない状況になっている」と述べる。10年前と比べて改善されたかという問いに対しては「そうでもないかもしれない。もっと悪化している気がする」と答えた。
藤代氏は偽の救助要請が実際の救助活動を妨げるリスクについて言及し、「能登半島地震の時、全然関係ない場所からの偽救助要請が増え、警察が確認に行ったが該当する建物がなかったということが出てきている。それによって命が失われる可能性がある。消防庁などがSNS情報は気にせず、まず確認したものから出動するというガイドラインを作らないと、消防・警察・自衛隊のリソースが命を助けることに使えなくなってしまう」と訴えた。
EXITのりんたろー。は、家族が熊本在住であることも明かしながら「今回のXのこの感じはずっと嫌だなと思っていた。（偽情報を流す人も）さすがに、そこの分別はつくのかなと思っていたが、寂しい国になった。こういう人があふれているのが嫌だ」と打ち明けた。
相方の兼近大樹は、平時のSNS管理の必要性と、地震予知情報を信じてしまう人々の問題を鋭く指摘する。「本当に当てられるなら、その前にみんなに声をかけて事前に止めるはずだ。それができていないということは当たっていない。インプレッション稼ぎに乗らないようにしてほしい」と語る。
さらに兼近は、日々研究を続ける専門家たちが慎重かつ丁寧に説明しているにもかかわらず、匿名のXアカウントの方が信用される現状を深刻に受け止める。「まともな前提知識のない人たちが集まっているところって絶対事件が起きる。現実世界でも正しい知識のない不良たちが集まっているところと同じ状態になってしまっている」と述べ、「XというかSNS全体を本当にどうにかしないと、取り返しがつかないところまで行くだろうというのはもう見えているはずで、誰か動いているのかという心配の方が強い」と語った。
パックンは「アルゴリズムがオーソリティを優先すればいいのに、全く根拠のない匿名情報をピックアップして拡散しているのがいけない」と述べ、藤代氏も「災害時だけでなく平時にも使えるしっかりとした情報インフラが必要だ。きちんと対応しているプラットフォームを我々が選んでいくことも必要だ」と提言した。 （『ABEMA Prime』より）