偽ニュース、AIで攻防 「作る」「見破る」技術進化
偽ニュース、AIで攻防 「作る」「見破る」技術進化
SNS(交流サイト)などで虚偽の情報である「フェイク(偽)ニュース」が流れる事例が増えている。7月21日投開票の参議院選挙にからんでも、ツイッター上で複数が確認された。技術が進歩し、誰でも簡単に偽の動画を作り出せるようになった。その対策となる技術の研究も進むが、間に合っていない。
偽ニュースは一般に、社会を混乱させたり、利益誘導をしたりするために発信された虚偽の情報のことだ。
例えば参院選の開票日前には「来月から国会議員の月給が100万円から120万円に引き上げられる」「安倍首相が『富裕層の税金を上げるなんてバカげた政策』と答弁」││といったテキストや動画がSNSのツイッター上に投稿された。後にメディアによって偽ニュースと判断されたが、投稿を信じた人による「不公平だ」などのコメントが殺到。安倍首相の動画は700万回以上再生された。
こうした「偽ニュース」は特に国政選挙や災害の際に便乗して投稿されて「いいね」やリツイートで拡散する。調査会社のMMD研究所(東京・港)とテスティー(東京・中央)が2019年に18~69歳の男女1533人に実施した調査では、偽ニュースを見たことがある人は全体の34%。そのうち29%は実際にだまされた経験があった。
ネット調査会社スプラウト社長の高野聖玄さんは「他人のツイッターのアカウントを乗っ取り、ボットと呼ばれる自動操縦プログラムで『いいね』をつける手法もはびこっている」と指摘する。もっともらしい内容が多く、個人が見破るのは容易ではない。
偽ニュースを作る技術は進化している。人工知能(AI)による画像処理を使い、映像の中の人物を他の人物と入れ替える技術「ディープフェイク」や、映像内の人物の表情を自在に変えられる技術「Face 2 Face」が登場。17年ごろから、ドラマの俳優の顔を入れ替えた映像が海外の動画サイトに出回った。これらは専用ソフトと市販のコンピューターがあれば簡単にだれでも作れる。
各国は偽ニュース対策を急ぐ。欧州委員会は18年4月、フェイスブックやツイッターなどSNS企業に偽ニュース対策を求める行動規範を作った。毎月の実施状況を報告させる。米連邦議会は18年、SNS企業の幹部らを召喚した公聴会を複数回開き、対策への協力を呼び掛けた。日本では総務省の有識者会議が年内に対策をまとめる予定だ。
民間で独自にファクトチェック(事実確認)をする動きも広がる。米国では「スノープス」や「ポリティファクト」といった専門団体がネット上の情報などを日々チェックし、真偽を発表している。
国内では、推進団体のファクトチェック・イニシアティブ(FIJ、東京・千代田)を中心にした取り組みがある。ネット上に出回る情報のうち「誤りなのでは」といったコメントがついたものをAIで自動抽出。協力するメディアが取材や調査をして事実確認する。今回の参院選期間中に出回った真偽不明の情報は50件を超えたという。
こうした人手をできるだけ介さずに、AIで偽物を見抜く技術の開発も進む。
国立情報学研究所と仏パリ東マルヌ・ヴァレ大学は、自然な映像と加工された偽の動画を見分けるAIの開発に取り組む。ディープフェイクで作った偽動画のうち、98%を見分けられるという。共同研究先の企業を募っており、数年内の実用化を目指す。企業では、ネット上のリスク検知サービスを提供するエルテスがソフトウエア開発のエヴィクサー(東京・中央)と判別技術の開発を検討するなど、少しずつ動き出した。