ニュース、選挙戦、観光誘致…ディープフェイクスが日常に入り込む

コメントする

02/20/2020 by kaztaira

ニュース、選挙戦、観光誘致…ディープフェイクスは、すでに日常の風景に入り込んでいる――。

AIを使った改変動画「ディープフェイクス」は、そのリアルさから「フェイクとリアルの境目がわからなくなる」との問題が指摘されてきた。だが、同種のテクノロジーは、一方ですでに日常の様々な場面に入り込んできている。

By JD Hancock (CC BY 2.0)

ロイター通信は7日、AIベンチャーと共同で、実在の人物をAIが「コピー」した“キャスター”が、スポーツニュースを自動で読み上げるプロトタイプを開発したと発表した。

CG動画による「AIアナウンサー」はこれまでにも中国の新華社通信などが公開している。

だが、ロイターのプロトタイプは、実在の人物の動画をもとに、まるで本人がカメラに向かって話しているように見せるものだ。

インドで8日に投票が行われたデリー首都圏の議会選挙では、モディ首相の国政与党、インド人民党（BJP）の州代表が、州政権を担う庶民党（AAP）党首を批判する動画を、北部ハリヤナ州のハリヤナ語と英語の二つのバージョンで公開した。

ただ、英語版は本人がしゃべっているが、ハリヤナ語版は別人がしゃべったものをAIテクノロジーで合成した「口パク」だったという。

同種のテクノロジーで多言語版の動画をつくる事例は日本国内にもある。

神奈川県藤沢市は19日、市長による観光誘致動画を、同様の仕組みで日本語を含む７カ国語版として公開した。日本語以外は、やはりAIをつかった「口パク」で、市長本人がしゃべったものではない。

このような試みはこれまでにも行われており、多言語版の生成は、いわば洋画の日本語版のような「吹き替えのディープフェイクス版」ともいえる。

だが一方で懸念されるのは、AIを使って、本人がしゃべっていないことを、「しゃべったように見せる」ことができてしまうという点だ。

米大統領選では、「対立候補が問題発言」といったディープフェイクスのねつ造動画によって選挙が混乱するのでは、との懸念も指摘されている。

高度化するAIによるディープフェイクス動画は、「それが本物かどうかわからない」という点で、人々を不安にさせる。

●「AIコピー」のキャスター

ロイター通信が7日に発表したのは、ロンドンのAIベンチャー「シンセシア」と共同開発したシステムだ。

プロトタイプでは、ロイターの実在のスポーツエディターがキャスターとなり、サッカーのイングランド・プレミアリーグの試合結果をアナウンスする、という動画を作成したという。

ただ、このキャスターはスポーツエディターの動画素材をもとにAIが作り上げた、いわば「AIコピー」だ。

顔や声などは本物だが、ニュースの原稿を読み上げているのは本人ではなく、AIによるリアルな見た目の「コピー」なのだという。

この「コピー」がカメラに向かい、試合の画像を横に表示させて、試合展開のポイントやコメントを述べる。そして、読み上げ原稿も、試合結果のデータからAIが自動生成したもので、AIによる原稿をAIキャスターが読む。

そのプロセスに、人の手が介在しない、という仕組みだ。これが進化していけば、あらゆる地域やタイプのスポーツニュースを、実在のキャスターの「AIコピー」によって、すべて自動で行うことができてしまう。

●ベッカム氏が9カ国語動画

サッカーの元イングランド代表のデービッド・ベッカム氏が、英語のほか、スペイン語やアラビア語、ヒンディー語、中国語など9カ国語を使って、マラリア撲滅を訴える――。

そんな55秒の動画が、2019年4月に公開され、話題を呼んだ。

この動画にも「シンセシア」が協力している。各言語のパートを別人が読み上げ、それを「シンセシア」のAIテクノロジーを使ってベッカム氏の動画に合成しているのだという。

同社のAIテクノロジーではこのほかに2018年11月、BBCが実在のキャスターの映像をもとに、スペイン語、中国語、ヒンディー語などの多言語でアナウンスする動画を作成し、公開している事例がある。

これらのAIテクノロジーは、「リップシンク」と呼ばれる、ディープフェイクスの一種だ。

いわば、「口パク」をAIをつかって高度にしたものだ。

※参照：2030年、AIはフェイクニュースをどれだけ進化させるのか？（07/22/2017　新聞紙学的）

●選挙戦とディープフェイクス

ロイターやBBCのケースはニュース、ベッカム氏のケースは啓発キャンペーンだった。

だが、これが選挙戦に使われた事例もある。

その舞台となったのは、8日に投票が行われたインドのデリー首都圏の議会選挙だった。

米メディア「ヴァイス」によると、この選挙の投票前日、モディ首相の国政与党、インド人民党（BJP）の州代表、マノジ・ティワリ氏による44秒の動画が、フェイスブック傘下のメッセージアプリ「ワッツアップ」で拡散していた。

その内容は、州政権を担う庶民党（AAP）党首のアルビンド・ケジュリワル氏について、「公約を破った」と批判。「今こそデリーを変革するチャンスだ」などと有権者に訴えるものだった。

この動画は、ティワリ氏が北部ハリヤナ州のハリヤナ語と英語で話す、二つのバージョンが公開されていた。

だがティワリ氏本人が実際に話したオリジナルの動画はヒンディー語。

ハリヤナ語版と英語版は、BJPのIT部門とインドの広告会社が共同で制作した、別人がしゃべったものをAIを使って合成した「口パク」だった。

ハリヤナ語は、デリーの出稼ぎ労働者が多く使う言葉で、対立する庶民党からの票の引きはがしが狙いだった。動画は、推定で1,500万人に届いた、という。

ハリヤナ語の反応を受けて、デリー都市部の有権者を狙った英語版も制作した、という。

ただ、12日に公表された選挙結果では、人民党は改選前の3議席から8議席へと5議席増となったが、なお庶民党が70議席のうち62議席を占める圧勝だった

●東京五輪と観光誘致

神奈川・藤沢市は20日、都内のマーケティング会社と共同で、鈴木恒夫市長が日本語のほか英語やフランス語、中国語など7カ国語で、東京五輪などを含む観光誘致を呼びかける動画を制作した、と発表している。

動画は5分半。これも、日本語以外は別人がしゃべった内容をAIで合成した「口パク」動画だ。

技術パートナーとして名前が出ているイスラエルのAIベンチャー「カニーAI」は、「口パク」のディープフェイクス動画で、様々な話題を呼んできた。

2019年4月には、トランプ大統領やプーチン大統領、習近平国家主席、安倍首相など、世界の首脳がジョン・レノンの「イマジン」を「口パク」で歌う動画を公開している。

また同年6月には、英国のアーティスト、ビル・ポスターズ氏らが、同社の「口パク」のテクノロジーを使って、フェイスブックCEOのマーク・ザッカーバーグ氏のスピーチ動画を改ざん。

「ちょっと想像してみてほしい。一人の人間が数十億人の人々の盗まれたデータ、すべての秘密、その生活や未来を完全にコントロールしている、ということを」と、フェイスブックによるユーザーデータの収集を皮肉るようなセリフを、ザッカーバーグ氏自身が口にする内容にして、同社傘下のインスタグラムに公開している。

※参照：フェイスブックはザッカーバーグ氏のフェイク動画を削除できない（06/12/2019　新聞紙学的）

●本人がしゃべっていないこと

AIを使った改ざん動画としてのディープフェイクスをめぐっては、米国を中心に、激しい議論が続いてきた。

最大の懸念は、2020年の米大統領選でこのディープフェイクスが悪用され、選挙戦が混乱するのではないか、という危惧だ。

前回2016年の米大統領選では、フェイクニュースの氾濫が選挙戦を揺るがせた。人間の目では、容易には判別できないようなディープフェイクスが出回った場合の危険性については、専門家らから、繰り返し指摘されてきた。

そのシナリオは、政治家による問題発言から、海外からのミサイル攻撃やパンデミックといった、デマ発言が治安や安全保障上の混乱を引き起こすといった事態まで、様々なレベルが想定されてきた。

この問題は連邦議会でも取り上げられ、カリフォルニア州などは法規制にも乗り出している。

※参照：Facebookの「ディープフェイクス」対策の“抜け穴”に批判集中（01/09/2020　新聞紙学的）
※参照「ディープフェイクス」に米議会動く、ハードルはテクノロジー加速と政治分断（06/22/2019　新聞紙学的）
※参照：「フェイクＡＩ」が民主主義を脅かす―米有力議員たちが声を上げる（08/04/2018　新聞紙学的）

本人がしゃべっていないことを、AIでしゃべらせる。

それは本物かフェイクか。その境界線がどんどんと曖昧になっていけば、情報への「信頼」は、今以上に揺らいでしまう可能性もある。

前述のロイター通信の担当者、ニック・コーエン氏は、「AIコピー」のキャスター実用化について、フォーブスのインタビューにこう述べている。

これを可能にするテクノロジーはすでにある。だが、現実にプロダクトとしてリリースする前に、倫理問題、さらに読者の理解に関する問題をすべて洗い出しておきたい。

確かに、倫理問題と社会の理解は、まず検討しておく問題だろう。

——–
■最新刊『悪のＡＩ論　あなたはここまで支配されている』（朝日新書、２月１３日発売）

■フェイクニュースの本当の怖さとは？『信じてはいけない　民主主義を壊すフェイクニュースの正体』

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア　ソーシャル新時代の情報術』（拙訳）全文公開中