「フェイクAI」が民主主義を脅かす―米有力議員たちが声を上げる

コメントする

08/04/2018 by kaztaira

AI(人工知能)を使って、ポルノ動画に有名女優らの顔をはめこむ”フェイクポルノ”のテクノロジー「ディープフェイクス」。

その危険性を指摘する声が、米国の有力上院議員からも上がり始めている。

deepfakes

ロシアによる米大統領選介入を調査する上院情報特別委員会の副委員長、マーク・ワーナー議員(民主)は、フェイスブックなどのプラットフォーム規制に関する提言の中で、この「ディープフェイクス」対策を取り上げた。

さらに、共和党大統領選候補をトランプ大統領と競ったマルコ・ルビオ上院議員も、「ディープフェイクス」が「民主義国家への次なる攻撃の波」だと指摘する。

「ディープフェイクス」に具体的な対策の方法はあるのか?

「ディープフェイクス」を検知するAI、プラットフォームによる排除、そして法規制――人権団体「ウィットネス」が、対策の現状をまとめている。

●「次なる攻撃の波」

7月30日にアクシオスが報じた政策提言」の中で、マーク・ワーナー上院議員(民主)は、IT業界の巨大プラットフォーム企業をめぐる「フェイクニュース」「プライバシー」「競争」の問題について、20の処方箋を掲げている。

この中で、「ディープフェイクス」を取り上げ、こう述べている。

プラットフォームが、「ディープフェイクス」やその他の音声、動画コンテンツの削除を怠った場合、州法上の不法行為(名誉毀損、中傷、プライバシー侵害)の責任を負わせるべきだ――通信品位法230条によって、ソーシャルメディアのプラットフォームのようなインターネットの仲介業者は、不法行為や犯罪行為に関する免責を受けている。しかし、「ディープフェイクス」のようなテクノロジーは、ある人物の発言や行動に見せかける偽の音声・動画のファイルをつくりだす、高性能の合成ツールだ。それらの台頭によって、フェイクや名誉毀損のコンテンツが、空前の規模で押し寄せてくるだろう。これらの被害救済手段としては、州法ベースの不法行為(侮辱的不法行為)規定があるぐらいだ。

フェイクニュースの拡散やサイバー攻撃など、米大統領選へのロシアの介入疑惑調査を行う上院情報特別委員会の副委員長であるワーナー氏は、ワシントン・ポストのインタビューに、こう語っている。

我々はまさに2016年の米大統領選で使われた虚偽情報戦略の手口について、検証を行っている最中であり、同時に2018年(の中間選挙)へのさらなる攻撃に備えているところでもある。その渦中に、これらの問題をさらに悪化させるとみられる新たなツールが開発されている、ということだ。

また、2016年の米大統領選では、トランプ氏と共和党大統領選候補を競ったマルコ・ルビオ上院議員は、7月19日にヘリテージ財団で行った講演のテーマに「ディープフェイクス」を取り上げ、こう述べた。

私はロシア連邦がウラジミール・プーチン大統領の指揮の下、2016年の米国政治に政情不安と混乱をもたらしたという事実を承知している。ロシアはそれをツイッターボットや、今後明らかになるであろう様々な手段を使って実行した。だが、彼らはこれ(ディープフェイクス)を使ってはいなかった。これを使ったら、と想像してみてほしい。これを、選挙の渦中に投入したら、と。

ルビオ氏はこれ以前から、「ディープフェイクス」に懸念を表明してきた。

5月に行われた上院情報特別委員会でも、ルビオ氏はこう発言している。

ちょっと想像してみてほしい。外国の情報機関がディープフェイクスを利用して、米国の政治家が人種差別を口にしている様子や収賄をしている様子、といったフェイク動画をつくることができたら、と。
(中略)
私はこれが、米国、そして西側の民主主義諸国に対する次なる攻撃の波だと信じている。これは、フェイク動画をつくりだすものだが、それがフェイクかどうかは、詳細な分析ののちに初めてわかる。そしてわかったときには、すでに選挙は終わっている。その時には、何百万という米国人がその画像を目にし、それを信じ込もうとしているのだ。

●「フェイクポルノ」と中間選挙

「ディープフェイクス」は、フェイススワップ(顔交換)のポルノ動画として、昨年11月ごろからネット掲示板「レディット」を舞台に広まってきた。

※参照:AIによる”フェイクポルノ”は選挙に影響を及ぼすか?(06/30/2018)
※参照:AI対AIの行方:AIで氾濫させるフェイクポルノは、AIで排除できるのか(02/24/2018)

フェイクポルノの作成には、グーグルがオープンソースで公開している機械学習のためのライブラリ「テンソルフロー」などの機能と、グーグルの画像検索、ユーチューブなどを利用。

さらに、ディープラーニングの手法の一つ「敵対的生成ネットワーク(GAN)」を使っている。生成を担当するAIと、その真偽を識別するAIが”敵対的”に競うことで、出力の精度を高める。

「ディープフェイクス」では、ネットで収集した有名女優の顔の画像とポルノ動画をAIに学習させた上で、フェイクポルノを生成する。

これにより、映画『ワンダーウーマン』の主演女優、ガル・ガドット氏や、『ハリー・ポッター』シリーズのエマ・ワトソン氏、『ゴースト・イン・ザ・シェル』のスカーレット・ヨハンソン氏、歌手のテイラー・スウィフト氏らのフェイク動画をつくり、公開していた。

さらに「レディット」のユーザーの一人が、この「ディープフェイクス」のアルゴリズムを使い、専門知識がなくてもフェイクポルノがつくれる、というアプリ「フェイクアップ」を公開。

これを受けて、「ディープフェイクス」は一気に拡散の動きを見せた。

懸念はフェイクポルノにとどまらない。米国で今年11月に行われる中間選挙への影響だ。

この「ディープフェイクス」のテクノロジーを使って、2年前の大統領選の時のように、候補者に関するフェイクコンテンツをソーシャルメディアに拡散させるなどの方法で、中間選挙への介入が行われるのではないか――。

ワーナー、ルビオ両氏のような有力上院議員たちが「ディープフェイクス」の危険性を指摘する理由は、ここにある。

また、そのような懸念を裏付ける動画を、米バズフィードが作成し、今年4月に公開している。オバマ前大統領が演説をしている1分12秒の動画だ。動画の中でオバマ氏はこんなことを口にしている。

トランプ大統領は、まったく、完全にクソだ。

これは「フェイクアップ」を使ってつくった架空の「ディープフェイクス」動画で、実際に台詞を言っているのは、ホラー映画『ゲット・アウト』の監督としても知られる俳優・コメディアンのジョーダン・ピール氏だ(ピール氏はバズフィードCEO、ジョナ・ペレッティ氏の義理の弟)。

この他にも、同種のことが可能となるテクノロジー「ディープビデオ・ポートレイツ」の研究成果が、ドイツのマックス・プランク研究所、ミュンヘン工科大学などの研究チームによって公開されている。

deep_video_portraits_article

●中間選挙に向けた攻撃は始まっている

米中間選挙に向けた攻撃は、着実に進められているようだ。

フェイスブックは中間選挙まで約3カ月となった7月31日、フェイクと認定した32のページとアカウントを、すでにフェイスブックとインスタグラムから削除したことを明らかにした。

これらのフェイクページは米大統領選後の2017年3月から今年5月にかけて開設されたもの。合わせて29万人のフォロワーがついていたという。

特にフォロワーが多かったのは、「アストラン・ウォリアーズ(アステカの戦士)」「ブラック・エレベーション(黒人の向上)」「マインドフル・ビーイング」「レジスターズ(抵抗者たち)」といったページ。

facebook_facepage

このうち「レジスターズ」のフェイスブックページには、ロシアのフェイクニュース工場「インターネット・リサーチ・エージェンシー(IRA)」関連のアカウントの痕跡が確認できた、という。

「インターネット・リサーチ・エージェンシー」は、2016年の米大統領選で、フェイスブックやツイッターのフェイクアカウントを通じたフェイクニュース拡散などの工作を担当。

今年2月には「ロシア疑惑」を捜査するロバート・ムラー特別検察官によって、同社など3社と関係者13人が起訴されている。

※参照:ロシアの「フェイクニュース工場」は米大統領選にどう介入したのか(02/18/2018)

フェイスブックは、今回削除したフェイクページがロシアによるものであることを示す証拠までは見つかっていない、という。

ただ、メキシコ移民を想定した「アステカ」がテーマのページ(アストラン・ウォリアーズ)や、黒人の地位向上のページ(ブラック・エレベーション)、反トランプのページ(レジスターズ)など、社会への不満を吸い上げる体裁のフェイクページが目につく。

また、これらのフェイクページはフェイスブックとインスタグラムで、2017年4月から今年6月にかけて150の広告を約1万1000ドル(約120万円)で出稿していた、という。

フェイクアカウントによるページ開設、社会の不満を吸い上げるテーマ設定、そしてそれらのテーマに基づく広告の掲載――これらはいずれも、米大統領選で社会の分断に狙いを定めた「インターネット・リサーチ・エージェンシー」の手口に重なる。

※参照:米社会分断に狙い、ロシア製3500件のフェイスブック広告からわかること(05/14/2018)

またホワイトハウスでは8月2日、米情報機関トップらが会見を行い、中間選挙に向けてロシアによる介入が行われている、と表明している。

会見には国家安全保障担当大統領補佐官のジョン・ボルトン氏や国家情報長官、ダン・コーツ氏、連邦捜査局(FBI)長官、クリストファー・レイ氏、国土安全保障省(DHS)長官、キルステン・ニールセン氏、国家安全保障局(NSA)長官、ポール・ナカソネ氏らが出席した、という。

この中でコーツ氏は、次のように述べたという。

我々はロシアが米国の弱体化と分断を図るために、広範なメッセージキャンペーンを展開していることを、引き続き目にしている。

ただ、具体的な情報は示されなかったという。また、中間選挙への「ロシア介入疑惑」について、トランプ大統領は沈黙を守っているようだ。

●「フェイクAI」を使った「フェイク」検知

中間選挙にまつわる「ディープフェイクス」への懸念は、また具体的な実例が確認されているわけではない。

ただ、大統領選介入への反省から、「ディープフェイクス」対策をめぐる議論は熱を帯び始めている。

その一つが、ワーナー上院議員が提起した、プラットフォーム事業者のコンテンツへの免責を定めた「通信品位法230条改正」だ。

プラットフォームに「ディープフェイクス」削除義務を課すことで、被害防止につなげるという提言だ。

ただ「230条改正」は、過剰な削除につながる、として以前から電子フロンティア財団(EFF)といった人権擁護団体などからの反対が強い。ワーナー氏が「政策提言」の中で認めているように、ハードルは高い。

このほかにもニューヨーク州議会では、フェイクポルノがプライバシーや肖像権を侵害する、として禁止法案が審議中だ。

これに対しては、「表現の自由」を侵害するとしてハリウッドから反発の声も出ている。

一方で、プラットフォームによる自主的な排除の取り組みも徐々に動き始めてはいる。

社会問題化となったことを受け、「ディープフェイクス」動画のアップロード先となった「レディット」や大手ポルノサイト「ポルンハブ」、GIF動画共有サイト「ジフィーキャット」などでは、排除の取り組みを相次いで表明している。

だが、この問題を追及してきたネットメディア「マザーボード」によると、これら排除を表明したサイトでも、対策が徹底されているわけではなさそうで、なお「ディープフェイクス」の動画のアップロードは続いている、という。

AIを使った取り組みもある。

ニューヨーク州立大学アルバニー校の研究チームは6月、「ディープフェイクス」の特徴に着目した論文を発表した。

eye_blink_article

通常は1分間で17回程度行われるという「まばたき」が、”顔交換”の加工を行った「ディープフェイクス」動画には反映されていない。その検知を行うことで、「ディープフェイクス」を判別する、というものだ。

ただ、「ディープフェイクス」の動画に、さらに「まばたき」を加工することも可能なため、この対策が万全とも言えない。

動画を活用する人権擁護団体「ウィットネス」は7月、これらの対策の現状をまとめた報告を公開している。

この中では、「AI対AI」のフェイク動画検知システムも紹介されている。

ミュンヘン工科大学などのチームが取り組んでいるGANベースの検知システム「フェイスフォレンジックス」だ。

face_forensics

同チームは数年前に開発した動画の顔画像合成ツール「フェイス2フェイス」を使い、1000本に及ぶ「ディープフェイクス」型のフェイク動画を生成。そこから50万枚のフェイク顔画像を切り出し、学習させることで、「ディープフェイクス」動画の検知を可能にした、という。

この研究チームは上述の「ディープビデオ・ポートレイツ」の開発も手がけており、フェイク動画の生成と検知の両方のノウハウを持つ。

「AI」には「AI」というフェイク対策の力比べ。

だが、「ディープフェイクス」への懸念は、米中間選挙本番の11月に向けて、なお続きそうだ。

——–
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)

「信じてはいけない」書影帯あり

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 713,041 ヒット
%d人のブロガーが「いいね」をつけました。