「ディープフェイクス」に米議会動く、ハードルはテクノロジー加速と政治分断

コメントする

06/22/2019 by kaztaira

ＡＩを使ったフェイク動画「ディープフェイクス」の問題に、２０２０年の米大統領選を控えた連邦議会が動き出している。

「酩酊状態」の民主党の下院議長、ナンシー・ペロシ氏や、「プライバシー支配」を語るフェイスブックＣＥＯのマーク・ザッカーバーグ氏などのフェイク動画が相次いで拡散したことで、改めて注目を集める「ディープフェイクス」。

精巧につくられたものは、本物と見分けがつかず、文章や画像のフェイクニュースに比べて、そのインパクトははるかに大きい。

下院情報特別委員会では、この問題をめぐる公聴会が開かれた。

専門家からは、ソーシャルメディアによる対策の強化や、検知テクノロジー開発などを求める声が上がる。

ただ共和党は、コンテンツの選別が保守派言論の排除につながる、とのトランプ政権による反シリコンバレー・キャンペーンに足並みをそろえる。

加速度的に進む「ディープフェイクス」のテクノロジー開発。それに加えて、米国における政治分断が、この問題の大きなハードルであることを印象付けた。

●「嘘つきの分け前」

米下院情報特別委員会（アダム・シフ委員長：民主）の「ＡＩ、ねつ造メディア、”ディープフェイクス”の国家安全保障上の課題」と題した初めての公聴会が開かれたのは６月１３日午前。

公聴会に出席した専門家は４人だ。

メリーランド大学教授で「サイバースペースのヘイト犯罪」（未邦訳）の共著者、ダニエル・シトロン氏。ＡＩ研究のＮＰＯ「オープンＡＩ」のポリシー・ディレクター、ジャック・クラーク氏。バッファロー大学教授で国防高等研究計画局（ＤＡＲＰＡ）でフェイク動画・画像の検証プロジェクト「メディア・フォレンジクス」を率いたデビッド・ドアマン氏、そして米外交政策研究所（ＦＰＲＩ）の特別研究フェローで元ＦＢＩ特別捜査官のクリント・ワッツ氏だ。

from US House Intelligence

シトロン氏の論点は、フェイスブックなどのプラットフォーム企業によるフェイク動画排除の取り組みの強化だ。

特に、ユーザー投稿コンテンツに対する、プラットフォーム企業の包括的な免責を定めた「通信品位法」２３０条の範囲が広すぎるために、「ディープフェイクス」の氾濫に対して、排除のインセンティブが働かなくなっていると指摘。

現状の「無条件免責」ではなく、「適切な制御」の取り組みを免責の条件とすべきだ、と主張した。

シトロン氏はさらに、「ディープフェイクス」を放置することにより、リアルの動画に対する信頼性も揺らぐことになる、と述べる。その結果、リアルな動画を証拠として疑惑を指摘された人物が、「その動画はフェイクニュースだ」と否定することができてしまう「嘘つきの分け前」と呼ぶ状況が起きている、という。

この「嘘つきの分け前」は、現実に起きている。

その一例が、トランプ氏がＮＢＣの番組「アクセス・ハリウッド」の収録現場で「スターならやらせてくれる。何でもできる」などと卑猥な発言をしていたテープが、２０１６年の大統領選の期間中に明らかになった問題だ。

トランプ氏は当初、このテープが本物であることを認めていた。だがニューヨーク・タイムズによれば、大統領当選後、上院議員や側近たちに、テープは本物ではない、と繰り返すようになっている、という。

「オープンＡＩ」のクラーク氏は、三つの層的な取り組みが必要だと述べる。

一つは「ディープフェイクス」の生成テクノロジーに対する、検知テクノロジーの追求などの、テクノロジーによる取り組み。

さらに、コンテンツの発信元情報などの”素性”を、スマートフォンなどの端末レベルやプラットフォームのレベルなどでラベリングするといった、制度的取り組み。

そして三つ目が、政策レベルを含む政治的な取り組みだ。

元ＤＡＲＰＡのドアマン氏も、テクノロジーの対応に加えて、社会的な対応が必要と述べる。

動画の加工は、以前からハリウッドでは行われてきた。テクノロジーの進展で、そのハードが急速に下がり、安価に自動で行うことが可能になった、と指摘。

ユーザーレベルで使えるフェイク動画の判定ツール、大規模に自動判定を行えるシステム、そしてソーシャルメディア企業に対する取り組み強化の要求、の３点を挙げる。

また、元ＦＢＩのワッツ氏は、「ディープフェイクス」の氾濫は、長期的には民主主義の棄損をもたらし、短期的には、暴動、暴力を誘発する危険がある、と述べる。

そして、公務員や議員などによる偽造コンテンツの作成、頒布を禁じる法律の制定や、政府とソーシャルメディア企業が連携してコンテンツについての説明責任の基準を策定すること、コンテンツのデジタル検証のための署名機能の開発、改変コンテンツへのラベリング、などを提案している

●ネット掲示板から拡散

「ディープフェイクス」は２０１７年秋、米大手ネット掲示板「レディット」から拡散したフェイク動画だ。

「ＧＡＮ（敵対的生成ネットワーク）」と呼ばれるＡＩのテクノロジーを使い、ポルノ動画の女優の顔を、ハリウッドの有名女優らに差し替えたフェイク動画が公開されていった。

そのユーザーのハンドル名が「ディープフェイクス」だった。

現在は、ポルノ動画に限らず、口パクで本人が言っていないことをしゃべらせる動画など、幅広くフェイク動画一般を「ディープフェイクス」と呼ぶようになっている。

※参照：ＡＩ対ＡＩの行方：ＡＩで氾濫させるフェイクポルノは、ＡＩで排除できるのか（02/24/2018）

米国では中間選挙を控えた２０１８年春ごろから、「ディープフェイクス」の政治的な影響が懸念され、法規制の議論もわき起こっていた。

※参照：ＡＩによる”フェイクポルノ”は選挙に影響を及ぼすか？（06/30/2018）
※参照：「フェイクＡＩ」が民主主義を脅かす―米有力議員たちが声を上げる（08/04/2018）

そんな中で、シトロン氏やワッツ氏も公聴会で取り上げた、「ディープフェイクス」をめぐる、深刻な被害や政治的な影響が指摘される事件が相次いで起こった。

●集団リンチや女性ジャーナリストへの攻撃

インドでは、この「ディープフェイクス」が実際に政治的な攻撃のツールとして使われた事例が明らかになっている。

標的とされたのはモディ政権批判を続ける女性ジャーナリスト、ラナ・アユーブ氏だ。

ネット上では政権支持派によるアユーブ氏への攻撃が激化。２０１８年４月下旬には、アユーブ氏の顔をポルノ動画に合成した「ディープフェイクス」動画が投稿される。

ツイッター、フェイスブック、インスタグラム、ワッツアップ。あらゆるソーシャルメディアで「ディープフェイクス」動画が拡散。さらにアユーブ氏の電話番号や住所までがさらされ、レイプの脅迫が押し寄せたという。

これに対して、国連の人権高等弁務官事務所が、アユーブ氏擁護の声明を発表。フェイクポルノ動画を「新たな脅威」と指摘する事態となった。

また、やはりインドでは２０１７年ごろから、改変された児童誘拐対策のための啓発動画が、「臓器売買目的の人さらいギャングが大量入国」とのデマとともにメッセージアプリ「ワッツアップ」を中心に拡散。

パニックとなった住民たちによる集団リンチで、２０人以上が殺害されるという事態となった。

※参照：集団リンチ、ディープフェイクス―「武器化」するフェイクニュース（12/01/2018）

それ以外でも、２０１９年１月に中央アフリカのガボンで起きたクーデター未遂事件の発端も、「ディープフェイクス」だったと指摘されている。

ガボン政府は同月、病気療養で公に姿を見せていなかったボンゴ大統領の動画を公開する。だがこの動画は、まばたきの回数が極端に少ないなどの不自然さが目立つものだった。

このため、この動画は「ディープフェイクス」だとみなされ、ボンゴ大統領に職務遂行能力がないことの証拠だとして、軍部のクーデター未遂のきっかけとなった、と米マザージョーンズが報じている。

これらに加え、米国で改めて「ディープフェイクス」に注目を集めたのが、５月の民主党の米下院議長、ペロシ氏の「酩酊スピーチ」と、それに続くフェイスブックのザッカーバーグ氏の「データ支配スピーチ」のフェイク動画のネットでの拡散だった。

※参照：フェイスブックはザッカーバーグ氏のフェイク動画を削除できない（06/12/2019）

２０２０年の米大統領選を控え、「ディープフェイクス」が引き起こす問題が、にわかに現実味を帯びてきた、ということだ。

●進むテクノロジー、分断される政治

対策の必要性が叫ばれる中で、「ディープフェイクス」をめぐる新たなテクノロジーもまた、矢継ぎ早に公開されている。

スタンフォード大学などの研究チームは、下院公聴会の前週、動画の人物が話す言葉の内容を、ワープロソフトのように簡単に編集できるシステムを発表している。

また、ワシントン大学などの研究チームは５月、ＡＩによる自動生成のフェイクコンテンツ（ニューラル・フェイクニュース）を、９２％の精度で検知するＡＩシステム「グローバー」を発表した。

一方で、「ディープフェイクス」をめぐる政治状況は混とんとしている。

公聴会では、４人の専門家が一致して、「ディープフェイクス」の氾濫による危険性を指摘。議員からも、「インターネットは誰もが使える新たな兵器だ」（民主党・バル・デミングス氏）などの危機感が表明された。

ただ一方では、ソーシャルメディアによるフェイクコンテンツ排除の取り組みを、「保守派言論排除」と位置付ける発言もあった。

情報特別委員会の有力メンバーである共和党のデビン・ニューネス氏は、ソーシャルメディアがフェイクコンテンツ排除を行う今の基準（フィルター）が、「左派支持者によるもの」と表現。「排除されているのは大抵の場合、保守派であって、民主党ではない」と述べている。

これは、トランプ政権がフェイスブック、グーグル、ツイッターといったシリコンバレー企業のフェイクコンテンツ排除を、保守派言論の「表現の自由の侵害」として対決姿勢を強めているのと同じ流れにある。

※参照：ＡＩによる有害コンテンツ排除の難しさをフェイスブックＣＴＯが涙目で語る（05/18/2019）

「ディープフェイクス」の問題は、テクノロジーもさることながら、政治レイヤーの課題も、ハードルが高そうだ。

——–
■最新刊『悪のＡＩ論　あなたはここまで支配されている』（朝日新書、２月１３日発売）

■フェイクニュースの本当の怖さとは？『信じてはいけない　民主主義を壊すフェイクニュースの正体』

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア　ソーシャル新時代の情報術』（拙訳）全文公開中