ＡＩ対ＡＩの行方：ＡＩで氾濫させるフェイクポルノは、ＡＩで排除できるのか

コメントする

02/24/2018 by kaztaira

ＡＩ（人工知能）のプログラムを使い、有名映画女優の顔をポルノ動画と合成するフェイクポルノの騒動が収まらない。

当初は「ディープフェイクス」と名乗る人物が、個人で作成していたが、そのアプリが公開されたことで、ネット上に氾濫。今や「ディープフェイクス」は、このフェイクポルノの代名詞となっている。

合成に使われる顔写真は、有名映画女優ばかりでなく、知人やクラスメートのケースも出ており、合成動画の売買も行われている、という。

騒動を受け、「ディープフェイクス」の発信源となっていた大手のネット掲示板「レディット」やポルノ共有サイト「ポルンハブ」などは排除に乗り出す。

そして、この「ディープフェイクス」のアップロード先の一つ、ＧＩＦ動画共有サイト「ジフィーキャット」では、自社のもつＡＩ技術で、ＡＩによるフェイクポルノを検知する取り組みを始めている、という。

ＡＩを使った合成動画の自動生成は、すでに様々な研究成果が公開されている。

※参照：２０３０年、ＡＩはフェイクニュースをどれだけ進化させるのか？

だが、それが悪用された場合の対処は？

ＡＩがフェイクコンテンツをつくり出したなら、別のＡＩでそれを判定する――フェイクをめぐる動きは、すでにその段階に入っているようだ。

●グーグルのＡＩを利用

「ディープフェイクス」の問題は、テックメディア「マザーボード」が中心となり、昨年末からウオッチし続けている。

それによると、「ディープフェイクス」が当初、フェイクポルノの発信源としていたのは、ネット掲示板「レディット」。

フェイクポルノの作成に使ったのは、グーグルがオープンソースで公開している機械学習のためのライブラリ「テンソルフロー」などのＡＩの機能と、グーグルの画像検索、ユーチューブなど。

収集した有名女優の顔の画像とポルノ動画でＡＩを訓練した上で、フェイクポルノを自在に生成できるようにした、という。

これにより、映画『ワンダーウーマン』の主演女優、ガル・ガドット氏や、『ゴースト・イン・ザ・シェル』などで主演を務めたスカーレット・ヨハンソン氏、歌手のテイラー・スウィフト氏らの合成動画を作成し、公開していたようだ。

さらに「レディット」のユーザーの一人が、この「ディープフェイクス」のアルゴリズムを使い、専門知識がなくてもフェイクポルノがつくれる、というアプリ「フェイクアップ」を公開。

フェイクアプリが一気に拡散の動きを見せた、という。

その被害者は、著名人は言うに及ばず、中には知人やクラスメート、さらには元交際相手のフェイクポルノをつくる動きも見られたようだ。

しかも、それを仮想通貨によって販売する事態となっていた、という。

●ネットサービスからの排除が始まる

２月初めには、カナダに本拠をおく大手ポルノサイト「ポルンハブ」が「ディープフェイクス」について、利用規約違反だとして、削除を始める。

さらに、ツイッターも関連アカウントの停止を表明する。

「ディープフェイクス」の震源地であり、温床となっていながら、動きの鈍かったレディットも、２月７日に関連ページを閉鎖した。

排除の動きが広がる中で、「ディープフェイクス」のユーザーたちは、独自サイトを立て始める。

ただこの中には、閲覧者のパソコンのＣＰＵを仮想通貨の「採掘（マイニング）」に使うという、「コインハイブ」と呼ばれるサービスのジャバスクリプトを埋め込んでいるものもあるようだ。

アクセスすると、ユーザーの知らぬ間に、マイニングをさせられていることになる。

●ニコラス・ケイジ氏のフェイク動画

「ディープフェイクス」によるフェイク動画は、ポルノにとどまらない。

ヒラリー・クリントン氏やドイツ首相のアンゲラ・メルケル氏の動画に、ドナルド・トランプ氏の顔を貼り付けたものも、出回っている。

また、映画俳優のアレック・ボールドウィン氏が「サタデー・ナイト・ライブ」で披露したトランプ氏のものまねに、トランプ氏本人の顔を貼り付けるといった、手の込んだものもある。

さらに、出演作が多いことで知られる映画俳優のニコラス・ケイジ氏の顔を、実際には出演していない『インディー・ジョーンズ』や『バットマン vs スーパーマン』など様々な映画に貼り付けたり、登場人物をすべてケイジ氏の顔にしたり、といった動画が次々にネットに投稿されている状態だ。

●ＡＩが探知する

「ディープフェイクス」のアップロード先となり、利用規約に違反しているとして、真っ先に削除に動いたのがＧＩＦ共有サイト「ジフィーキャット」だった。

当初は、ユーザーの申告をもとに削除を行っていたというが、さらに取り組みを進めた。それが、ＡＩによる「ディープフェイクス」のチェックだ。

「ワイアード」によると、ジフィーキャットが使うＡＩは２種類。

「マル」と名付けたＡＩは、ＧＩＦ動画の中の人物の顔を認識し、タグをつける。もう一つの「アンゴラ」と名付けたＡＩは、ＧＩＦ動画のソースとおぼしき高精細の動画をネットから探し出す。ソース動画と、チェック対象の動画の顔が違っていれば、それはフェイクとして排除される。

ただ、この検証作業は、有名女優など参照できる画像が豊富な場合は機能するが、リベンジポルノのような、一般の人々を素材としたフェイク動画の場合には、判定は難しい、という。

●ＡＩ対ＡＩ

ＡＩを、動画生成に活用する取り組みは、この数年で急速に進んでいる。

ＡＩを使い、オバマ大統領の自然な「口パク」動画を自動生成できた――。

ワシントン大学は２０１７年７月、そんな研究成果を発表している。

オバマ大統領の過去の講演などの音声ファイルをもとに、自然な口元の動きと表情でしゃべる新たなオバマ氏の動画を自動生成するという仕組みだ。

また、これに先立つ２０１６年３月に公開された「フェイス２フェイス」は、別人の表情を、ターゲットの動画とリアルタイムで合成することができる、というものだ。

マザーボードによると、この論文の筆頭筆者の独ミュンヘン工科大学のジャスタス・ティース氏は、やはり「ディープフェイク」のようなＡＩの悪用を探知するアルゴリズムの研究に取り組んでいる、という。

ＡＩ対ＡＩの行方は、まだ決着はついていない。

——–
■新刊『信じてはいけない　民主主義を壊すフェイクニュースの正体』（朝日新書）

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア　ソーシャル新時代の情報術』（拙訳）全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。