AI対AIの行方:AIで氾濫させるフェイクポルノは、AIで排除できるのか

コメントする

02/24/2018 by kaztaira

AI(人工知能)のプログラムを使い、有名映画女優の顔をポルノ動画と合成するフェイクポルノの騒動が収まらない。

deepfakes_pornhub_mosaic_reverse_cut

当初は「ディープフェイクス」と名乗る人物が、個人で作成していたが、そのアプリが公開されたことで、ネット上に氾濫。今や「ディープフェイクス」は、このフェイクポルノの代名詞となっている。

合成に使われる顔写真は、有名映画女優ばかりでなく、知人やクラスメートのケースも出ており、合成動画の売買も行われている、という。

騒動を受け、「ディープフェイクス」の発信源となっていた大手のネット掲示板「レディット」やポルノ共有サイト「ポルンハブ」などは排除に乗り出す。

そして、この「ディープフェイクス」のアップロード先の一つ、GIF動画共有サイト「ジフィーキャット」では、自社のもつAI技術で、AIによるフェイクポルノを検知する取り組みを始めている、という。

AIを使った合成動画の自動生成は、すでに様々な研究成果が公開されている

※参照:2030年、AIはフェイクニュースをどれだけ進化させるのか?

だが、それが悪用された場合の対処は?

AIがフェイクコンテンツをつくり出したなら、別のAIでそれを判定する――フェイクをめぐる動きは、すでにその段階に入っているようだ。

●グーグルのAIを利用

「ディープフェイクス」の問題は、テックメディア「マザーボード」が中心となり昨年末からウオッチし続けている

それによると、「ディープフェイクス」が当初、フェイクポルノの発信源としていたのは、ネット掲示板「レディット」。

フェイクポルノの作成に使ったのは、グーグルがオープンソースで公開している機械学習のためのライブラリ「テンソルフロー」などのAIの機能と、グーグルの画像検索、ユーチューブなど。

収集した有名女優の顔の画像とポルノ動画でAIを訓練した上で、フェイクポルノを自在に生成できるようにした、という。

これにより、映画『ワンダーウーマン』の主演女優、ガル・ガドット氏や、『ゴースト・イン・ザ・シェル』などで主演を務めたスカーレット・ヨハンソン氏、歌手のテイラー・スウィフト氏らの合成動画を作成し、公開していたようだ。

さらに「レディット」のユーザーの一人が、この「ディープフェイクス」のアルゴリズムを使い、専門知識がなくてもフェイクポルノがつくれる、というアプリ「フェイクアップ」を公開

フェイクアプリが一気に拡散の動きを見せた、という。

mosaic_deepfakes

その被害者は、著名人は言うに及ばず、中には知人やクラスメート、さらには元交際相手のフェイクポルノをつくる動きも見られたようだ。

しかも、それを仮想通貨によって販売する事態となっていた、という。

●ネットサービスからの排除が始まる

2月初めには、カナダに本拠をおく大手ポルノサイト「ポルンハブ」が「ディープフェイクス」について、利用規約違反だとして、削除を始める。

emma_watson_removed_mosaic

さらに、ツイッターも関連アカウントの停止を表明する。

「ディープフェイクス」の震源地であり、温床となっていながら、動きの鈍かったレディットも、2月7日に関連ページを閉鎖した

reddit_deepfakes_shutdown

排除の動きが広がる中で、「ディープフェイクス」のユーザーたちは、独自サイトを立て始める。

ただこの中には、閲覧者のパソコンのCPUを仮想通貨の「採掘(マイニング)」に使うという、「コインハイブ」と呼ばれるサービスのジャバスクリプトを埋め込んでいるものもあるようだ

アクセスすると、ユーザーの知らぬ間に、マイニングをさせられていることになる。

●ニコラス・ケイジ氏のフェイク動画

「ディープフェイクス」によるフェイク動画は、ポルノにとどまらない。

ヒラリー・クリントン氏やドイツ首相のアンゲラ・メルケル氏の動画に、ドナルド・トランプ氏の顔を貼り付けたものも、出回っている。

また、映画俳優のアレック・ボールドウィン氏が「サタデー・ナイト・ライブ」で披露したトランプ氏のものまねに、トランプ氏本人の顔を貼り付けるといった、手の込んだものもある。

さらに、出演作が多いことで知られる映画俳優のニコラス・ケイジ氏の顔を、実際には出演していない『インディー・ジョーンズや『バットマン vs スーパーマンなど様々な映画に貼り付けたり、登場人物をすべてケイジ氏の顔にしたり、といった動画が次々にネットに投稿されている状態だ。

●AIが探知する

「ディープフェイクス」のアップロード先となり、利用規約に違反しているとして、真っ先に削除に動いたのがGIF共有サイト「ジフィーキャット」だった。

当初は、ユーザーの申告をもとに削除を行っていたというが、さらに取り組みを進めた。それが、AIによる「ディープフェイクス」のチェックだ。

「ワイアード」によると、ジフィーキャットが使うAIは2種類。

「マル」と名付けたAIは、GIF動画の中の人物の顔を認識し、タグをつける。もう一つの「アンゴラ」と名付けたAIは、GIF動画のソースとおぼしき高精細の動画をネットから探し出す。ソース動画と、チェック対象の動画の顔が違っていれば、それはフェイクとして排除される。

ただ、この検証作業は、有名女優など参照できる画像が豊富な場合は機能するが、リベンジポルノのような、一般の人々を素材としたフェイク動画の場合には、判定は難しい、という。

●AI対AI

AIを、動画生成に活用する取り組みは、この数年で急速に進んでいる。

AIを使い、オバマ大統領の自然な「口パク」動画を自動生成できた――。

ワシントン大学は2017年7月、そんな研究成果を発表している。

オバマ大統領の過去の講演などの音声ファイルをもとに、自然な口元の動きと表情でしゃべる新たなオバマ氏の動画を自動生成するという仕組みだ。

また、これに先立つ2016年3月に公開された「フェイス2フェイス」は、別人の表情を、ターゲットの動画とリアルタイムで合成することができる、というものだ。

マザーボードによると、この論文の筆頭筆者の独ミュンヘン工科大学のジャスタス・ティース氏は、やはり「ディープフェイク」のようなAIの悪用を探知するアルゴリズムの研究に取り組んでいる、という。

AI対AIの行方は、まだ決着はついていない。

——–
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)

「信じてはいけない」書影帯あり

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

w

%s と連携中

アーカイブ

ブログ統計情報

  • 682,820 ヒット
%d人のブロガーが「いいね」をつけました。