2030年、AIはフェイクニュースをどれだけ進化させるのか?

コメントする

07/22/2017 by kaztaira

フェイクニュースへの関心が高まるとともに、ファクトチェックからメディアリテラシーの普及まで、その対策も様々なレベルで進んでいる。

ただ、人工知能(AI)などのテクノロジーの進化も加速している。

AIによるフェイクニュースの特定に期待が寄せられる一方、AIを使うことでフェイクニュースが高度化し、ますます判別しづらくなる可能性も高い。

2030年という近未来、フェイクニュースはどのように進化しているのか?

メディアサイト「ニーマンラボ」の副編集長、ローラ・ハザード・オーエン氏が、そんなテーマで、フェイクニュースをめぐるこのところの動きをまとめている

●オバマ前大統領の「口パク」を操る

「ニーマンラボ」が紹介する記事の中で、AIとフェイクニュースの進化を最も感じさせるのは、オバマ前大統領の「口パク(リップシンク)」動画だ。

ワシントン大学の研究チームが11日に発表したところによると、音声ファイルをもとに、オバマ前大統領に自在に「口パク」をさせる動画が生成できるのだという。

有名人の「口パク」動画は、パロディーの定番でもあり、雑なものならネットでいくらでも見ることはできる。また、専門的な研究でも、同種の先行事例はある

ただこのチームの動画は、ちょっと見ただけでは、おそらくリアルなものと区別がつかない。

研究チームは、オバマ氏の8年間の任期中に行われた、定例演説の17時間(約200万コマ)分の動画を使用

これをもとに、AIのリカレント(回帰型)ニューラルネットワークに、音声と口の動きの結びつきを学習させた。

2030fake4

その結果、音声ファイルをもとに、オバマ氏が「口パク」する動画を、自在に生成することができるようになった、という。

オバマ氏の最近の音声だけでなく、四半世紀前の若い頃の音声や、オバマ氏の物まねをする別人の音声でも、「口パク」動画は生成できたという。

さらに、音声の内容をかいつまんだり、順序を入れ替えたりしても、「口パク」はできるのだという。

つまり、悪意をもってこのテクノロジーを使えば、極めてリアルなフェイクニュースの動画をつくり出すことができる可能性があるのだ。

この研究は、コンピューターグラフィックスの国際会議「シーグラフ2017」で8月2日にプレゼンが行われる、という。

●ウィキペディアの未来予測

クラウドソースによるネット百科事典「ウィキペディア」が、2030年の近未来に向けて、高度化するフェイクニュースやプロパガンダにどう対処していくか。

そんなテーマに取り組むプロジェクトもスタートしている。

ウィキペディアは、広く知られるように、常にデマやプロパガンダの書き込みとのせめぎ合いを続けながら、ネットの集合知を積み重ねてきた。

プロジェクトでは、AIなどのテクノロジーの発展などとともに、高度化していくこれらの”攻撃”について、「コンテンツ」と「アクセス」に分け、「テクノロジー」「政府・政治」「コマース」の3分野での影響を予測している。

2030fake0

例えば、テクノロジーについては、ヴァニティー・フェアのライター、ニック・ビルトン氏のこんな言葉を引用している。

音声や動画のテクノロジーは、極めて洗練されてきており、例えば現実のテレビ放送やラジオインタビューといったリアルニュースを、これまでにないような、判別不能な形で偽造することが可能になるだろう。

オバマ氏の「口パク」動画のテクノロジーなど、まさにその現在進行形だ。

このほかにも、ウェアラブル端末や、仮想現実(VR)などの没入型コンテンツ、「アマゾンエコー」のような音声操作端末など、フェイクニュースが入り込む余地は、様々に指摘される。

そして、政府レベルのプロパガンダや情報統制の高度化の危険性についても、取り上げている。

2016年の米大統領選を巡っては、サイバー攻撃とフェイクニュースの拡散を通じたロシア政府による介入があった、と米国政府は指摘している。

※参照:サイバー攻撃と偽ニュース:ロシアによる米大統領選妨害は、いかに行われたのか?
※参照:デマニュースはロシアのプロパガンダか、カネのなる木か

政府・政治における潮流の一つが、意図的な誤情報、虚偽情報、あるいはプロパガンダの拡散だ。この種の情報操作は、情報のエコシステム全体を脆弱にし、ネット上の情報全体の信頼性に疑問を投げかけるようなカルチャーをつくり出してしまうかもしれない。これは、ウィキペディアにおける情報源、さらにはコンテンツの信頼性に影響を及ぼす可能性がある。今まさに行われている、誤った情報を特定し、抑制するための世界的なバトルは、今後15年以上にわたる情報環境を形作っていくだろう。

カギとなるのは、ファクトチェックだ。

ここでは、ウィキペディアのクラウドソースのモデルを取り込んだ、「ユビキタス・ファクトチェック」というアイディアを示している。

新たなイノベーションのレベルでは、ウィキペディアのコンテンツをカギとなる情報源として活用することも視野に入れた、「ユビキタス・ファクトチェック」というソリューションも考えておきたい。例えば、NPOの「ハイポセシス」では、ウェブ上に、ユーザーがコンテンツにコンテクストを付け加えられる、アノテーションの作成が可能なレイヤーを提供する、オープンなプラットフォームを開発中だ。また、”ビッグデータ”を活用することで、社会的な議論に文脈を与えることもできる。例えば、誤情報に関わっている政治組織の間の金の流れに関するデータの活用など。

●フェイスブックの機能制限

フェイスブックは、フェイクニュース対策として、フェイスブックページの機能制限を打ち出している

フェイスブックページでは、コンテンツへのリンクを含む投稿を作成する場合、見出しと画像などで構成される内容のサマリー「オープングラフ(OGP)」のプレビューが表示され、その内容を編集することができる。

ところが、フェイクニュースを排除するため、フェイスブックが認定したメディアなどによるページ以外では、このOGPの編集機能を削除するのだという。

すでに7月18日からこの機能削除は始まっているという(ただ、日本語のページでは、なお編集することは可能なので、まず英語圏からの適用なのかもしれない)。

これがどんなフェイクニュース対策になるのか?

例えば、OGPでは既存メディアのロゴなどでリアルなニュースを偽装しながら、リンク先のフェイクニュースサイトに誘導する、というようなケースが該当するだろう。

フェイスブックCEOのマーク・ザッカーバーグ氏をめぐって昨年11月、似たような事例があった。

米大統領選でのトランプ氏当選の後、フェイクニュース氾濫の責任を問う批判を浴びていたザッカーバーグ氏は、自身のフェイクブックページで、フェイクニュース対策の内容を発表した。

ところが、その隣に掲載されていた二つの広告が、いずれもフェイクニュースにリンクしていた、という”事件”があった。それぞれ、タイガー・ウッズ氏の写真とスポーツ専門チャンネル「ESPN」のアドレス、トランプ氏の写真と「CNN」のロゴ、という組み合わせで、リアルニュースへのリンクのような体裁をとっていた。

これを明らかにしたのは、ツイッターの共同創業者で「ミディアム」CEOのエヴァン・ウィリアムズ氏だった

2030fake6

OGPの機能制限には、そんな当事者感覚も反映されているのかもしれない。

●フェイク画像の間違い探し

ワシントン・ポストは、細工を施したフェイク画像が見破れるかどうか、というクイズを出題している。

2030fake5

フェイクの内容があまりに微細で、かなり難易度は高いが、リアルとフェイクの判別の難しさを体感できる。

——–
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)6月13日発売。

「信じてはいけない」書影帯あり

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト / 変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト / 変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト / 変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト / 変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 601,644 ヒット
%d人のブロガーが「いいね」をつけました。