【Updated】「ディープフェイクス」の弱点をAIが見破り、そしてフェイクAI「ディープヌード」が新たな騒動を呼ぶ

コメントする

06/27/2019 by kaztaira

「ディープフェイクス」を見破る決め手はあるのか――。

米連邦議会で公聴会が開かれるなど、AIを使ったフェイク動画「ディープフェイクス」への注目が集まる中で、その防止策、排除策に関する議論が各メディアで改めて取り上げられている。

※参照:「ディープフェイクス」に米議会動く、ハードルはテクノロジー加速と政治分断(06/22/2019

映画などに転用できる「ディープフェイクス」生成のテクノロジー開発に比べて、資金の規模も限定されるという検出のテクノロジー開発。

だが、そんな中でも、AIを活用して「ディープフェイクス」の弱点を突き、見破る手法の研究が続けられている。

人間の目ではわからない「ディープフェイクス」の不自然さも、AIを使えば見分けることができる、という。

だが、フェイクのテクノロジーは派生を続け、着衣の女性の画像を全裸に変換する新種のAIアプリ「ディープヌード」も登場した。

その一方で、最先端のテクノロジー競争の構図にとらわれていると、問題の根本的な原因から目をそらすことになる、との指摘も出ている。

すなわち、テクノロジーが先端であろうがチープであろうが、騒動を引き起こすフェイクコンテンツこそ、ユーザーのエンゲージメントを最大化し、広告収入をもたらずという、ソーシャルメディアのビジネスそのものが抱える問題点だ、と。

●「弱点」を探す

ニューヨーク州立大学オルバニー校のルー・シウェイ(呂思偉)教授は6月26日、ネットメディア「カンバセーション」に、最新の研究成果を紹介する投稿を寄せている。

ルー氏の研究チームは、国防総省国防高等研究計画局による研究プロジェクト「メディアフォレンジクス」などからの資金を得て、これまでにも「ディープフェイクス」検出のためのAIテクノロジーを開発してきた。

まずルー氏らが着目したのは「まばたき」だった。

通常は1分間で17回程度行われるという「まばたき」が、”顔交換”の加工を行ったディープフェイクス動画にはうまく反映できていなかった。

このため研究チームは、AIを使ってまぶたの開閉を判定する仕組みをつくり出し、ディープフェイクスの判定に活用したという。

※参照:AIによる”フェイクポルノ”は選挙に影響を及ぼすか?(06/30/2018

だが、ディープフェイクスの生成テクノロジーも進化し、「まばたき」も取り込むことができるようになった、という。

そこでルー氏らが取り組んだのは、より人間の目では気づきにくい、微細な不自然さの特定だ。

●顔の方向と鼻の方向

リアルな動画であれば、人物の頭が向いている方向と、顔が向いている方向は、当然ながら一致する。

だがディープフェイクスで作成された動画は、そのような立体的な整合性ををとることが、うまくできていない、とルー氏は指摘する。

我々は画像の中で、鼻がどの方向を向いているかを計算するアルゴリズムをデザインした。このアルゴリズムは、顔の輪郭から頭が向いている方向も測定する。実在する人物のリアルな動画であれば、これらの結果は、すべて正確に一致するはずだ。だがディープフェイクスの場合は、しばしばそれらが一致しないのだ。

Siwei Lyu, CC BY-ND

「一人の人間が数十億人のデータや秘密をコトロールしている」。ザッカーバーグ氏がそんな発言をする話題のディープフェイクス動画にこのアルゴリズムを使ったところ、明確にフェイク判定をした、という。

※参照:フェイスブックはザッカーバーグ氏のフェイク動画を削除できない(06/12/2019

ルー氏の研究チームはさらに、ディープフェイクスに顔画像を流用されることを防止するためのテクノロジーも開発した、という。

顔の写っている画像に、人間の目には見えないノイズデータを埋め込むことで、AIがそれを人の顔だと認識できないようにすることができた、という。

ソーシャルメディアに顔の写った写真を投稿する際、このノイズデータを埋め込むことができるようにすれば、自分の顔がディープフェイクスに悪用されることを回避できる、とルー氏は述べている。

●「ディープヌード」 の登場

テックメディア「マザーボード」は27日、ディープフェイクスの新種ともいえるAIアプリ「ディープヌード」が登場したと報じている。

「マザーボード」はディープフェイクス問題を2017年に最初に取り上げ、問題を提起してきたメディアだ。

「マザーボード」によれば、「ディープヌード」は女性の画像のみに対応。ディープフェイクスと同様の敵対的生成ネットワーク(GAN)を使い、衣服を着ていても、全裸の状態の画像に変換できるという。

無料版では変換後の画像にウォーターマークが入るが、50ドルの有料版ではそれを消すことができるという。また、画像の左上には「フェイク」のラベルが表示されるが、画像加工ソフトで容易に消去できる、という。

ただ、「マザーボード」の報道を受けて「ディープヌード」にアクセスと批判が集中。運営者は報道の翌日、27日に「ディープヌード」の公開を取りやめる、とツイッターで表明した。

●「AI対AI」の落とし穴

ディープフェイクスをめぐる「AI対AI」のテクノロジー軍拡競争はどこまでいくのか――。

そんな懸念に対して、ライターのオスカー・シュワルツ氏は、英ガーディアンの記事で、こう指摘する。

ディープフェイクスをテクノロジーの問題と位置付けることによって、シリコンバレー企業がフェイクニュースと共生関係にあることの責任を回避させてしまうのだ。

シュワルツ氏は、ディープフェイクスが「最先端のテクノロジーによる脅威」と語られる一方で、現実に拡散したコンテンツは必ずしもそうとは言えないと述べる。

その一例に挙げるのが、5月に拡散した「酩酊状態」のように見える民主党の下院議長、ナンシー・ペロシ氏の改変動画だ。

作成したのはニューヨーク・ブロンクス居住で、トランプ大統領を支持するスポーツブロガー、ショーン・ブルックス氏。再生速度を落とすなど、決して最先端とは言えない手法で加工された動画だったため、”チープフェイクス”とも呼ばれている。

このフェイク動画がこれだけ大規模に拡散した理由は、先端テクノロジーを使っていたからでも、ことさら目を引く映像だったからでもない。ソーシャルメディアのシニカルな体質そのものが原因なのだ。プラットフォームのビジネスが、エンゲージメントの時間を最大化し、広告収益をあげるモデルであるため、社会を分断する、ショッキングで、陰謀論めいたコンテンツが、ニュースフィードのトップに押し上げられるのだ。他のトロール(荒らし)と同様、ブルックス氏はこの力学を理解し、悪用することにたけていた、ということだ。

「AI対AI」の構図にとらわれていると、「シリコンバレーの巨大プラットフォームの根本的な問題」から目をそらされてしまい、2020年の米大統領選も2016年と同じことになってしまう、とシュワルツ氏は警告する。

すなわち、ソーシャルメディアのビジネスモデルそのものに切り込まない限り、AIがあろうがなかろうが、フェイクニュース発信者は同じことを繰り返す、との指摘だ。

●法規制の動き

ディープフェイクスをめぐっては、2018年に問題化して以降、様々な法規制の動きも出ている。

ニューヨーク州議会では2018年5月、プライバシー保護などの観点から、ディープフェイクスの規制法案が提出されている。

また、連邦議会でも同種の法案が出ている。

共和党のベン・サッセ上院議員は、2018年12月にディープフェイクス規制法案を提出しているが、与野党対立による政府機関閉鎖の余波で、廃案となっている。

また、民主党のイベット・クラーク下院議員も2019年6月、ディープフェイクスの発信へのラベル付けを義務化する規制法案を提出している。

ただこの法案も、共同提案者はおらず、実効性にも疑問符がつけられている。

急速に進化するAIと、アテンションエコノミーを土台としたソーシャルメディアのビジネスモデル。

そのはざまに急浮上するディープフェイクス問題は、日増しにその存在感を高めている。


■最新刊『悪のAI論 あなたはここまで支配されている』(朝日新書、2月13日発売)

書影_1013_1
信じてはいけない_書影

■フェイクニュースの本当の怖さとは?『信じてはいけない 民主主義を壊すフェイクニュースの正体

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 804,468 ヒット
%d人のブロガーが「いいね」をつけました。