偽装メディアの「編集長」はAIが合成、ダマされたのはユーザーだけではなかった

コメントする

09/03/2020 by kaztaira

編集長はAI(人工知能)が自動生成したフェイク顔。フェイスブックが削除した偽装メディアの背後には「フェイクニュース工場」の存在が――。

フェイスブックツイッターは9月1日、メディアを偽装したロシアの「フェイクニュース工場」が、米大統領選への介入工作をしていたとして、ページやアカウント削除などの対策を取ったと発表した。

47578595221_ee0d9b356a_k

By francois karm (CC BY 2.0)

前回の米大統領選で、ソーシャルメディアを舞台としたフェイクニュース拡散の拠点となったロシアの「フェイクニュース工場」。2020年の米大統領選終盤戦の今、その介入の動きが再び浮上してきた。

社会を分断するようなテーマに狙いを絞り、標的としたグループに忍び寄って、混乱のタネをまく。

特に全米が人種差別問題で揺れている中で、急進左派グループの取り込みに狙いを定め、新興左派メディアを偽装して、浸透を図ったようだ。

●端緒はFBIによる情報提供

当社は13のフェイスブック・アカウントと、2つのフェイスブック・ページからなる小規模なネットワークを削除した。それらはロシアのインターネット・リサーチ・エージェンシー(IRA)による過去の活動に関与した人物たちにつながっていた。

フェイスブックは9月1日、外国政府などによる介入工作などの組織的不正行為に関する月次レポートの中で、ロシアの「インターネット・リサーチ・エージェンシー」の名前を挙げて、そう指摘した。

この「小規模なネットワーク」の正体は、2016年の米大統領選で、フェイクニュース拡散による介入の中心的な役割を担った「インターネット・リサーチ・エージェンシー」の、情報工作の一端だったようだ。

ツイッターも同日、関連する5つのアカウントを削除したことを明らかにしている。

「インターネット・リサーチ・エージェンシー」は、「プーチンの料理人」の異名を持つロシアの実業家、エフゲニー・プリゴジン氏の傘下企業。

つまり今回もまた、ロシアの介入の動きが表面化した、ということだ。しかも表面化の端緒は、米連邦捜査局(FBI)による情報提供だったという。

※参照:ロシアの「フェイクニュース工場」は米大統領選にどう介入したのか(02/18/2018 新聞紙学的

その介入の拠点は、偽装メディアにあった。

●AIフェイク顔の非実在編集長

舞台となったのは、「ピースデータ」と名乗る“メディアサイト”だ。

ピースデータはグローバルなニュース組織です。我々が目指すのはグローバルな問題に光を当て、汚職、環境機器、権力濫用、武力紛争、アクティビズム、そして人権への関心を呼び起こすことです。通常は表面化せず、一般市民からは隠蔽されている。そんなニュースを我々は報道していきます。

サイト紹介には、そう書かれている。さらに、チェコ在住の米国人で英語版編集長“ジェイク・サリバン”氏ら編集部スタッフのプロフィールが、顔写真付きで紹介されている。

だが、フェイスブックのレポートによれば、この顔写真は「敵対的生成ネットワーク(GAN)」と呼ばれるAIのアルゴリズムを使って自動生成された、実在しない人物のものだという。

この偽装メディアの実態を、ソーシャルメディア調査会社の「グラフィカ」が、フェイスブックからデータ提供を受けて、「IRAふたたび:不吉な13のアカウント」と題した報告書にまとめている。

それによると「データピース」は2019年末に立ち上がり、アラビア語と英語によるニュース形式のコンテンツを配信してきた。

そして、“ジェイク・サリバン”氏ら「データピース」のスタッフはそれぞれ、フェイスブックやツイッター、リンクトインなどのアカウントも開設していた。

だが、それぞれの顔写真を「グラフィカ」が調査したところ、“ジェイク・サリバン”氏ら少なくとも6人はGANを使って自動生成したものであることが判明した、という。

眼鏡のフレームの形が左右で違っているなど、GANの自動生成に見られる不自然な特徴があったという。

それだけでなく、それぞれのスタッフのフェイスブック上の「友達」にも、ネット上のストック写真を使ったフェイクアカウントが確認できた、という。

フェイスブック、ツイッター、リンクトインといった複数のプラットフォームにフェイクアカウントをつくり、「フェイク友達」を配置することで、信憑性を演出したようだ。

そして、その狙いは「ピースデータ」へのユーザーの誘導と、メディアとしての浸透だったと見られている。

●実在ライター200人を集める

ただ、この偽装メディアでの工作に関わったのは、AI顔の非実在スタッフだけではなかった。

若手からベテランまで、実在のジャーナリストたちも、この偽装メディアで仕事をしていたのだ、という。

ワシントン・ポストによると、偽装メディアからロシアの工作とは知らぬままに仕事の依頼を受けたジャーナリストは200人ほどにものぼる、という。

当初は他のメディアのコンテンツを再編集するようなコンテンツがメインだったようだ。だがネット上の求人サイトなども使い、ライターを集めて独自コンテンツを発信するようになっていった。

その1人がニューヨーク・タイムズのインタビューに答えている。

それによると、記事は1本75ドル(約8,000円)と安かったが、テーマは指定されず、原稿が添削されることもほとんどなかった、という。このライターが書いたのは、民主党内大統領候補のジョー・バイデン前副大統領が、同党の先進的価値観を体現できるのか、といった批判的な視点の内容だったという。

また、ガーディアンも若手とベテラン、4人の実在のジャーナリストにインタビューしている。

それによると、4人は「ピースデータ」の“編集者”からツイッターやリンクトイン、メールなどで原稿依頼を受けた、という。また、ベテランのジャーナリストは記事1本250ドル(約2万7,000円)前払いという好条件で原稿を依頼された、という。

若手2人は最近、リストラされたばかりだった。新型コロナウイルス禍の中で、米メディアなどでは急速にリストラが進んでいる。

どのジャーナリストも、「ピースデータ」が「インターネット・リサーチ・エージェンシー」の工作である、ということは、報道やメディアからの問い合わせで初めて知った、という。

「グラフィカ」が「ピースデータ」の取り上げたテーマを分析したところ、最も多かった英語のコンテンツは「武力紛争」(180本)、次いで「人権」(83本)、「権力濫用」(73本)、「汚職」(64本)、「環境」(58本)の順だったという。

「ピースデータ」の描く米国は否定的なイメージで、いわば「海外では戦争の亡者で無法者、国内は人種差別、新型コロナそして苛烈な資本主義でガタガタ」――「グラフィカ」の報告書はそう指摘する。

この「ピースデータ」の工作について、ニューヨーク・タイムズはロシアによる「情報ロンダリング」の一環だと位置づける。情報の出どころを、より目立たぬ形にカムフラージュし、フェイクニュースを浸透させ、知らぬ間に社会の分断を押し広げる。

報告書をまとめた「グラフィカ」の調査ディレクター、ベン・ニモ氏はニューヨーク・タイムズにこう述べている。

ロシアは隠蔽をより入念に行っている。隠蔽工作を何重にも重ねるようになっているのだ。

●ロシアの存在感

「インターネット・リサーチ・エージェンシー」は2018年2月、ロシア疑惑の調査にあたったロバート・ムラー特別検察官により、実質的なオーナーのエフゲニー・プリゴジン氏や同社幹部ら合わせて13人が米連邦地裁に起訴されている

だが、プリゴジン氏らはロシアにおり、「インターネット・リサーチ・エージェンシー」はその後も活動を続けている。

今回の米大統領選でも、ロシアは存在感を示している。その発信の拠点の一つとしていたのが、アフリカだ。

フェイスブックは2020年3月、ガーナとナイジェリアを拠点とするフェイクアカウントやページなど、インスタグラムを含め203件を削除した、と発表している。

背後には「インターネット・リサーチ・エージェンシー」の存在があり、フェイクニュースの標的は米国だった、とフェイスブックは指摘している。

※参照:ロシア発のフェイクニュースがアフリカからやってくる(03/13/2020 新聞紙学的

さらに米情報機関からも、警告が発せられていた。

米国家情報長官室(ODNI)傘下の国家防諜安全保障センター(NCSC)ディレクターのウィリアム・エバニナ氏は8月7日、大統領選への脅威についての声明を発表

その中で、中国とイランはトランプ氏の再選に否定的と評価する一方、ロシアはバイデン氏攻撃を展開していると評価していた。

つまり、ロシアは今回もトランプ氏支援の姿勢だという評価だ。

米国の情報機関を束ねる国家情報長官室は前回大統領選後の2017年1月、ロシアがフェイクニュースなどを使って大統領選への介入工作を行い、民主党公認候補だったヒラリー・クリントン氏を中傷し、トランプ氏当選の後押しをした、との報告書をまとめている。

※参照:サイバー攻撃と偽ニュース:ロシアによる米大統領選妨害は、いかに行われたのか?(01/07/2017 新聞紙学的

AIを使ったフェイク顔のプロフィールを使うという手法は、すでにフェイスブックが2019年12月に検知し、削除の取り組みをしている。

だが、この時にフェイスブックが名指ししたのは、中国政府批判とトランプ氏支持の立場を取る米国のメディア企業「エポック・メディア・グループ」との関わりだった。

※参照:AIが自動生成、大量の「フェイク顔」がトランプ氏を支持する(12/27/2019 新聞紙学的

今回、この手法を「インターネット・リサーチ・エージェンシー」も援用した、ということのようだ。

●広がらなかった影響力

ただ、「ピースデータ」を舞台とした介入工作は、さほどの広がりは獲得できなかったようだ。

8月27日までで、同サイトのフェイスブックページの「いいね」の数は、アラビア語版は1万4,000だったが、英語版はわずか198だった。

2016年の大統領選で「インターネット・リサーチ・エージェンシー」がフェイスブックに掲載した広告を見ると、「いいね」は多いもので数万から数十万単位。

今回、削除されたケースとは比べるべくもない。

※参照:米社会分断に狙い、ロシア製3500件のフェイスブック広告からわかること(05/14/2018 新聞紙学的

ユーザー集めの初期段階で工作が表面化し、削除された、ということのようだ。

「ピースデータ」は今回の削除について、「フェイスブックとFBIが連携した挑発的なたくらみの犠牲になった」と主張。その一方で、サイト紹介から編集長以下、スタッフのプロフィールをすべて削除した。

フェイスブックのセキュリティ政策の責任者、ナタニエル・グレイシャー氏は、ガーディアンのインタビューにこう述べている。

(介入工作の)仕掛け人たちは隘路にはまり込んでいる。大規模ネットワークを展開すればすぐに露見する。かといって小規模なネットワークではリーチは限られてしまう。

「グラフィカ」のベン・ニモ氏は、ニューヨーク・タイムズにこう話している。

今回のケースは「インターネット・リサーチ・エージェンシー」が粘り強く、適応力もある、ということを示している。しかしまた、ユーザーの獲得が以前よりもはるかに難しくなっていることも明らかになった。

むしろ、今回の大統領選では、米国内発の陰謀論や人種差別と、それらを背景にした暴力扇動が大きな注目を集めている。

※「Facebookの運営上のミス」3人死傷の銃撃事件でザッカーバーグ氏が認めた失敗とは?(08/30/2020 新聞紙学的

※Facebook、Twitterが排除する「危険な」陰謀論はどこまで広がっているのか?(08/21/2020 新聞紙学的

介入するまでもなく、米国社会の分断は大きく広がっている。


■最新刊『悪のAI論 あなたはここまで支配されている』(朝日新書、2019年2月発売)

書影_1013_1

信じてはいけない_書影

■フェイクニュースの本当の怖さとは?『信じてはいけない 民主主義を壊すフェイクニュースの正体

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 907,547 ヒット
%d人のブロガーが「いいね」をつけました。