Facebookが「社会を悪くする」のを止めるために必要な、これだけのこと
10/08/2021 by kaztaira
世界最大のソーシャルメディア、フェイスブックが「社会を悪くする」のを止めるために必要なことは何か――。
By Maurizio Pesce (CC BY 2.0)
フェイスブックの元プロダクトマネージャー、フランシス・ホーゲン氏による社内資料に基づく告発が、同社に対する世界的な批判を、新たなレベルに引き上げている。
ホーゲン氏は、フェイスブックの問題の元凶が、「いいね」やコメントなどの「エンゲージメントによるランキング」のアルゴリズムにある、と指摘。
ランキングの停止やアルゴリズムの透明化など、議会主導による規制強化を訴えた。
ホーゲン氏の主張は、プラットフォーム規制の先陣を切る欧州にも共鳴する。
すでにフェイスブックやグーグルに矛先を向けた規制法案のキーパーソンらは、ホーゲン氏と相次ぎ会談し、規制策の促進を掲げる。
フェイスブックへの十字砲火は、プラットフォームのビジネスモデル批判へと広がりつつある。
●「エンゲージメント」ランキングの危険性
フェイスブックは、私たちが会話の主導権を握ることを好まない。コンピューターで目にするコンテンツをフェイスブックが選べば、ユーザーはより多くの時間を過ごし、フェイスブックはより多くの収入が得られることを知っているからだ。
極端な反応を引き起こすコンテンツは、クリックやコメント、共有をされやすい。エンゲージメントによるランキングの危険性とは、フェイスブックもそれを承知しているという点にある。クリックやコメントや共有をしても、そのユーザーの利益になるわけでもない。だが、「いいね」やコメントや共有を獲得した人々は、より多くのコンテンツを作成するようになる、とフェイスブックは知っている。だからフェイスブックは、少しばかり友達にドーパミンを出させて、より多くのコンテンツを作らせるように、ニュースフィードの優先順位を決めているのです。
この小委員会での公聴会は、ウォールストリート・ジャーナルが9月に「フェイスブック・ファイルズ」として連続掲載した同社の内部資料に基づく調査報道を受けたものだった。
※参照：Facebookが抱えるコンテンツ削除のトラウマとは、著名人580万人「特別ルール」の裏側（09/15/2021 新聞紙学的）
※参照：反ワクチンが「コメント欄」に氾濫し、接種呼びかけを覆っていく（09/21/2021 新聞紙学的）
一連の調査報道の中でも、特に注目を集めたのが、フェイスブック傘下の画像共有ソーシャルメディア「インスタグラム」が、10代の少女たちのメンタルヘルスに悪影響を及ぼしていることを、社内調査で把握していた、という問題だ。
同紙によれば、フェイスブックの研究者は2020年3月、社内で共有したスライドで、「10代の少女の32％は、自分の体形に不満を感じている時にインスタグラムを見ると、さらに自己嫌悪感が強まると語っている」と説明していた。
これが引き金となって、ホーゲン氏の証言の5日前、9月30日には、同じ上院小委員会で「ネット上で子どもを守る：フェイスブック、インスタグラムとメンタルヘルスの害」と題した公聴会で、証言に立ったフェイスブックの安全対策責任者、アンディゴニー・デイビス氏が集中砲火を浴びることとなった。
そして10月3日、米CBSの看板報道番組「60ミニッツ」に、ウォールストリート・ジャーナルへの情報提供を行った内部告発者としてホーゲン氏が登場。さらに舞台は2日後の上院公聴会に移った。
●「安全より利益」
フェイスブックのプロダクトは、子どもたちに害を及ぼし、分断をあおり、民主主義を弱体化させる。私はそう考え、今日、この場にいます。同社の経営陣は、フェイスブックとインスタグラムをより安全にする方法を知りながら、そのための修正を行おうとしない。人々のことより、莫大な利益を優先したからです。議会の行動が必要です。議会の助けがなければ、フェイスブックはこの危機を解決できない。
ホーゲン氏は公聴会で、フェイスブックの「利益優先」の姿勢を批判。さらに、議会が何をなすべきか、その処方箋まで示した。
時代遅れのプライバシー保護の微調整や通信品位法230条の修正では、不十分です。問題の核心は、フェイスブックの破壊的な選択について、その実態がわかるのはフェイスブックだけであり、外部からはそれ以上調べることが不可能だという点です。効果的な規制のための重要な出発点は透明性。フェイスブックの指図を受けない、研究のためのデータの全面開示です。その土台があって初めて、消費者被害、違法コンテンツ、データ保護、反競争的行為、アルゴリズム・システムに取り組むための、実効性のあるルールと基準を構築することができるのです。
ホーゲン氏が、問題の根幹と指摘した「エンゲージメントによるランキング」の弊害もまた、ウォールストリート・ジャーナルの一連の調査報道で、取り上げられていた。
その一つのきっかけになったのが、2018年1月の友達や家族による投稿の優先表示とニュースの排除へのアルゴリズムの変更だった。
「有意義なソーシャル交流（MSI、Meaningful Social Interactions）」と呼ぶ友達や家族との健康的なコミュニケーションを目指した、とするこの改修は、だが、分断と「怒り」のコンテンツの増幅を招く。
その影響は、ネット調査会社「ニュースホイップ」の2019年3月の報告でも明らかにされていたが、フェイスブック社内でも、同様の問題点を把握していたのだという。
※参照：フェイスブックがニュースを排除する：2018年、メディアのサバイバルプラン（その3）（01/13/2018 新聞紙学的）
※参照：フェイスブックが広げているのは「分断」と「怒り」だった（03/18/2019 新聞紙学的）
この「エンゲージメントによるランキング」の問題の解決策として、ホーゲン氏が挙げたのが、ユーザー投稿に対してプラットフォームの免責を定める通信品位法230条の改正だ。
適切な監督を行うか、あるいは通信品位法230条を改正して、意図的なランキング決定の結果についてフェイスブックに責任を負わせるようにすれば、エンゲージメントによるランキング機能は削除するだろうと思います。なぜなら、現に10代の子たちを拒食症コンテンツにさらし、家族を分断し、エチオピアなどでは民族紛争をあおっているのだから。
そして、それもまだ第一歩にすぎないとして、データ開示、アルゴリズムの透明性などの規制強化をするべきだ、というのがホーゲン氏の提言だ。
●フェイスブックの反論
ウォールストリート・ジャーナルの一連のスクープ、そしてホーゲン氏の告発に対して、「誤った決めつけ」などとしてフェイスブックは徹底抗戦の構えを見せている。
CEOのマーク・ザッカーバーグ氏も、公聴会の後、「多くの主張は、まったくナンセンスだ」などとする社内向けメモを、自身のフェイスブックページで公開した。
また、同社の公式声明も、「（ホーゲン氏は）首脳レベルの経営会議に出席したこともない」など、証言の信頼性への攻撃に重きが置かれている。
ただ、その結論は、奇妙にホーゲン氏の主張と一致する。
（ホーゲン氏の）証言への反論の一方で、当社も1点についてのみ同意する。インターネットのルールが更新されてから25年がたつ。そして、議員が果たすべき社会的判断を業界に期待するのではなく、今こそ議会が行動する時だ。
ここで言う25年を経た「ルール」とは、1996年に制定された通信品位法230条を指す。
ザッカーバーグ氏は2021年3月、アルファベット（グーグル）CEOのスンダー・ピチャイ氏、ツイッターCEOのジャック・ドーシー氏とともに米下院エネルギー・商務委員会のフェイクニュースに関するリモート公聴会に出席した。
この席でザッカーバーグ氏は、通信品位法230条改正について「議会に熟慮の上の改正を希望する」と踏み込んだ発言をし、改正に否定的なピチャイ氏、ドーシー氏らとは対照的な姿勢を鮮明にした。
※参照：ザッカーバーグ氏がフェイク対策で法規制を求めた―その理由とは？（03/26/2021 新聞紙学的）
だが議会側は、その発言を額面通りには受け取っていないようだ。
議員らからは、規制強化に対応できない競合の脱落を見越した「独占の地位固め」との冷めた反応が相次ぎ、今回もそのような指摘が出ている。
「230条改正では十分ではない」と、とさらにデータ公開、アルゴリズムの透明性の要求も掲げるホーゲン氏の指摘には、そんな背景もあるようだ。
2022年11月の米中間選挙を控え、議会もギアを上げる。公聴会を開催した小委員会委員長のリチャード・ブルメンソール氏も改選となる。
ブルメンソール氏はザッカーバーグ氏の反論を受けて、ツイッターの投稿でこう述べている。
セーリングから戻ってきたザッカーバーグ氏は、ようやく自らが巨大タバコ企業と同じ批判にさらされていることに気がついた――そして、彼が隠蔽しようとした破壊的な害悪について、自社の研究者が明らかにした文書を抑え込もうとしているのだ。
さらに、こう述べる。
もしザッカーバーグ氏が我々や内部告発者、その社内文書に異論があるというなら、ただちに我々の小委員会で証言すべきだ。今後数週間以内に、彼が公聴会の場に来ることを要請する、いや要求する。
●EUへの波紋
ホーゲン氏の告発は、米連邦議会だけでなく、フェイスブックなどのプラットフォームへの規制を強めるEU（欧州連合）にも反響を呼び起こす。
フェイスブックの元社員、フランシス・ホーゲン氏の話をうかがうのは興味深いことだった。この会談によって、テクノロジー企業に対する欧州の方向性が正しいものだと確信した。自主規制に任せるだけでなく、ルールを定め、プラットフォームに説明責任を果たさせる必要がある。
欧州連合の価値・透明性担当副委員長、ベラ・ヨウロバー氏は米上院公聴会の翌日、ホーゲン氏とのリモート会談の写真とともに、ツイッターでこう述べている。
私たちはプラットフォーム企業を、より開かれた、規制の監視のもとに置く。そのために、デジタルサービス法案、デジタル市場法案、欧州民主主義行動計画を策定した。そしてまもなく、ネット政治広告への規制法案も提出する。今こそ、デジタル業界が、欧州の価値を尊重すべき時だ。
欧州委員会は2020年12月、フェイクニュースなどをめぐるプラットフォームへの規制強化策として、政策パッケージの「欧州民主主義行動計画」、さらにコンテンツ管理に焦点を当てた「デジタルサービス法（DSA）」と、競争促進に焦点を当てた「デジタル市場法（DMA）」を相次いで発表。ネット上の政治広告規制策も検討している。
※参照：2021年、GAFAは「大きすぎて」目の敵にされる（12/18/2020 新聞紙学的）
ホーゲン氏の内部告発と提言は、EUにとって「渡りに船」のタイミングだ。
ホーゲン氏はこのほか、プラットフォーム規制を主導する欧州委員（域内市場担当）のティエリー・ブルトン氏らと相次いでリモート会談を行っている。
ブルトン氏もツイッターでこう述べる。
（ホーゲン氏との会談で）巨大テクノロジー企業を統制することの重要性と緊急性を改めて確信した。アルゴリズムの透明性の向上とデータへのアクセス、リスク軽減のためにも強力なデジタルサービス法、デジタル市場法が必要だ。
またホーゲン氏は、違法有害コンテンツ規制のための「オンライン安全法案」を審議中の英国議会にも、フェイスブックの内部資料を提供する予定だという。
「オンライン安全法案」合同委員会の委員長、ダミアン・コリンズ氏は英デイリー・ミラーなどへのコメントで、こう述べている。
フランシス・ホーゲン氏の主張の核心は、根本的な問題だ。フェイスブックは自社のプラットフォームにおける問題を十分に把握していたということ、そして、過激で物議をかもすコンテンツこそ、エンゲージメントをかき立てるということだ。これこそ彼らのビジネスであり、収入の源泉だ。
●構造的な問題と進退
今回の騒動は、巨大プラットフォーム、フェイスブックの抱える構造的な問題とトップの進退をめぐる議論にも発展している。
これらの問題を解決するには、ザッカーバーグ氏がCEOから退任する必要があるのだろうと思う。企業を創業者が主導することには多くのメリットもあるが、最大の問題は、企業文化を大きく変えることがほぼ不可能になる、という点だ。
フェイスブックの元最高セキュリティ責任者（CSO）で、スタンフォード大学インターネット観測所所長のアレックス・スタモス氏は、ニューヨーク・タイムズでのカーラ・スウィッシャー氏によるインタビューで、こう指摘している。
また、フェイスブックがコンテンツ規制についての諮問機関として設立し、「最高裁」とも呼ばれる監督委員会についても、今回の内部告発をきっかけに、「機能していない」との批判が再燃している。
※参照：トランプ氏停止は支持、だがFacebookは無責任と「最高裁」が言う（05/06/2021 新聞紙学的）
前述のコリンズ氏は、英デイリー・テレグラフのインタビューに、こう述べている。
監督委員会はフランシス・ホーゲン氏が公開した調査文書の閲覧権限もない。有害コンテンツからのユーザー保護よりエンゲージメント優先というフェイスブックの判断についても、委員会が調査をすることは認められていない。
焦点となった問題のいずれについても監督委員会は権限を持たず、「無力」だとの指摘だ。
今回の内部告発をきっかけに、プラットフォームへの規制強化の歯車が加速すれば、その影響はフェイスブックだけに止まらない。
フェイスブックに対する批判は、プラットフォーム全体へと広がりつつある。
■最新刊『悪のＡＩ論 あなたはここまで支配されている』（朝日新書、2019年２月発売）
■フェイクニュースの本当の怖さとは？『信じてはいけない 民主主義を壊すフェイクニュースの正体』
■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』（拙訳）全文公開中
新聞紙学的 