フェイスブックの「不用意なアルゴリズムの残酷さ」が心を深く傷つける(追記あり)

コメントする

12/27/2014 by kaztaira

アルゴリズムがユーザーを不安にさせるネットの『不気味の谷』」でアルゴリズムの不気味さを取り上げたばかりだが、実際に人の心を深く傷つけていたとは思わなかった。

フェイスブックが行っている、「今年のまとめ(Year in Review)」という1年間の投稿をまとめてグリーティングカードにするサービス。

そのサービスのプレビュー画面が、半年前に亡くなった娘の写真とともに繰り返し表示された、とウェブデザイナーのエリック・メイヤーさんがブログで明かしていた。

yir1

確かに、今のところアルゴリズムは、人の心までは理解できない。

●陽気な1年

メイヤーさんは、HTMLのデザイン仕様、カスケード・スタイルシート(CSS)に関する数々の著作もある第一人者として知られる。

そのメイヤーさんがクリスマスイブの24日、ブログに「不用意なアルゴリズムの残酷さ」と題した投稿をしていた。

今日の午後、私は悲しみを探しに行ったわけではないのに、いずれにしてもそれは向こうからやってきた。そのことについて、デザイナーやプログラマーたちに礼を言わなくては。この場合、そのデザイナーとプログラマーはフェイスブックのどこかにいるはずだ。

メイヤーさんは、そんな静かな怒りが感じられる書き出しで、ブログを綴っている。

「今年のまとめ」のプレビュー画面には、何パターンかの陽気なイラストの背景と、その年の投稿写真からアルゴリズムが選んだ1枚が表示される。

マーク・ザッカーバーグさんが公開している「今年のまとめ」はこんな感じだ。

●レベッカ・パープル

2013年8月、メイヤーさんの娘、レベッカさんに、脳腫瘍が見つかった。

メイヤーさんは以来、レベッカさんの闘病の経過を、ブログで報告し続けた。

そして今年6月7日、6歳の誕生日を迎えた日にレベッカさんは亡くなったという。

レベッカさんは、パープルがお気に入りだったという。

そこでネット上では、レベッカさんが好きだったパープルの、ウェブの色指定で使うコード(#663399)と、レベッカさんの愛称(Becca)を組み合わせたハッシュタグ(#663399becca)で、その死を悼むキャンペーンも展開されたという。

さらに、それだけにとどまらず、W3C(ワールド・ワイド・ウェブ・コンソーシアム)のCSS作業部会で、#663399の名称を「レベッカ・パープル」とすることが採択されたという。

yir2当初、その名前は愛称の方の「ベッカ」をとって、「ベッカ・パープル」とすることで検討されていたようだ。

だが、レベッカさん自身が亡くなる数週間前、6歳になれば、もうちゃんとした女の子だから、誕生日がきたら赤ちゃんっぽい「ベッカ」ではなく、みんなに「レベッカ」と呼んでほしい、と話していたという。

だから、「レベッカ・パープル」になったのだと。

●振り返りたくない年

フェイスブックの「今年のまとめ」の写真が意図的でないことは、メイヤーさんも理解しているという。

しかし、最愛の家族の死や、長期間の病院暮らし、あるいは離婚、失業、災害で痛手を被った我々のような人間たちは、今年1年を振り返りたいとは思っていないかもしれないのだ。

「今年のあなたはこんな感じ!」というフレーズとともに、賑やかなイラストの真ん中に、亡くなった娘の写真。それが繰り返し表示されるのは、「驚くとともに、胸の張り裂ける思いだ」とメイヤーさんは書いている。

アルゴリズムは本質的に無分別なものだ。

メイヤーさんはそう述べる。

そして、このアプリは幸せなユーザーだけを想定したデザインの失敗だ、と指摘する。

そこで、メイヤーさんは2つの改善点を提案している。

第1に、ユーザーが今年の写真を見たいということを確認するまでは、プレビューに示しないこと。第2に、このアプリをユーザーに押しつけるのではなく、アプリのプレビューを試したいかどうかを、シンプルに「イエス」か「ノー」かで尋ねること。もし「ノー」なら、あとで再び尋ねてもいいか、もう一切やめてほしいかを選んでもらうこと。

そして、最後にこう結んでいる。

もし私が、この業界でたった一つ修正することができるとすれば、それはこの点:「故障モード」「エッジケース」「最悪のシナリオ」についての、関心と心遣いを高めていくことだ。私自身もそうするつもりだ。

●フェイスブックが謝罪する

ワシントン・ポストによると、「今年のまとめ」アプリのプロダクトマネージャー、ジョナサン・ゲラーさんは、メイヤーさんに連絡を取り、個人的に謝罪をしたという。

そして、こうコメントしている。

(アプリは)多くの人に喜んでもらえたが、このケースでは明らかに、彼に喜びより悲しみをもたらすことになってしまった。

「今年のまとめ」の写真を選ぶ際のアルゴリズムは、その反響の数をもとにしていたのだ、という。

心遣いは、欠けていたようだ。

【追記】29日11:30AM

メイヤーさんは、このブログ投稿を自分の周囲の友人や同僚など200~300人に読んでもらえればいいと思っていたというが、ワシントン・ポストに取り上げられるなど、反響が予想外に大きかったようだ。

特にネット上で、フェイスブックに対する容赦ない批判が起きたことに動揺しているといい、こんなフォローアップの投稿をしている。

確かに、彼らのデザインは、私のような状況にいるユーザーの取り扱いに失敗した。しかしこれは彼らだけの問題ではない。このようなことはウェブのいたるところで、想像できる限りのあらゆるコンテクストで、常に起きている。「最悪のシナリオ」を考えるというのは、ウェブデザインが苦手とすることであり、通常は全く考慮すらされていない。私がフェイスブックの「今年のまとめ」を取り上げたのは、あくまで一例であって、より大きな問題についての議論の土台として、時宜を得たものだったからだ。

———————————–

※このブログは「ハフィントン・ポスト」にも転載されています。

Twitter:@kaztaira

『朝日新聞記者のネット情報活用術』

電子書籍版がキンドルiブックストア楽天koboなどで配信中

cover3

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト / 変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト / 変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト / 変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト / 変更 )

%s と連携中

アーカイブ

%d人のブロガーが「いいね」をつけました。