「テクノロジーで人権侵害に加担するな」社員の抗議、グーグルからマイクロソフト、アマゾンに拡大

コメントする

06/23/2018 by kaztaira

「テクノロジーの提供によって、人権侵害に加担するな」――米国のIT企業の現場から、そんな抗議の声が広がっている。

まず注目を集めたのは、グーグルによる人工知能(AI)の国防総省への提供問題だった。この問題では、4000人を超す社員の反対署名が集まり、10数人の社員が辞表を突きつけた。

そして、騒動は他社へも飛び火する。

3975895428_2e5d67614f_z

El Paso Wall by Jonathan McIntosh (CC BY 2.0)

マイクロソフトでは、トランプ政権による「不法移民の親子引き離し」を巡り、同社が取り締まり当局にクラウドサービスを提供している点が問題化。

さらにアマゾンでも、「顔認識AIの警察への提供」や「不法移民の親子引き離し」が批判の的となる事態に。

「テクノロジーと倫理」の議論が、急速に熱を帯びてきている。

●「不法移民の親子引き離し」とマイクロソフト

我々は、マイクロソフトが倫理基準を遵守し、利益よりも子どもたちや家族のことを優先するべきだと信じている。

そのため、マイクロソフトが米移民税関執行局(ICE)及び協力機関との契約を直ちに破棄することを求める。我々はさらに、マイクロソフト及びその委託先が国際人権法に違反するクライアントの業務を行わない、とする明確なポリシーを起草、公開、実施することを求める。

ニューヨーク・タイムズによれば、100人を超すマイクロソフトの社員が19日、サティア・ナデラCEO宛に、こんな書き出しの公開質問状を、社内掲示板に投稿した。

騒動の発端は、トランプ政権が4月に打ち出した不法入国者への訴追・収監を強める「ゼロトレランス(不寛容)政策」だ。

これにより、メキシコ国境で不法入国により拘束され、親と引き離された2000人以上の移民の子どもたちの実態が社会問題化。

元大統領夫人、ローラ・ブッシュ氏もワシントン・ポストへの寄稿で、懸念を表明する事態となっていた。

結局、トランプ大統領は6月20日、この「引き離し」を事実上撤回し、当面、親子を一緒に収容するとの大統領令に署名することになった。

この騒動の中で、不法移民の取り締まりにあたる国土安全保障省の移民税関執行局(ICE)とマイクロソフトとの契約に注目が集まった。

マイクロソフトは今年1月、公式ブログの中で、米国政府機関向けのクラウドサービス「アジュール・ガバメント」がICEに採用されていることを公表し、こう述べている。

アジュール・ガバメントによって、職員は端末側でデータを処理することも、ディープラーニングの機能を活用して顔認識や身元特定を加速することもできるようになります。

「ゼロトレランス政策」の文脈にあてはめると、マイクロソフトのクラウド及びAIが、ICEの不法移民対策に使われているようにも読める文面になっている。

社員による公開質問状によると、この契約額は1940万ドル(16億円)にのぼるという。

公開質問状の前日、今月18日に、マイクロソフトは公式ブログで、ICEとの契約についてこう説明している。

マイクロソフトは、国境における子どもたちの家族からの引き離しに関し、移民税関執行局(ICE)や(国土安全保障省のテロ・密輸対策担当)税関国境警備局(CBP)のいかなるプロジェクトにも協力していない。一部の臆測とは裏腹に、我々はアジュールやアジュール関連のサービスが、そのような目的に使われているかどうかすらわからない。マイクロソフトは一企業として、国境における子どもたちの家族からの強制的な引き離しについては、遺憾に思っている。

だが、社員たちは「十分な説明とは言えない。我々は、この非人間的な政策を積極的に執行するICEに対し、技術的なサポートを行っているのだ」と述べ、質問状の公開にいたったようだ。

ヴァージによると、マイクロソフト社員の質問状への署名はその後、300人を超した、という。

質問状には、このような一節もある。

強力なテクノロジーをつくる人々には、それが害悪ではなく、善良な目的で使われるように努める、重大な責任がある。テクノロジー業界では、そのことを理解する多くの人々によるムーブメントが拡大しつつあり、我々の質問状もその一環である。

●グーグルの「AI原則」

マイクロソフト社員の公開質問状が指摘する「ムーブメント」として注目を集めたのが、グーグル社内の動きだ。

※参照:「軍事」と「邪悪」:グーグルがAIの軍用提供を中止する理由

グーグルは昨年9月、国防総省のAI化推進プロジェクト「メイブン」の一環として、ドローンの映像解析に同社のAI基盤「テンソルフロー」を提供する契約を締結。

これが明らかになると、同社の社是とされてきた「邪悪にならない」に反するとして4000人を超す反対署名、数十人の退職者を出す事態となった。

結局、グーグルは6月1日、2019年に期限が切れるこの契約について、更新をしないと表明

さらに、翌週の7日には、スンダー・ピチャイCEOが同社の「AI原則」を発表する。

この中で、「AIは社会に有益な目的」で使われるべきであり、グーグルは「人々に危害を与える目的の兵器」「国際規範に反する監視目的の技術」などにはAIを使わない、と宣言している。

マイクロソフト社員の質問状にある「ムーブメント」の言及や、テクノロジーと人権に関する「ポリシー」の要求は、まさにグーグルでの動きと一致する。

公開質問状を受けて、ナデラCEOは20日、「リンクトイン」に社員向けの声明を公開。その中で、自らも移民であるナデラ氏は、「引き離し政策」については「残酷で虐待的であり、我々はその変更を支持する」とし、マイクロソフトは、そのような政策に協力していない、と改めて主張した。

我々の移民税関執行局(ICE)へのクラウドの提供は、従来型のメール、カレンダー、メッセージ、文書管理の業務にとどまる。
(中略)
いかなる政府機関との取り組みも、これまでも、これからも、我々の倫理とポリシーに従って行われる。

●「顔認識AIの警察への提供」とアマゾン

「テクのロジーと倫理」をめぐるこのような「ムーブメント」は、アマゾンでも起きていた。

我々の会社は、監視ビジネスに関わるべきではない;我々は治安ビジネスに関わるべきではない;我々は社会から疎外された人々を監視し、抑圧する勢力を支援するビジネスに関わるべきではない。

ギズモードによれば、アマゾンの社員有志によるジェフ・ベゾスCEO宛のこんな書簡が、社内に流れている、という。

アマゾンをめぐっては、米自由人権協会(ACLU)など41の人権保護団体が5月22日、ジェフ・ベゾス氏に対して、同社の画像認識AI「レコグニション」の政府への提供をやめるよう求める公開書簡を送っている

公開書簡は、「レコグニション」が「(顔認識という)危険な監視機能を政府に提供している」と指摘する。

ACLUの調査では、「レコグニション」の提供についてアマゾンはすでに2017年、オレゴン州ワシントン郡保安官事務所やフロリダ州オーランド市と契約したことが明らかになっている。

※参照:「顔認識で監視」「アレクサが会話を盗み聞き」アマゾンAIに相次ぐ懸念

社員有志のベゾス氏宛書簡が要求しているのは、まずこの「レコグニション」の警察など法執行機関への提供の停止だ。

「レコグニション」をめぐるACLUなどの指摘に対しては、アマゾンのクラウドサービス「AWS」のAI担当ゼネラル・マネージャー、マット・ウッド氏が6月1日付の公式ブログの中で、こう反論している

有望な新テクノロジーを禁止するというアプローチは間違っていると、我々は信じている。そのようなテクノロジーはいずれ、悪者たちによって、悪用されるかもしれないからだ。もしコンピューターの購入を規制していたなら、世界は随分と違った風景になっていただろう。コンピューターを悪用することも可能だったのだから。私たちが毎日使っている数千ものテクノロジーについても、同じことが言えるだろう。適切な利用を通じて、その便益はリスクをはるかに上回ってきたのだ。

だが、「レコグニション」の「顔認識による監視」への懸念は人権保護団体にとどまらず、投資家にも広がっている。

ニューヨーク・タイムズによれば、アマゾンの株主である19の投資機関は6月15日、ベゾス氏に対し「レコグニション」などの監視機能の政府機関などへの提供を直ちに停止することなど求める書簡を送っている

また、社員有志の書簡では、これとは別に、「引き離し政策」関連の要求も出している。

書簡では、ICEの移民規制に関わっているとされるビッグデータ企業「パランティール・テクノロジーズ」が、アマゾンのAWSを利用していると指摘。

「引き離し政策」に加担しないために、「パランティール」へのAWSの提供を停止するよう求めている。

「パランティール」は、トランプ大統領支持で知られる投資家、ピーター・ティール氏らが2003年に設立したことで知られる。

●「世界をよりよい場所にする」

グーグルの社是だった「邪悪にならない」。このモットーを宣言した2004年の株式公開時の「創業者からの手紙」には、その後に、もう一つの有名なモットーが記されている。「世界をよりよい場所にする」だ。

これは、シリコンバレーを舞台にしたHBOのコメディ-ドラマ「シリコンバレー」のギャグにもなった、業界のマントラでもある。

※参照:グーグルの新会社「アルファベット」発表文に〝隠しリンク〟、そのわけは?

60年代のカウンターカルチャーと、コンピューターカルチャーが混ざり合い、「情報はフリーになりたがる」とうたった、シリコンバレーの価値観。

「テクノロジーと倫理」をめぐる議論には、そんな文化的背景も、色濃くあるように見える。

——–
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)

「信じてはいけない」書影帯あり

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 729,575 ヒット
%d人のブロガーが「いいね」をつけました。