100億ドル国防クラウド:「AI倫理」騒動のグーグルは去り、アマゾン、マイクロソフトは邁進する

コメントする

10/28/2018 by kaztaira

米国防総省による人工知能(AI)搭載の国防クラウド「JEDI(ジェダイ)」への応札をめぐり、IT業界の不協和音が続いている。

100億ドル(1兆1200億円)規模といわれる大型調達で、アマゾンをはじめとしたIT大手の注目を集めてきた案件だが、AIを含む先端テクノロジーを軍事転用することに、社員からの反発の声があがっている。

13日には、マイクロソフトの有志グループが「ミディアム」に投稿。経営陣に対して、「JEDI」への応札中止を訴えた。17日には、アマゾン社員の匿名投稿も「ミディアム」に掲載。同社の顔認識AI「レコグニション」の警察への提供中止要求と合わせて、マイクロソフト有志の「JEDI」への異議表明に賛同している。

米IT業界では今春以来、AIの軍事転用をめぐって、経営陣と社員有志の対立が表面化。

その最初の舞台となったグーグルは、国防総省へのAIプロジェクト「メイブン」へのサービス契約更新を見送ることを表明。さらに今回の「JEDI」についても、応札期限を前に見送りを明らかした。

その一方で、この「JEDI」をめぐっては、「アマゾンありき」の”出来レース”ではないか、との疑惑も浮上。調達条件をめぐり、IBMやオラクルが異議申し立てを行う事態にもなっている。

●マイクロソフト有志の懸念

マイクロソフトへの公開書簡:軍事プロジェクト『JEDI』への応札中止を」と題した投稿は13日に、「マイクロソフト社員有志」名で「ミディアム」に掲載された。

この中で、社員有志はこう述べる。

多くのマイクロソフト社員は、自分たちのつくり出すものが戦争に利用されるべきではないと信じている。(中略)マイクロソフトが離脱すれば、別の会社がJEDIの契約を持っていくだけだ、という人々もいる。だが、我々は、その会社の社員たちにも、同じように離脱を求めていく。売り上げ競争に血道をあげるのは、倫理的な立場とはいえない。

マイクロソフト社員が、政府調達をめぐって声を上げるのは、これが初めてではない。

6月にはトランプ政権による「不法移民の親子引き離し」を巡り、同社が取り締まりにあたる国土安全保障省の移民税関執行局(ICE)にクラウドサービス「アジュール」を提供している点が問題化。

100人を超すマイクロソフトの社員が、サティア・ナデラCEO宛の公開質問状を社内掲示板に投稿した。

※参照:「テクノロジーで人権侵害に加担するな」社員の抗議、グーグルからマイクロソフト、アマゾンに拡大(06/23/2018)

今回の公開書簡では、「JEDI」への応札がマイクロソフトの倫理的な問題をさらに悪化させるとして、こう要求している。

マイクロソフトよ、「JEDI」への応札を止めよ。

その3日後の17日、今度はアマゾンの匿名社員が、同じ「ミディアム」に「私はアマゾン社員です。アマゾンは顔認識テクノロジーを警察に売るべきではない」と題した投稿を掲載した。

アマゾンでは、同社の画像認識AI「レコグニション」を警察に提供していることが問題化。

5月には米自由人権協会(ACLU)など41の人権保護団体が、アマゾンCEOのジェフ・ベゾス氏に対して、「レコグニション」の政府への提供をやめるよう求める公開書簡を送付。

そして、6月にはアマゾンの社員有志が、「我々の会社は、監視ビジネスに関わるべきではない」などとするベゾスCEO宛ての抗議の書簡を、社内で公開していた

この問題では7月にも、自由人権協会の実験で、「レコグニション」が上下両院28人の議員の顔を犯罪者と誤認識し、しかも黒人議員らの誤認識の割合が高かったという結果が公表され、その「バイアス」にも懸念が集まっていた。

※参照:AIと「バイアス」:顔認識に高まる批判(09/01/2018)
※参照:「顔認識で監視」「アレクサが会話を盗み聞き」アマゾンAIに相次ぐ懸念(05/26/2018)

今回の「ミディアム」への匿名投稿では、ベゾス氏宛ての抗議書簡が、450人の社員の署名を集めていると指摘。

アマゾンのような企業は、抑圧的な監視を促進するようなビジネスに手を染めるべきではない。今も、この先も。

さらに、マイクロソフト社員の動きを受けて、こう述べている。

我々の動きは、「メイブン」に対して声を上げたグーグル社員たち、そして「JEDI」の契約に声を上げたマイクロソフト社員たちに続くものだ。軍事に対してどのような見解を持っているかにかかわらず、軍事における「攻撃力の向上」から利益を上げることは、誰であってもすべきではない。我々は、米国であれ他国であれ、人々を迫害したり、殺害したりするためのテクノロジーをひそかにつくりあげるようなことはしない。

●国防クラウド「JEDI」とは

渦中のプロジェクト「防衛基盤共同事業(JEDI)」の概要が明らかにされたのは今年3月の、企業向けの説明会

この中で、国防総省最高管理責任者(CMO)のジョン・ギブソン氏は、こう述べている。

この計画は、国防総省の攻撃力の向上と兵士たちに最高のリソースを提供するためのものだ。

国防総省の現行システムは、ユーザー340万人、使用端末400万台、1700カ所のデータセンター、500のクラウドサービス。これを、単一ベンダーのクラウドに統合し、AIを搭載。リアルタイムのデータ解析に対応する。それがJEDIクラウドだ。

7月に入札募集要項の最終版が公開。その総額は100億ドル規模と見られている。

契約は当初2年だが、契約延長により最大10年の予定だ。

ギブソン氏の「攻撃力の向上」という説明が、この「JEDI」が戦闘行為に直結するシステムであることを示している。

この点を、応札撤退の理由としたのが、グーグルだ。

●グーグルが撤退する

グーグルは8日、12日に迫った「JEDI」契約の応札からの撤退表明している。

声明の中で、グーグルが撤退の第1の理由としてあげたのが同社の「AI原則」だった。

第1の理由は、この契約が我々の「AI原則」に合致しない可能性があったこと。第2の理由は契約の一部に、我々が現在得ている政府認証レベルの範囲外のものが含まれていたことです。

グーグルは、マイクロソフトやアマゾンを巻き込んだ、AIの軍事転用・監視利用への反対運動の発火点となった。

きっかけは、国防総省のAI化推進プロジェクト「メイブン」の契約をめぐる社内騒動だ。

グーグルと国防総省は昨年9月、「プロジェクト・メイブン」の一環として、ドローンの映像解析に同社のAI基盤「テンソルフロー」を提供する契約を締結した。

だが、今年3月にギズモードの報道によってこれが明らかになると、グーグルの社是とされてきた「邪悪にならない」に反するとして4000人を超す反対署名、数十人の退職者を出す事態となった。

結局、グーグルは6月1日、2019年3月に期限が切れるこの契約について、更新をしないと表明

さらに、翌週の7日には、スンダー・ピチャイCEOが同社のAI倫理に関するガイドライン「AI原則」を発表する。

この中で、「AIは社会に有益な目的」で使われるべきであり、グーグルは「人々に危害を与える目的の兵器」「国際規範に反する監視目的の技術」などにはAIを使わない、と宣言している。

※参照:「軍事」と「邪悪」:グーグルがAIの軍用提供を中止する理由(06/02/2018)

「JEDI」がAIを搭載し、国防総省CMOのギブソン氏が明らかにしたように「攻撃力の向上」を担う以上、確かに兵器利用禁止を宣言したグーグルの「AI原則」とは相いれない。

そして、撤退の第2の理由にあげた「政府認証レベル」は、グーグルが政府調達を広げる上で、解決しなければならない課題だった。

ギズモードの報道によれば、グーグルが「プロジェクト・メイブン」を受注した背景には、政府のデータを扱うための「政府認証レベル」の底上げの足掛かりという側面があった。

実際に、「メイブン」契約から半年後の今年3月、グーグルは連邦政府共通のクラウドセキュリティ認証「連邦政府リスク・認証管理プログラム(FedRamp)」で”中級レベル”の認証を獲得したことを発表している

ただ国防総省はJEDIの応札条件として、FedRampに上乗せする形で国防情報システム局(DISA)が独自に定めるクラウドコンピューティングのセキュリティ要求ガイドラインのインパクトレベル5(IL5)以上の認証を必要としている。

この認証は、落札後の一定期間内に達成すればよいとされているが、ビジネス・インサイダーよれば、アマゾンがレベル6、マイクロソフトなど他の競合社がレベル5を取得しているのに対し、グーグルは現状でレベル2までしか取得しておらず、「サイバーセキュリティが撤退の理由だろう」との専門家の見方を紹介している。

●「アマゾンありき」の疑念

社員たちの懸念の声とは裏腹に、アマゾンとマイクロソフトは、「JEDI」獲得に邁進する。

アマゾンCEOのジェフ・ベゾス氏は、10月15日に行われた「ワイアード」25周年のイベントで、国防総省との契約について、こう述べている

大手IT企業が国防総省に背を向けてしまえば、この国は困ったことになる。我々は国防総省を支え続けていくつもりだし、そうすべきだと思う。

マイクロソフト社長のブラッド・スミス氏は26日にブログを公開。その中で、国防総省とは40年来の関係があり、JEDIへの応札もその一環だと説明している。

AIや拡張現実(AR)その他のテクノロジーは、兵器が自律的に動く能力を獲得する、といった新しい、極めて重要な問題を提起している。これらの問題について政府関係者と議論した際、世界のいかなる軍隊も、機械が戦争を引き起こすことを望んではいないことを理解した。だが、テクノロジーについて最も知識のあるIT業界の人間がこの議論から撤退してしまえば、この新たな進展に、的確に取り組むことは期待できなくなってしまうだろう。

そして、ベゾス氏と同様、国防総省との関係を維持していく、と表明している。

メディアでは、「JEDI」受注の本命はアマゾン、対抗馬はマイクロソフトで、この両社の一騎打ちとの見立てが大勢だ。

アマゾンはすでに、米中央情報局(FBI)のクラウド受注の実績もある。

だがそれだけではなく、国防総省が決めた「JEDI」の仕様が「アマゾンありき」なのでは、との指摘もある。

ヴァニティフェアの報道によれば、応札条件には、「商用クラウドですでに20億ドル以上の売り上げがある」「データセンターは互いに150マイル以上離れている」など、アマゾンを想定したかのような項目がある、という。

そしてベソス氏は、ワシントン・ポストのオーナーとして、トランプ大統領とは反目しつつも、ジェームズ・マチス国防長官には激しい食い込みを見せていた、とも指摘する。

同様の疑念は、アマゾンの競合社も持っているようだ。

IBMは応札期限2日前の10日、JEDIの条件が不透明だとして、米政府監査院(GAO)に異議申し立てを行った

IBMは、「JEDI」が単一ベンダーによる「シングルクラウド」の仕様としている点を、フレキシブルな構成を求めるグローバルな趨勢からかけ離れている、と指摘。さらに、いくつかの要求項目は、「特定のベンダーの内部プロセスを反映しているか、そうでなければ不必要な要求だ」などとしている。

同様の異議申し立ては、オラクルも8月に行っている

●AI倫理と国防予算

AI開発の倫理と、巨額な国防予算をめぐるビジネス。そのせめぎ合いが注目を集めてきたこの問題。

そこに、国防総省の調達の透明性への疑念も絡み、さらに複雑な様相になっている。

落札業者の発表は2019年春の予定だ。

——–
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)

「信じてはいけない」書影帯あり

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。

広告

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 737,377 ヒット
%d人のブロガーが「いいね」をつけました。