三つの「スカイネット」が示すAIリスク社会―『悪のAI論』序章公開

コメントする

02/11/2019 by kaztaira

当ブログの筆者による最新刊『悪のAI論 あなたはここまで支配されている』(朝日新書)が2月13日に刊行されるのに合わせて、「序章」と「目次」を公開します。

IMG_1184 (2)

「AI社会」の到来は、「AIリスク社会」の到来でもあります。

AIのもたらすメリットの一方で、その実装の仕方次第、使い方次第では、様々な分野で大きなリスクをもたらす可能性が明らかになっています。

監視、偏見・差別、安全保障、セキュリティ――

そのリスクへの懸念の声は、人権擁護グループ研究者だけでなく、AI開発の中心であるマイクロソフトグーグルといったIT企業からも上がっています。

AIをめぐって今、何が起きているのか。「AIリスク」とは何か。

『悪のAI論』の「序章」では、SF映画「ターミネーター」にも登場したAI「スカイネット」などをキーワードに、現状を概観しています。

また2月26日(火)夜には、「AIリスク社会を生き抜くリテラシー」と題したトークイベントも予定しています。

『悪のAI論』発売記念イベント、イメージ画像

慶應義塾大学理工学部教授で『人工知能と社会 2025年の未来予想』共著者の栗原聡さん、ジャーナリスト/メディア・アクティビスト、早稲田大学文学学術院教授で『情報戦争を生き抜く』著者の津田大介さん、慶應義塾大学法科大学院教授で『おそろしいビッグデータ』著者の山本龍彦さんと筆者の4人が登壇します。


悪のAI論 あなたはここまで支配されている

序章 三つの「スカイネット」の影

アーノルド・シュワルツェネッガー主演のSF映画「ターミネーター」が描く2029年の未来には、アンドロイド軍団によって人類を壊滅させようとする人工知能(AI)「スカイネット」が登場する。

だが、現実世界にある二つの「スカイネット」は、もっと目立たない形で、人間を見つめている。

■ ■ ■

「私はジャーナリストだ。テロリストではない」

アフマド・ザイダン氏は2015年5月、自らの署名記事の中で、そう抗議の声を上げた

中東・カタールのメディア「アルジャジーラ」のパキスタン・イスラマバード支局長だったザイダン氏はこの時、世界の注目を集める存在となっていた。

米国の情報機関である国家安全保障局(NSA)が、ザイダン氏を「アルカイダのメンバーであり、ムスリム同胞団のメンバー」と認定していたことが明らかになったためだ。

米中央情報局(CIA)の元職員、エドワード・スノーデン氏が暴露した大量の秘密文書の中に、「スカイネット」と名付けられたシステムの説明文書があった。

「スカイネット」は、AIを使ったNSAのシステムだ。5500万人のパキスタン人の携帯電話のメタデータ(通信・通話記録)をAIで分析し、テロリストの連絡係をあぶり出す。暴露文書にはそう説明されていた。

そして文書の中には、その疑いが最も高い人物として、ザイダン氏が写真とともに掲載されていたのだ。

パキスタンでは、米国の無人攻撃機、ドローンによるテロリスト掃討が続いていた。NSAによるテロリスト認定は、そのドローン攻撃の標的となる可能性を示す。

しかも、NSA長官、CIA長官を歴任したマイケル・ヘイデン氏は、2014年のシンポジウムでこう公言しているのだ。

「我々はメタデータに基づいて対象を殺害する」

「スカイネット」はその照準を、ザイダン氏に合わせていた。

■ ■ ■

中国全土に1億台を超す監視カメラが設置され、警察官らがネットにつながったカメラ付きメガネ「スマートグラス」を着用する。

そしてAIによる顔認識技術を使い、リアルタイムで”ブラックリスト”のデータベースと照合して、逃亡中の犯罪の容疑者らを即座に逮捕する。

中国で展開されるAIを使った大規模監視ネットワークもまた、「スカイネット(天網)」と呼ばれている。

8億人を超す世界最大のネット人口のビッグデータを武器に、2030年に世界最先端のAI大国を目指す。

その中国でAIは、監視社会の象徴としても目を光らせている。

■ ■ ■

海外のアダルト動画サイトの画面には、日本で知られた芸能人の名前も並ぶ。

ポルノ動画だが、その顔は女優や歌手といったセレブリティ。AIを使った「ディープフェイクス」と呼ばれるフェイクポルノだ。

「最先端のセレブのポルノをつくったよ」

2017年秋、米国の掲示板サイト「レディット」で、そんな書き込みをしている人物がいた。

この人物は「ディープフェイクス」と名乗っていた。

「ディープフェイクス」の投稿のタイトルには、ハリウッドの有名女優らの名前が次々と並ぶ。

映画「ワンダーウーマン」の主演女優「ガル・ガドット」。「ハリー・ポッター」の「エマ・ワトソン」。「ゴースト・イン・ザ・シェル」の「スカーレット・ヨハンソン」。ドラマ「ゲーム・オブ・スローンズ」の「メイジー・ウィリアムズ」。

投稿には赤い文字で「職場での閲覧注意」の警告マークがついている。

それらのリンクの先には、画像共有サイトなどに投稿された30秒~1分程度のハードコアポルノ動画があった。

ポルノ動画に映し出されているのは、いずれも投稿のタイトルにある有名女優たちのように見える。

だがそれは、女優たちの出演作品の一場面などではなかった。

「ディープフェイクス」はこれらのポルノ動画を「つくった」のだという。

ポルノ動画の女優たちの顔を、有名女優の顔に差し替えて、あたかも有名女優たちがポルノに出演しているかのような新たなフェイク動画をつくりだしたのだ、と。

そこで利用されていたのが、オープンソースのAIのツールだった。

ポルノ女優による動画と、有名女優の顔の画像をAIに学習させ、それぞれの特徴を抽出した上で、顔を差し替える――。

2018年1月になると、このフェイク動画づくりの一連の作業を、専門知識がなくても簡単にできるパソコン用アプリ「フェイクアップ」が登場する。

元動画からのAIへの学習、さらにフェイク動画の作成を、それぞれボタン一つでできる手軽さ。フェイク動画「ディープフェイクス」は一気に拡散し、それとともに、リベンジポルノにも使われるなど、社会問題化し、法規制の議論にまで発展していく。

■ ■ ■

人間には思い込みや偏見がある。だがAIの判断ならば、早くて正確で中立――。

ソフトバンクなど、日本の企業でも採用に取り入れられ始めたAIには、そんな期待がかかっている。だがロイターは、米ネット通販大手のアマゾンが、人材採用のためのAI開発を断念した、と報じた

その理由は、AIが「女性嫌い」だったからだ。

過去10年間の履歴書をAIに学習させたところ、その大半が男性のものだったため、男性を優位に評価し、略歴に「女性」に関連する単語があるだけで評価を下げてしまった、という。

AIにも、ぬぐいがたい偏見や差別が入り込んでいた。

■ ■ ■

あなたは喫煙者か。飲酒はするか。交際相手はいるか――これらは7割前後の確率でわかる。

キリスト教徒かイスラム教徒か。民主党支持か共和党支持か。ゲイかレズビアンか――8割前後の確率でわかる。さらに性別、そして白人か黒人か、なら9割以上の確率でわかる。

フェイスブックで「いいね!」とクリックした履歴データをたどり、AIで分析していくと、そんなことまで予測できてしまう――。

英ケンブリッジ大学の研究チームによるそんな調査結果が、2013年4月の「米国科学アカデミー紀要(PNAS)」に発表された。

これと似た手法で、9000万人近いフェイスブックユーザーのデータを収集し、AIで分析した結果を、2016年の米大統領選挙でトランプ陣営の選挙戦に使ったとされるのが、選挙コンサルティング会社「ケンブリッジ・アナリティカ」だ。

フェイスブックのビッグデータとAI。それがトランプ政権を生んだのか――。

そんな疑念が広がり、フェイスブックの創業者で最高経営責任者(CEO)、マーク・ザッカーバーグ氏は上下両院の公聴会への出席を余儀なくされ、100人の議員から10時間にわたって質問を浴びせられる事態となった。

■ ■ ■

AI社会がやってきた。お掃除ロボットから囲碁や将棋のソフト、医療診断の支援まで。暮らしの様々な場面で、AIを使ったサービスが広がり始めている。

そもそもAIとは何か?

知的なマシン、特に知的なコンピュータープログラムをつくる科学と工学のこと。人間の知能を理解するためにコンピューターを使う、同様の取り組みと関係がある。だがAIを、生物学的に観測可能な方法論に限定する必要はない。

50年以上前に「人工知能(AI)」という言葉を生み出した第一人者、故ジョン・マッカーシー氏は、そんな風にAIを定義している

まるで人間のような「知能」を感じさせる、賢いコンピューターの実現。

AI研究は、1950年代の黎明期、80年代の高まりに続いて、2010年代に入ると、画像処理プロセッサー(GPU)を活用した深層学習(ディープラーニング)が飛躍的に進歩し、改めて脚光を浴びる。

AIが急速に社会に普及していき、恩恵を受ける一方で、それが人間に不幸をもたらすのでは、という懸念も消えない。

「ターミネーター」の「スカイネット」のように人類を壊滅させる――そんなAIの脅威は、今のところは起きていない。

ただ、日常の風景を、時に不気味な色合いに変化させる「事件」を、次々と目にするようになってきた。

あなたが将来、犯罪をおかす可能性を予言するAI。あなたを監視するAI、そして差別するAI。ヒトラーを肯定するAI。夫婦の会話を盗み聞きするAI。死亡事故を起こすAI搭載の自動運転車。

法廷で、ソーシャルメディアで、家庭で、街中で。これらはすべて、すでに動き始めているAIだ。

AI社会をリードするのは、グーグルやアマゾンなどのITの巨大企業だ。その強力で安価なAIサービスが、国防システムや犯罪対策にも利用されている。

検索履歴、購買履歴、「いいね」の履歴。さらにはスマートスピーカーとの会話のやりとり。それらのデータを巨大IT企業が支配し、AIによって人々の趣味・嗜好などのプライバシーがむき出しにされていく。

2016年の米大統領選をめぐる「ケンブリッジ・アナリティカ」疑惑では、AIの判定が、民主主義の手続きにまで入り込んでしまった可能性すら指摘される。

欧州連合(EU)は2018年5月にプライバシーデータ保護を大幅に強化した新法「GDPR」を施行。そんなデータ支配への対策を鮮明にする。

現実社会の中に、AIはどのように浸透しているのか。グーグルやアマゾンのサービスの裏側で、AIのやっていることは何か。

そして私たちの社会は、そんなAIを人間に牙をむく、「邪悪」なものにしないよう、制御していくことができるのか。

SFの未来ではなく、すでに噴出し始めているAIをめぐるリアルな事件簿から、AI社会に開いた”落とし穴”の実像をさぐってみる。


[目次]

序章 三つの「スカイネット」の影
第1章 監視される――あなたはAIの目から逃げられない

最高のスコアだったのは/携帯電話の履歴を分析する/「テロリストのパターン」を洗い出す/「ターミネーター」が描いた世界/「テロリスト」認定の理由/私はジャーナリストだ/明白かつ差し迫った危険/メタデータで殺害する/キルリストから削除せよ/5度の空爆を生き延びる/命運を分けた判断/AIへの異議申し立て/中国の「スカイネット」/テイラー・スウィフトと顔認識/日本の顔認識システム/4万人から4人を逮捕する/300万台を超す監視カメラ/28人の議員を犯罪者と認識/アマゾン社員の反乱/1枚の画像から100人の顔認識/FBIの顔写真データベース/手軽さと低コストのインパクト/「親子引き離し」とマイクロソフト/アレクサの「盗み聞き」/会話の履歴を確かめる/悪意ある音声を送る/ビッグブラザーが見ている

第2章 差別される――就職試験もローン審査もAI次第?

「女性嫌い」で開発断念/AIが面接をする/ベビーシッターの身元調査/中国の「社会信用システム」/「より客観的に、適正に」/動き始める「信用スコア」/医大入試の女子差別/表示されるネット広告の違い/オプラもセリーナも「男性」/自分の顔が認識されない/黒人を「ゴリラ」と誤認識/「監視に使うな」とベンチャーCEO/「マイノリティ・リポート」の現実味/「再犯予測」の精度とは?/犯罪発生地域を予測する/音声誤認識で数千人ビザ取り消しか/スマートスピーカーの聞き取り格差/なまりから出身地を判定/データによって差別的になる/アルゴリズムへの違和感

第3章 殺される――米IT大手が軍事協力

テクノロジーと戦争の歴史/ドローンの群れが襲撃する/「キラーロボット」への懸念/動き出す自律型兵器/グーグルCEOへの手紙/米国防総省の「プロジェクト・メイブン」/「非攻撃用途の利用」/グーグルの「AI原則」/「邪悪になるな」の現在/100億ドル国防クラウド/応札を止めよ/撤退を表明した理由/防衛大綱に盛り込む/「パトリオット」の誤射/自動運転車が歩行者をはねる/360度の動きを見回す/ドライバーがしていたこと/マスク氏が動画をツイートする/テスラ車のドライバー死亡事故/中国では清掃車に追突/住民たちが襲う/トヨタとソフトバンクの提携/自動運転のレベル/完全自動運転への不安感/テスラ車をハッキングする/画像認識を騙す

第4章 騙される――あなたの「ポルノ」が作られる

ネット掲示板が発信源/アプリが登場し、拡散する/リベンジポルノの波紋/女性芸能人の裁判例/ジャーナリストを標的にする/安全保障と民主主義/政党がフェイク動画を使う/有力上院議員たちの指摘/法規制への動きと懸念/「トランプ大統領はクソだ」/AIが探知する/進化する画像合成/DARPAの対策プロジェクト/AIによる選挙キャンペーン/「マイクロターゲティング」を提供する/アプリを通じてデータ取得/ユーザーデータを分析する/フェイスブックからわかること/8兆円が消し飛ぶ/抱え続けたプライバシー問題/「デジタルゲリマンダー」の予言/「精度はよくなかった」/日本でも10万人

第5章 AIを「邪悪」にさせないために

ホーキング博士、最後の指摘/悲観論と楽観論/バイアスを可視化する/「笑顔」を見分ける/求められる「公平」とは何か?/修正の四つのオプション/「GDPR」が求める透明化/「人間中心のAI」7原則/EUの「AI倫理」/「開発は最大限自由に」/オバマ政権の報告書/「救命優先順位」から見える日本/文化的背景とユニバーサルな倫理/倫理綱領よりスキャンダル/国連で議論する「キラーロボット」/『一九八四年』だと気付く前に/アルゴリズムを監査する/現実の差別から目をそらすな

終章「21世紀の電気」の使い方

——–
■最新刊『悪のAI論 あなたはここまで支配されている』(朝日新書、2月13日発売)

書影_1013_1

信じてはいけない_書影

■フェイクニュースの本当の怖さとは?『信じてはいけない 民主主義を壊すフェイクニュースの正体

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 839,195 ヒット
%d人のブロガーが「いいね」をつけました。