「AI判定で収容所送り、1週間で1.6万人」暴露された中国監視ネットの実態

コメントする

11/28/2019 by kaztaira

AIを使って1週間で2万人超の”不審者”を特定、約1万6,000人を収容所送りに――。

中国政府が新疆ウイグル自治区で、イスラム教徒の少数民族、ウイグル族を大規模なAIネットワークで常時監視し、大量に拘束している実態が、国際調査報道ジャーナリスト連合(ICIJ)が公開した内部文書で明らかにされた

AI、IoT、ビッグデータなど、先端のテクノロジーを駆使した中国の監視ネットワークの存在は、これまでも断片的に報じられてきた。

今回暴露された中国政府の内部文書には、この監視ネットワークと、ウイグル族の収容所(職業教育訓練センター)への収容とを結びつける内容も含まれていた。

AIが広範な監視ネットワークとして使われると何が起きるのか?

監視社会の未来を描いたSFは、すでに目の前にある――それを実例として示す内部文書だ。

ICIJの提携メディアの一つ、英ガーディアンの取材に対して、中国政府は「いわゆる収容所は存在しない。職業教育訓練センターはテロ対策として設立されたものだ」「いわゆる漏洩文書というものは全くのねつ造でありフェイクニュースだ」との声明を出している

●監視ネットワーク「IJOP」

ICIJが公開したのは4件の監視ネットワークに関する文書と、収容所の運営に関する1件の文書だ。

4件の文書が扱っているのが、「一体化統合作戦プラットフォーム(IJOP)」と呼ばれるAI監視ネットワークに関する報告だ。

IJOPについては、人権擁護団体「ヒューマン・ライツ・ウォッチ(HRW)」が2018年2月にその存在を明らかにしている。

それによると、IJOPはAIによる顔認識機能や、夜間撮影機能のついた監視カメラの映像、無線LAN経由によるスマートフォンやパソコンの識別アドレス取得、さらに自動車のプレートナンバーや、市民IDカードのナンバーなどを統合した巨大な監視システム。

この中には、自動車の所有者情報、健康情報、家族情報、銀行情報、法定記録なども含まれているという。

また、地域の警察当局はあらゆる不審者情報などもIJOPに報告することになっているようだ。

これらの情報を基に、テロにつながるとみられる不審な動きをAIによって予測・検知し、対応する――IJOPはそのための監視システムとして運用。特に、新疆ウイグル自治区における「テロリスト・犯罪グループ」摘発の名目で、このIJOPが使われている、という。

HRWは2019年5月にも、IJOPと連携した警官用のスマートフォンアプリを解析。AIによる顔認識を含む、「疑わしい住民」に関するデータの表示や入力を行うための機能が搭載されていることを明らかにした。

※参照:監視カメラ・スマホアプリで追跡、中国「AI監視社会」のリアル(05/03/2019

●1週間で1.6万人を拘束

今回、ICIJが明らかにしたIJOPの4つの文書のうち、2017年6月25日付のものには、このような記述がある。

6月19日から25日までに、新疆南部4地区の“一体化プラットフォーム(IJOP)”は郡と市当局に対して、2万4,412人の疑わしい人物についての通告を行った。このうち1万6,354人はカシュガル(喀什)、3,282人はホータン(和田)、2,596人がケズホウ(クズルス・キルギス自治州)、2,380人がアクス(阿克蘇)。これをもとに検証と処理を行った結果、706人は犯罪者として勾留。このうち542人はホータン、85人はケズホウ、79人はアクスだった。1万5,683人は職業教育訓練センターに送致した。このうち1万1,165人はカシュガル、2,475人はホータン、737人はケズホウ、1,306人はアクスだった。2,096人は予防のための監視下に置いた。このうち825人はケズホウ、1,033人はカシュガル、290人はアクス。5,508人については今のところ、拘束はできていない。このうち4,156人はカシュガル、825人はケズホウ、290人はアクス、237人はホータンだった。

つまり、わずか1週間で、2万4,000人超の“疑わしい人物”をAI監視ネットワークが検出し、このうち706人は逮捕、1万5,683人は「職業教育訓練センター」と呼ばれる収容所に送り込まれたことを示している。

さらに、その4日後の2017年6月29日付の文書には、北京のベンチャーが開発した「カイヤ(快牙、英語名Zapya)」というスマートフォンのファイル共有アプリの名前が出てくる。

この「カイヤ」はインターネット接続がないエリアでも、ピア・トゥ・ピア(P2P)でファイル共有ができることから、イスラム教徒であるウイグル族の間で、聖典「コーラン」の共有に利用されている、として摘発の矛先を向けたようだ

暴力的なテロリストと過激派分子が“カイヤ”を使って、暴力的テロの特徴がある音声や動画を拡散しているケースに的を絞り、自治区の“一体化”プラットフォームが“カイヤ”ユーザーの洗い出しと分析を行った。その結果、2016年7月7日から現在までに、新疆におけるウイグルの“カイヤ”ユーザーは186万9,310人に上ることがわかった。

各地域担当者に対して、「一人ひとりについて、調査と検証を実施せよ」と指示。テロとの関連が疑わしいケースでは、こう述べる。

証拠を確定し、法の定めるところにより、速やかに、厳重な取り締まりを行う必要がある。即座には疑いを払拭できなさそうな場合には、集中訓練(センター)に収容し、さらなる洗い出しと評価が必要になる。

ICIJの報道によれば、政府当局は「カイヤ」や中国のIT大手テンセントのチャットアプリ「WeChat(微信)」などを通じてユーザーの情報を大量収集しているという。

またガーディアンなどの報道によると、警察当局は新疆のウイグル族や外国人訪問者のスマートフォンに監視用アプリをインストールし、警察の検問所で日常的にその中身をチェックしているという。

今回明らかになった文書からは、IJOPがユーザーを地域ごとに分類し、アプリで使ったコンテンツの中身まで把握していることがうかがえる。

●AIによる「犯罪予測」

ICIJの記事の中で、安全保障業務を手がける「SOSインターナショナル」のディレクター、ジャームズ・マルベノン氏はこう述べる。

中国当局は大規模データの収集とAIの利用を通じて、事件が発生する場所を事前に予測できる、という治安モデルに乗り出したということだ。

そして、現実の犯罪が行われる可能性に先んじて、データに基づいてそれらの人々をあらかじめ追跡しているのだ。

過去の犯罪発生データから、あらかじめ犯罪の発生しそうな時間と場所をAIが予測し、警察官を重点配置する――。

そのような機能を持ったシステムとしては米国で開発された「プレッドポル」が知られている。

※参照:見えないアルゴリズム:「再犯予測プログラム」が判決を左右する(08/06/2016

「プレッドポル」があくまで地域と時間帯の予測なのに対し、中国のIJOPの「犯罪」予測の対象は人そのものだ。

●2019年の「マイノリティ・リポート」

殺人事件の予知システムによって、殺人犯をあらかじめ検挙し、その発生率をゼロにする――。

フィリップ・K・ディックの短編小説をベースに、スティーブン・スピルバーグ監督、トム・クルーズ主演で2002年に公開されたSF映画『マイノリティ・リポート』。

映画の舞台は2054年の未来だった。

だが、IJOPは2019年の現在、すでにそのSFを現実世界にもたらしているようだ。

——–
■最新刊『悪のAI論 あなたはここまで支配されている』(朝日新書、2月13日発売)

書影_1013_1

信じてはいけない_書影

■フェイクニュースの本当の怖さとは?『信じてはいけない 民主主義を壊すフェイクニュースの正体

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 839,178 ヒット
%d人のブロガーが「いいね」をつけました。