「AI上司」が人間を「機械」として扱い、心身にダメージを与える
11/15/2021 by kaztaira
「AI上司」が職場を常時監視し、勤務評価をするようになり、人間を「機械」として扱っていく――。
By Rog01 (CC BY-SA 2.0)
「AI上司」の広がりの背景には、新型コロナの世界的な大流行がある。
リモートワークへの移行と同時に、リモートでの労働管理を後押し。勤務の割り振りから、勤務態度やノルマ設定と達成の監視まで、AI導入に拍車をかけた。
英国では10月、ウーバーイーツの黒人ドライバーが、AIが顔認識を失敗し、「不正利用」としてアカウントをブロックされたことは「人種差別」だとして、同社を訴えている。
AIアルゴリズムによる労働管理の問題は、これまでもギグワーカー（個人請負労働者）を巡って指摘されてきた。だが現在は、それがより広い労働現場に波及している、という。
米国では、バイデン政権が、AIによる人権侵害に対処するための「権利章典」作成に動き出した。
労働現場などの社会生活に浸透するAIに、規制の枠組みを求める声が、高まっている。
●AIが及ぼす「重大な悪影響」
（AIが）労働条件や労働の質に、重大な悪影響を与えていることを示す証拠が、全国的に次々と明らかになっている。特に、あらゆる場所での常時監視やノルマ設定のテクノロジーは、メンタル、そしてフィジカルの健康への著しい悪影響を及ぼしている。これにより、労働者は絶えず極度のプレッシャー、リアルタイムのマイクロマネジメント、そして自動化された勤務評価にさらされているのだ。
英国議会上下両院の「労働の未来に関する超党派議員連盟」（下院議員のデビッド・デイビス氏［保守党］ら24人）は11月11日、同議連の最終報告書として発表した「新たなフロンティア：労働におけるAI」の中で、そう指摘している。
報告書は、同議連が5月から7月まで実施した調査を基に、政策提言としてまとめられた。
報告書が指摘するのは、新型コロナによる労働環境のリモートへの急速な移行と、それに伴うAI導入の影響だ。
新型コロナ以前には、労働におけるテクノロジー導入の主な影響は、機械による人間の労働力の代替だと考えられていた。しかし、リモートワークが増加する中で高まってきたのは、リモート監視、リモート管理の影響への懸念だ。ただ、我々が検討した資料によれば、労働と労働者に対するAIの影響は、監視や労働力代替を超えた、幅広い領域に及んでいた。職場のデジタルトランスフォーメーションは、そのスピード、深度、幅広さにおいて加速している。AIテクノロジーは、労働を誰がどのように行うかという、その本質を変えつつあるのだ。
報告書が、政府に求める対策の第一として掲げるのが、「アルゴリズム説明責任法（Accountability for Algorithms Act）」の制定だ。AIアルゴリズムが労働と労働者に与える影響を考慮した上で、適切な対策を講じる枠組みと位置付ける。
議連会長のデイビス氏は、英紙ガーディアンの取材に、AIアルゴリズムの影響は、アマゾンやウーバーなど、ギグワーカーが支えるビジネス形態、ギグエコノミーに限定された問題ではないと指摘する。
我々の調査では、AIテクノロジーはギグエコノミーを超えて波及し、どんな仕事を誰がどのように行うかをコントロールするようになっていることが明らかになった。適切に規制をしなければ、AIアルゴリズムのシステムは人々の健康と幸福に悪影響を及ぼす可能性がある。
●「ギグワーク化」する職場
以前はこの仕事が楽しかった。だが今では、テクノロジーが我々を監視するようになり、管理用のテレマティクス（遠隔監視の車載機）は膨大なデータを会社に報告する。おかげで、私はメンタルヘルスをやられた。
英独立研究機関「労働の未来研究所（Institute for the Future of Work）」が5月に発表した調査報告書「アマゾン時代：ギグ化する労働」は、聞き取り調査を行った英小売流通関連労働組合（USDAW、組合員数約40万人）の組合員たちのそんな回答を紹介している。
同研究所は、英ロンドン・スクール・オブ・エコノミクス（LSE）教授で、ノーベル経済学賞受賞者であるクリストファー・ピサリデス氏が共同創設者で、共同会長を務める。調査報告書は、やはり同研究所の共同創設者で所長を務める労働弁護士のアナ・トーマス氏らがまとめた。
前述の超党派議連の提言は、この研究所の調査を踏まえたものだ。
AIアルゴリズムを使った労働管理のテクノロジーは多岐にわたる。職場の監視カメラ、勤務シフトの自動割り当て、ノルマ設定と進行状況把握、達成度評価から、さらには顔認識、表情認識、音声認識、位置情報の追跡。目に見えるものから見えにくいものまで、様々だ。
調査によれば労働者は、シフト自動割り当て（27％）、監視カメラ（22％）などの目に見えるテクノロジーだけでなく、位置情報追跡（19％）、顔認識（16％）など実態が見えづらいテクノロジーについても、懸念を感じていた。
しかも、これらのAIシステムによってデータが収集されることについて、大半の労働者がその実態を把握できていなかった。
労組（USDAW）の組合員への調査では、48％はどんなデータが収集されているのかがわからないと言い、52％はデータ収集の理由と利用目的を理解できていないと回答、67％は収集されたデータでどのように実績の評価や予測が行われるかわからない、とした。
AIによるデータ処理について把握もできない中で、業務管理の自動化とマイクロマネジメント化は急速に進む。
グループインタビューの参加者（小売業）はこう述べたという。
自動化は進んだ。私の職場では3つのレベルの管理職ポストがなくなった…店全体の統括マネージャーは今もいるが、カスタマーサービス担当のマネージャーはいなくなった、在庫担当マネージャーもいなくなった、オペレーション担当のマネージャーも、もういない。これらすべての仕事を、今はテクノロジーが行っている。
AIアルゴリズムが管理職の業務を代替することで、労働者それぞれの自己裁量やゆとりの範囲が狭まる。その結果、自らを「機械」のように感じる、との回答もあった。
管理用に使われているシステムは、従業員にとても大きなストレスを与えている。従業員は人間で、人として生活しているのに、まるで機械のように、監視され、分析される。
調査では、過去5年間のテクノロジー導入に伴う労働環境の変化によって、49％は仕事の達成感が減少したとし、56％は雇用主にとっての自分の価値が低下したと回答、38％は社会にとっての自分の価値が低下した、としている。
調査報告書は、AIアルゴリズムの労働現場への影響について、超党派議連の報告書と共通する、こんな懸念としてまとめている。
問題は、機械による人間の代替ではなく、人間を機械として扱うことだ。それこそがアマゾン時代の特徴だ。
同研究所の報告書は、「グッドワーク（良質な労働）」のためには、まずこのデジタル環境における人権の保護が重要だとし、やはり法整備の必要性を指摘している。
●ウーバーの「顔認識」で訴え
英国独立労働組合（IWGB）は10月5日、元ウーバーイーツの黒人ドライバーが、人種差別により不当解雇されたとして雇用審判所に申し立てを行ったことを明らかにした。
黒人男性は、このシステムで顔認識が正しく行われず、2021年3月にウーバーのアカウントをロックされてしまった、という。
IWGBによれば、同様の不具合から顔認識が正しく行われず失職したドライバーは35人に上るという。
AI管理による労働現場の窮状は、これまでも様々な形で表面化してきた。
アマゾンでは今春、「飲料ボトルへの排尿」を巡って謝罪をする、という一幕もあった。
米民主党下院議員、マーク・ポーカン氏が3月末、ツイッターでアマゾン幹部に対し、「時給15ドル（約1,700円）を労働者に払っていても“先進的な職場”とは言えない。組合潰しをしたり、従業員に飲料ボトルに排尿させたりしているのなら」と指摘したのが発端だ。
これにアマゾン公式アカウントが「もしそれが本当なら、誰も当社のために働こうとはしないだろう」と否定する。
ところが、米調査報道サイト「インターセプト」が、アマゾンの社内メールを基に、配送車内での排尿、排便の事例が把握されていた、と報道。
アマゾンは4月、一転して「飲料ボトルへの排尿」が事実だと認め、ポーカン氏に謝罪する事態となった。
アマゾンでは2月、米国内のすべての配送車にAI搭載の監視カメラを導入。走行距離、速度、加速、ブレーキ、方向転換、車間距離など、車両の位置と動きを追跡するほか、顔画像などの生態認証情報を取得するとして、全ドライバーに同意書の提出を求め、物議を醸していた。
また、世界34カ国で38万人を雇用する世界最大規模の仏コールセンター「テレパフォーマンス」は、在宅勤務の従業員に対し、AI搭載のウェブカメラによる監視システムを導入。
批判の声の中で、英国での導入は取りやめたものの、南米コロンビアではアップル、アマゾン、ウーバーなどの顧客対応のために使用され、議論を呼んだ。
職場へのAI導入を巡る問題は、日本でも指摘されている。
日本IBMの労働組合「JMITU（日本金属製造情報通信労働組合）日本アイビーエム支部」は4月、同社のAI「ワトソン」を利用した人事評価・賃金決定を導入することについて、「ブラックボックス」化の懸念があるとして、東京都労働委員会に救済申し立てを行っている。
●法規制の動き
労働現場におけるAIの問題に対して、すでに法規制の取り組みも動き出している。
欧州連合（EU）が2021年4月に公表した新たな「AI規制法案」は、AIの使用場面によって、「アンアクセプタブル（許容できない）リスク」「ハイ（高）リスク」「リミテッド（限定的）リスク」「ミニマル（最小限）リスク」の4段階に分類。リスクの高さに応じて規制を強めるピラミッド型の構造をとっている。
その中で、労働現場における監視や勤務評価などの用途は、上から2番目の「ハイリスク」とされ、こう述べられている。
雇用、従業員管理、個人事業主との契約、特に個人の採用と選抜、業務上の契約関係にある個人の昇進や解雇の判断、仕事の割り当て、監督ないし評価においてAIシステムを使用する場合には、ハイリスクに分類される必要がある。それらのシステムは当該個人に対して、将来のキャリア展望と生活に明確な影響を与える可能性があるためだ。
「リスク管理システム」「データ統治」「技術文書」「記録保存」「透明性」「人間による監視」「正確性・堅牢性・サイバーセキュリティ」の7項目の義務規定があり、違反には最高で3,000万ユーロ（約39億円）の制裁金の規定もある。
※参照：「すごく危ないAI」の禁止に潜む大きな「抜け穴」とは（04/25/2021 新聞紙学的）
米国のバイデン政権も、動き出している。
大統領科学顧問でホワイトハウスの科学技術政策局長、エリック・ランダー氏と副局長のアロンドラ・ネルソン氏は10月8日、連名で米誌ワイアードに「米国人はAIを活用する世界のために『権利章典』を必要としている」と題した寄稿をしている。
ランダー氏らはこの中で、AIの使用をめぐる顔認識の人種による精度の違いや誤認逮捕など、様々な問題点を挙げて、「プライバシーと透明性に疑問を投げかける」と指摘。
「21世紀には、我々が作り出した強力なテクノロジーへの防護措置としての『権利章典』が必要だ」と述べる。
またその手始めとして、科学技術政策局は同日から、顔認識や音声認識などの生体情報利用の現状についての情報提供依頼（Request for Information）を開始している。
●AIに「機械」として使われないために
AIに仕事を奪われるだけでなく、人間がAIに「機械」として使われる――そんな現実が社会に広がり始めている。
そこにしっかりと歯止めをかけていくことができるのか。
AI社会が、今まさに問われている課題だ。
■最新刊『悪のＡＩ論 あなたはここまで支配されている』（朝日新書、2019年２月発売）
■フェイクニュースの本当の怖さとは？『信じてはいけない 民主主義を壊すフェイクニュースの正体』
■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』（拙訳）全文公開中
新聞紙学的 