「最後まで人間だと認識できず」UberのAI車、初の死亡事故が起きた理由

コメントする

11/07/2019 by kaztaira

歩行者をはねたAIは、最後までそれが「人間」だと認識できなかった――。

米国家運輸安全委員会(NTSB)は、2018年3月に米アリゾナ州フェニックス郊外で起きたウーバー(Uber)の自動運転車による歩行者死亡事故に関する報告書を公表した

uber_accident_report

米国内ではこのほかにテスラの自動運転車による2件の死亡事故が明らかになっているが、いずれも犠牲となったのは運転していたドライバー。自動運転車による死亡事故で歩行者が犠牲になったのは、この件が初めてだった。

440ページにのぼる報告書では、ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかったことが、明らかにされた。

また、急ブレーキも作動しないなど、様々なシステムの欠陥の連鎖があったことが指摘されている。

一方、この死亡事故の余波で、フェニックス郊外の別の街ではグーグルの自動運転車に対し、住民による「打ち壊し」の動きまで報じられていた。

車道を横断する歩行者は想定外――自動運転車の安全性をめぐる議論は、そんなところから積み重ねる必要があるようだ。

●440ページの報告書

国家運輸安全委員会が5日に公開した事故報告書は、43件で440ページにのぼる。

事故の概要については、発生から2カ月の2018年5月に、中間報告が発表されている。今回の報告書では、事故原因やその後の対応などの詳細についても明らかにされた。

事故が起きたのは、2018年3月18日、日曜日の夜。

アリゾナ州の州都フェニックスから自動車で20分ほどの郊外、テンピ市。この夜9時58分、49歳のエレイン・ヘルツバーグ氏は自転車を押しながら、4車線のノース・ミルアベニューを歩いて渡ろうとしていた。

横断歩道のある交差点から100メートルほど手前の路上。通りを渡り終わる前、ヘルツバーグ氏は右から来たウーバーの自動運転車にはねられる。

自動運転車は2017年型のボルボXC90をウーバーが改造したもので、一帯で試験走行中だった。ヘルツバーグ氏は搬送先の病院で死亡が確認される。

ウーバー車の運転席にいたテストドライバー、44歳のラファエラ・バスケス氏にけがはなかった。

今回公開された報告書によれば、ウーバー車のAIシステムがヘルツバーグ氏を捉えるのが、衝突の5.6秒前。

時速44マイル(約71キロ)で、ヘルツバーグ氏との距離は110メートルほどある。この時はヘルツバーグ氏を「自動車」と認識している。

そして衝突の5.2秒前に、今度はヘルツバーグ氏を分類不明の「その他」と認識。さらにその後、衝突の2.7秒前にかけて、「自動車」と「その他」の間を、AIの分類が行ったり来たりする。

衝突2.6秒前。AIは、ヘルツバーグ氏を初めて「自転車」と認識する。だが、ヘルツバーグ氏を「静止」状態と認識し、ウーバー車の進行方向には向かっていない、と判定している。その距離はすでに50メートルほど。

衝突1.2秒前、ヘルツバーグ氏を「自転車」と認識した上で、ウーバー車と衝突することを初めて認識。危険を感知し、作動制御のシステムが始動する。

その1秒後、衝突0.2秒前になって減速が始まると同時に、ドライバーのバスケス氏に警報で危険を知らせる。すでにヘルツバーグ氏との距離は4メートルほど。

バスケス氏がハンドルを手にして自動運転を終了させたのが衝突の0.02秒前。

しかし、ウーバー車はヘルツバーグ氏に時速39マイル(約63キロ)で衝突。そしてバスケス氏がブレーキを踏んだのは、衝突から0.7秒後だった。

●ネット動画を視聴する

結局、ウーバー車は最後までヘルツバーグ氏を「人間(歩行者)」とは認識できなかった。

これについて、報告書はこう述べている。

システムのデザインが、車道にいる歩行者を想定していなかったためだ。

路上の歩行者は歩道にいるもの――そんな想定でウーバーのAI車のシステムは開発されていたのだ、という。

しかも、「自動車」「その他」「自転車」と分類が頻繁に揺らぎ、そのたびに別々の「静止している」対象と捉えたため、ヘルツバーグ氏が車道を横切り、ウーバー車の進行方向に向かって”移動”していることが認識できなかったという。

また衝突直前、ウーバー車が危険を感知するが、減速を開始し、警報を鳴らすまでに1秒間の空白がある。

これは、誤検知を回避するためのウーバーによる仕様で、この間にシステムが危険が誤検知ではないかを検証した上で回避ルートを算定する、もしくは同乗する人間のドライバーが自動運転から手動運転への切り替えを行う、という想定で設定されていた時間だという。

だが、ドライバーのバスケス氏は、この時点でもハンドル操作はしていなかった。

報告書は、システムに障害は認められなかった、としている。そして、車内に取り付けられたカメラは、衝突までのバスケス氏の様子も撮影していた。

車内設置のカメラは、バスケス氏がしばしば運転席の下の方に視線をやっている姿を捉えていた。

報告書は、ネット動画配信サービスの「フールー(Hulu)」から入手したバスケス氏の利用データから、同氏がこの夜、午後9時16分から事故発生の1分後、午後9時59分までの間、動画の視聴を続けていたことが明らかになっている

安全確保のためのドライバーは、よそ見どころか、ウーバー車の運転席で「フールー」の視聴をしていたのだ。

●システム改修と実験走行再開

ウーバーは2016年9月から東部のペンシルベニア州ピッツバーグで自動運転車の実験走行を開始。事故の1年前、2017年2月から、南西部アリゾナ州のテンピにも、実験走行の拠点を拡大していた。

同市では300人にのぼるテストドライバーによって、実験走行を展開していた。

ウーバーは死亡事故を受けて、各地の自動運転の走行実験を停止し、アリゾナでのプロジェクトは閉鎖した。

だが、テンピ市に隣接する同州チャンドラー市では、この死亡事故も一つのきっかけとなり、やはり実験走行がおこなわれていたグーグル系列のウェイモの自動運転車に、住民による妨害や攻撃が相次ぐという騒動になっていた

※参照:ウェイモの自動運転車を住民が襲う(01/05/2019

ただ、ウーバーによる自動運転車の実験走行は2018年12月にピッツバーグで再開。死亡事故で判明したシステムの問題点についても、歩行者検知のシステムを追加するなど、修正を行った、という。

だが、人を人として認識できないAIが、人の命が奪われた、という事実は残る。

【訂正】11月9日06:24  衝突5.6秒前のウーバー車と被害者との距離を「1キロ」から「110メートル」に、2.6秒前の距離を「500メートル」から「50メートル」に、0.2秒前の距離を「35メートル」から「4メートル」に、それぞれ修正しました。筆者の計算間違いでした。

——–
■最新刊『悪のAI論 あなたはここまで支配されている』(朝日新書、2月13日発売)

書影_1013_1

信じてはいけない_書影

■フェイクニュースの本当の怖さとは?『信じてはいけない 民主主義を壊すフェイクニュースの正体

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』(拙訳)全文公開中

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中

アーカイブ

ブログ統計情報

  • 826,720 ヒット
%d人のブロガーが「いいね」をつけました。