AIが人間を認識できず　ウーバー自動運転車の事故は設計欠陥? (1/2)

　ショッキングなニュースだ。2018年にウーバー自動運転車がおこした歩行者死亡事故の原因は、AIの認識不足によるものであると分かったと言う。AIが横断する人間を捉えていながら人間と認識できず、ウーバー車の進路を横切るとも認識できなかったようだ。それは、「AIの思い込み」とでも形容したくなる動きだった。

【こちらも】Appleの自律走行車が初の事故、日産リーフに追突される

　米ウーバー・テクノロジーズ（Uber Technologies）の自動運転車が2018年に歩行者死亡事故を起こしたが、米国家運輸安全委員会（NTSB）は、このほど2019年11月5日に調査報告書をやっとまとめた。これまで、何かとテストドライバーが動画の視聴に興じていたことが取り上げられてきたが、基本の原因はAIが「横断歩道の無い道路を横切る人間を認知できない」程度であったことだ。これは人間側の思い込みだが、深層学習ではなくまだ機械学習のレベルであることが知れる出来事だ。

　ウーバー・アドバンスト・テクノロジーズ・グループ（ウーバーATG）の自動運転車両がアリゾナ州テンペの車道をテスト走行していた時、自転車を押して車道を横断しようとしていた歩行者を認知できず、死亡させてしまった事故だった。

　ウーバーの車両は、ボルボ・XC90（2017年式）にウーバーATG開発のAI自動運転システム（ADS）を搭載したものだった。このAIは、車両のルーフも使ってLIDAR（Light Detection and Ranging）やレーダー、全方位カメラを搭載し、まだ実験段階の大きな装置であった。この装置で人間の替わりに周囲の物体を検出し、移動方向と速度から判断して物体を「自動車」「自転車」「歩行者」「その他」に分類しているはずだった。この分類整理がAIの基本動作であり、人間の理解力のパターンである。

　しかし、この車のADSは、歩行者との衝突の5.6秒前に初めてレーダーによって歩行者を検出したが、それを「自動車」に分類していた。どうやら横断歩道以外の道路では歩行者の存在は認知されないシステムのようであった。つまり、人間が決めた分類整理の規定には無かったパターンであると言える。そこが残念であり、これが深層学習のレベルであったなら、分類項目もAI自身で決められるはずだっただろう。

さらに、自動運転車両の左斜め前方に位置し、「自動車」であるとの誤った認識から、進行方向においては衝突の危険性も無いと判断していたようだ。人間なら「思い込み」と言われる認識だ。

　問題は、その後も継続的に検出するたびに「自動車」、「自転車」、「その他」に分類しており、「歩行者」に分類することができなかったことだ。断続して他種に分類すると同一の対象物と認識できず、「人間が道路を横断していて衝突する」と認識できなかったようだ。パターン認識のレベルが稚拙なようだ。（記事：kenzoogata・記事一覧を見る）

続きは: AIが人間を認識できず　ウーバー自動運転車の事故は設計欠陥? (2/2)