クルマの運転支援装置に潜むバグとボーイング・737MAX事故 (2) 「レベル3」の危険性

■自動制御の進んだ機体だからこそ陥った「ミス」

　旅客機は改装されて新時代の要求に応える性能を有することで、同じモデルが長年製造されてくることが多い。例えば、ボーイング・747ジャンボ機は、半世紀以上前に開発された機体だ。しかしその後、エンジンの転装がなされ、空気力学的改装がなされて、燃費や出力向上、騒音低下などの性能を上げて造り続けられてきた。

【前回は】クルマの運転支援装置に潜むバグとボーイング・737MAX事故 (1) 初代BMW850の失敗

　現在、墜落事故が続いたボーイング737もジャンボ機以前に開発され、短距離路線で広く使われてきている。しかし、その空力性能やエンジン性能は飛躍的に向上し、近代化が進んだ機体でもある。むしろ短距離路線では最も信頼されてきた機体と言ってよい。

　しかし、最新型のボーイング737MAXの事故では、燃費が15％向上した新型エンジンへの転装によるエンジンポッド取り付け位置の変更のため、エンジン推力軸線と重心位置のバランスが崩れたのを、自動補正するプログラムで補正することとしたようだ。

　事故は、そのプログラムのミスが引き起こしていると見られている。現代の自動制御の進んだ機体だからこそ陥った「ミス」と言っても良いのだろう。

■自動制御プログラムのミス（バグ）は、必ず存在する

　ボーイング737MAXの事故原因は、前記のようにこの補正プログラムのバグのようで、「新しいタイプの事故」と言ってよいのだろう。しかし問題は、対策の手順を踏んでも再度墜落事故を起こしたようで、真の原因が掴めていないようであることだ。

　対策を発表して、それにのっとって操作したとみられるのだが、再度事故に至っている。このため対策プログラムが完成せず、確認できないため飛行再開が出来ないのだ。プログラムミスにありがちな、原因が定かにできない特徴が表れている。

　このように旅客機でもプログラムミスは起こっており、自動車の「運転支援システム」のプログラムにおいても「バグ」がないとは、到底言い切れないのだ。多くは重要な問題とならないが、一般に広く使われている「銀行オンライン」のプログラムでさえ、時折問題を起こすのであり、根絶が難しい問題なのだ。

■「レベル3､4」よりも、デバッグ技術の開発を優先せよ

　そこで、自動運転については夢ばかりを語らず、専門家はこのプログラムミス、つまり「バグ」をとる確実な「デバッグ技術」を確立すべきだ。「プログラムミスを見つけるAI」を育てることが出来ないものであろうか？これは緊急の課題であり、技術者は「正面から向き合うべき」課題だ。

　自動運転技術によって「人為的事故」は削減されるものと考えられるが、一方で新しい事故である「制御プログラムの事故」が現れる。すると、完全自動運転では「重大事故」になる可能性が高い。また「運転支援システム」では、機械に「許される以上に頼ったミス」が早くも起きている。「レベル3、4」の運転支援システムは危険性が残ると考え、「レベル5」の開発を待つことが必要なのではないか？（記事：kenzoogata・記事一覧を見る）