AIはなぜ説明が出来ない間違いをするのか　AIとディープラーニングの限界

　AIが従来のコンピューターソフトウェアとは異なるものとして期待されている最も大きな要素が、その学習機能だ。特にディープラーニング（Deep Learning:深層学習）と言われているデータマッピングの手法は最先端のデータ処理技術として、今最も技術開発の注目度が高い分野とされている。

【こちらも】Googleがオープンソースで公開したAI技術「BERT」　読解力は人間上回る？

　AIがものを「考える」ことを可能にするというこのディープラーニングは、画像認識や言語処理など、人工知能が活躍するアプリケーションの骨格となるテクノロジーだ。一方でそのプロセスの内容が、人間から見てブラックボックスになってしまうことについては、これまでも懸念されていた。

　だが、それとは別にディープラーニングそれ自体のもつ限界を指摘する声もある。ディープラーニングはこれまでのコンピューターにはできなかったデータの処理を可能にするが、それは人間の知能を代替するものではない。

　今回アメリカ科学アカデミーに投稿された論文では、ディープラーニングがデータを学習する仕組みそのものに内在する限界があると言う。その限界と、AIが「考える」とはどういうことなのかについて、投稿された論文から見てみたい。

●ディープラーニングの仕組みと失敗

　ディープラーニングは、人間の神経細胞の働きをモデルにして構成されたデータ処理の仕組みだ。ニューラルネットワークと呼ばれるこの仕組みは、一つのデータ処理ユニットに複数のインプットが与えられ、それぞれのデータに重みづけがなされることで、データ相互間の重要性を判定する。この重みづけのプロセスは何層にもわたって繰り返し処理され、これにより結果として得られるアウトプットは、入力されたデータ間の関係として重層的に「理解」される。

　ディープラーニングによって、コンピューターはプログラムの形式になっていない言語でもその内容を取り込むことができるため、人間が話す言葉（自然言語）を聞き取り、話すことができるようになる。またいくつもの写真の中からイメージを抽出し、「猫」の写真を取り分けるといったことが可能になる。これはAIがデータを人と同じように認識し、「考える」ことを可能にするものだと言われている。

　しかし例えば、AIの画像認識は人間では考えられない不思議な間違え方をすることがある。どこから見ても何の変哲もないバナナの写真をAIに見せたところ、これはトースターだと言ったり、野球のボールの写真に加工をして少し表面をぶつぶつさせると、エスプレッソコーヒーだと言ったりする。AIは画像を識別するためにサンプル画像を使って学習する必要があるが、その学習の中身は人間が学習する方法とは全く違うようだ。

●ディープラーニングは何を「学習」するのか

　これまで、このようなAIのトラブルは学習サンプルが足りないことが原因であり、適当な方法でデータを多数読み込ませれば解決できると考えられてきた。だが論文によれば、これはもっと奥の深い問題であり、ディープラーニングという仕組みそのものの限界を示す問題である可能性があると言う。

　AIに「牛」とは何かを理解させるために、AI技術者は1万枚に及ぶ牛の写真を読み込ませる必要がある。しかし人間の子供が牛とは何かを知るのに、1万匹の牛は必要ない。数枚の写真があれば十分だ。これは人が、1つや2つのサンプルから別のコンセプトを作り出す能力があるためだ。

　IBMの人工知能研究所で人工知能WATSONを研究したMITの科学者によると、AIは時に訳のわからない判断をすることがあると言う。ある銀行で与信管理にAIを使ったところ、問題のないように見える顧客に対して貸し出しを行わないという決断を下したが、なぜだめなのかは説明できなかった、と言う。

　ワシントン大学の研究室による自動運転車のハッキングに関する研究実験の中で、AIが操縦する自動運転車が交通標識を認識した瞬間に、その標識の上に“LOVE”と“HATE”の文字を映し出した。この「いたずら書き」実験でAIは、一時停止の標識を制限速度の標識と誤認し、右折の標識を一時停止の標識と認識したと言う。

●AIは世界を知ることはできない

　AIがディープラーニングを使って画像を読む時、ピクセルデータの間にあるパターンを認識しているだけだ。AIにはそのパターンが意味するものはわかっていない。ソファと椅子の違いは見分けられても、それがどちらも座るためのものだということはわからない。あるAIは子供が歯磨きの準備をしている写真を見て、この子供はバットを構えている、と答えた。

　人間にとって、画像とはピクセルデータのことではなく、言葉とは音声データのことではない。自分の身体を通して体験し、知覚した現実の世界を裏づけとした表現が画像や言葉の形式になっているのであって、ただの記号としてのデータではないのだ。AIはこの「体験」を欠くために歯ブラシと野球のバットの大きさの違いが意味をもたない。

　ディープラーニングは画期的な技術であって、これまでのコンピューターにはできなかったAIの用途を可能にする。特にデータの分析、分類においては強みを発揮する。だがAIは、そのデータを再構成して現実の世界における意味を構築することはできない。現在のAIは、人間と同じように「考える」ことはできないのである。（記事：詠一郎・記事一覧を見る）