パナソニック、AIの「知ったかぶり」防ぐ技術を開発
2023年7月31日 08:09
パナソニックホールディングス（大阪府門真市）は28日、AIモデルが未知物体に遭遇した際に「知ったかぶり誤認識」をしないようにする技術を開発したと発表した。画像認識のAIモデルの信頼性と性能を高める。車載など様々な活用を予定している。
【こちらも】東大、ChatGPT等の「生成系AI」技術への学内向け見解を公開
画像認識AIモデルは、事前に学習させた対象は高い精度で認識するが、未知の物体に遭遇した時には、「知らない」と判断することが難しいという。知っている情報で無理やりに判断し、「知ったかぶり」してしまう。そのため予期せぬ誤作動につながる可能性があり、解決策が待たれていた。
パナソニックが開発した技術では、AIモデルが認識結果にどの程度自信を持っているかを推定。未学習で「本質的に認識ができない」場合に、「未知物体」として認識する。予め全ての物体を学習させておくことは難しいため、「知ったかぶり」を防ぐことが、実環境での利用に欠かせない。
画像認識AIのひとつ、セマンティックセグメンテーションモデルは、画像から画素レベルで、物体が何かを推定できる技術。医療や製造、モビリティなど幅広い領域で活用されはじめている。
しかし例えば、「ビールケース」が未学習だった場合、学習済みの情報から無理やり推定してしまった結果、一部を「車」と「道路」と誤認識してしまうことがある。車載カメラに搭載したAIモデルがこうした「知ったかぶり」を行うと、重大な事故につながりかねない。
パナソニックの開発したフローベースの生成モデルは、「学習した既知の物体」と「学習していない未知物体や誤分類」を分離することが可能になる。
セマンティックセグメンテーションモデルに事前トレーニングを行い、その後同社の技術を追加したところ、従来の方法を上回る認識結果となった。
車載だけでなく、くらしやBtoBなどあらゆるユースケースでの活用を想定している。
尚、同技術はAI・機械学習技術のトップカンファレンスUAI2023に採択されており、7月31日から8月4日まで開催される本会議で発表される予定だ。（記事：土佐洋甘・記事一覧を見る）