AIは信頼できるのか？　中国では信用度調査　日本でも人事採用などに導入

　AIによる国民の信用度調査を中国は行い、点数で表す「社会信用システム」を導入して久しい。そして、人によって航空機への登場を断るなど「差別」を設けていることが、中国国内では問題視されてきていない。さすがは「独裁国家」であるが、日本でもソフトバンクなど民間企業がIBMのAI「ワトソン」を導入して、人事採用システムに使っている。

【こちらも】AIは差別を助長する!? 人工知能に刷り込まれた認知バイアス

　AIによる採点は調査の効率を高めるのだが、問題は、AIが差別的判断をしていても、その判断理由などを説明しないシステムがほとんどであることだ。よって、AIが公平であるとの保証はない。差別的教育データを与えれば、AIは差別するようになり、データ次第でどの様にもAIは育つからだ。その判断によって採用すると「過去のデータ」で優秀と判断されることとなり、革新が起きにくくなる懸念もある。

　中国の「社会信用システム」とIBMのAI「ワトソン」を直接比較は出来ないが、独裁国家がAIを使って国民を監視し、現体制に都合の良い人物を優遇し、批判的人物を排撃する道具に使われるのは目に見えている。独裁体制に染まった社会では、基本的人権を侵害しても批判することさえ出来なくなっていく。つまり、言論の自由が奪われるのだ。香港で起きていることをよく見れば、「体制」というものがどうしても支配的になっていくのを止められないことが分かる。

　AIの登場は、こうした社会構造にも変化をもたらすことは確実だ。AIシステムはビッグデータを有効に活用し、災害を防いだり、社会効率を上げたりしていくことが出来る優れものである反面、独裁者が国民を支配するにも都合の良い道具である。民間企業がAIシステムで人事採用を行うとすれば、判断理由をきちんと示すなど、システムの運用基準をさらに明確にして法制化していくことを急がねばなるまい。

　銀行業務、市役所業務、税務や法務など定型化された業務は、早晩AIが導入されていくであろう。問題は「教師データ」だ。偏見などの間違ったデータを与えないようにしなければならず、この点の基準の制定も急ぐ必要があろう。でも、いったい誰が「教師データ」を選定するのであろうか？またその権限を持った人々が権力を持ち、「利権化」してしまうことが懸念される。（記事：kenzoogata・記事一覧を見る）