AI犯罪予測システムの脅威(2) 司法制度において「冤罪」の可能性は、現在のAIより低い

■民主主義の司法制度において「冤罪」の可能性は、現在のAIより低い

　日本での犯罪発生件数は、年間200万件程度。その内、公にならなくとも冤罪と見られるのは、数十件程度と考えられている。数の信憑性はともかくも、その確率は1/100,000程度と見られ、かなり少ない。AIが認識できる犯罪の可能性はどの程度の確立であろうか？　AIの顔認証システムの確立は、98%程度と見られている。少々無理があるが、犯罪の可能性についての推察でも同じ確立であると仮定してみると、2/100程度の確立で「冤罪」を起こす可能性が出てくる。すると、とても実用に使える状態ではない。

【前回は】AI犯罪予測システムの脅威(1)　米フロリダ、英警察、京都府警や神奈川県警も興味を示す

　民主主義社会の司法制度は、かなり厳格にできている。三権分立のシステムでは、立法と司法が分離していることが重要だ。しかし、中国では行政と司法も分離しておらず、しかも共産党の支配下に司法がある。民主主義の司法制度には、「地方・高等・最高裁判所」と3段階の裁判もあり、再審請求もできる。それでも、冤罪を根絶できない。しかし、民主主義の司法制度はかなり進歩したもので、AIが「現在あるデータ」をいくら読み込んでも、その精度にたどり着けない可能性が高い。

　「手続き」は面倒だが、AIの判断も現在の制度の参考程度に置かれるべきだ。【人類の知恵の蓄積である制度(システム)】は、1台のAIシステムによる判断より、はるかに利巧なのだ。だから、システムエンジニアは思い上がってはいけない。

■AIシステムの運用方法

　こうしてみると、どれほど大量のデータをAIに読み込ませて学習させても、当初、正解は人間が示すのであり、過去の判断基準が適応され、データに残された範疇にとどまるのである。どれほど犯罪の可能性を的中させても、未然に監視することが適切に行われない可能性も高い。

　そこで、「システムの運用」が重要なポイントとなり、『AI犯罪予測システム運用責任者に対する民主的監督』が行き届かねばならない。現在の制度において、人類の最高頭脳として示されているのが、「三権分立の中での司法制度」である。すなわちAIは、今のところ「参考人」にとどまることとなる。未犯の防止策は「慎重の上にも慎重」であるべきだ。それは、一人の人間に「犯罪者のレッテル」を張り、人生を誤らせるきっかけとなる可能性もあるからだ。「人権は地球よりも重い」のだ。

　よって、個人が未犯の内に「犯罪の可能性」を指摘して、再教育などを受けさせることは、「冤罪」と同じと見るべきであろう。これはかなり困難なシステムで、実用化する方向性としては「最低なシステム」と言える。同じ犯罪予測でも、日時場所を予測しているほうが現実的だ。しかし、許されるなら、「殺人、強盗など重犯罪」に関しては、このAI予測を参考として動ける制度を確立する価値はある。民主的司法制度の中で、『AIの予測を活用するシステム』を慎重に考えていくべきであろう。（記事：kenzoogata・記事一覧を見る）