詐欺を見抜くAIは存在するのか (1) NTT「特殊詐欺対策アダプタ」 騙されたい症候群
2020年12月12日 09:02
これほど「詐欺社会」になるとは予測も出来なかった。筆者はこれまで2回詐欺団と対峙して、1回目は追い払い、2回目は逮捕に追い込んだ経験がある。1回目の時は、親族にとりついた新興宗教教祖を名乗る詐欺師を追い払うのにとても苦心したため、人間の内面でどの様な葛藤が行われるのか、つぶさに観察することが出来た。
【こちらも】NTT東・西、AIで電話の音声解析し特殊詐欺防止 検知すると親族にも通知
詐欺師から私は「悪魔」と呼ばれた。騙せないだけでなく、逮捕、解散までもっていくからだ。大変名誉なことだが寂しい限りだ。
2回目は、詐欺集団のフロント企業に知らないままコンサルに入ってしまい、当方の技術を使って全国に被害者を出す事態となったため、警察に証拠と証人を示して捜査に全面的に協力。そして、詐欺団首領まで逮捕に成功した。だが、詐欺罪の立証は簡単ではなかった。その詐欺団に「騙された」多くの人の中で自覚できている人は意外に少なく、「倒産した会社の債権者」としての動きにしか関心が集まらなかったのが驚きだった。
■「自分で自分を騙していく」不思議な心理
1回目の親族が騙された時もそうだ。詐欺師を「怪しいやつ」との見方は当然のように全員にあるのだが、それを騙された当人たちは「自分で自分を騙すように信じてしまう」不思議な行動となっていた。
だから、今回話題にしているNTTのAI「特殊詐欺対策アダプタ」が、「どれほど正確に詐欺を見分けられるのか」ももちろん重要であるし基礎となることだと考える。しかし詐欺の本質は、騙される人たちが「自ら騙される」ことを望んでいることにある。「騙されていたい」のだ。
AIの活用により特殊詐欺に絞ってパターン認識し、判別することは可能であろう。教師データの数が問題だが、人間がある程度介在すれば、パターンが見えてくるのではないか。やはり人間のパターン認識はすごいもので、AIではビッグデータがなければ精度が確保できないところ、ビッグデータに比べれば極々わずかなデータ数で判別してしまうものだ。
特殊詐欺の場合は、1割程度の人間の介在があれば精度は十分になるのではと予見している。しかし、問題はそこからだ。ユーザーがAIの示した「詐欺の疑い」を受け入れてくれるのかだ。そこは「AIの判断」によって、逆に人間のアドバイスより受け入れてくれる可能性もある。
だから、「特殊詐欺対策アダプタ」の問題点の2つ目は、ユーザーへの示し方であろう。「詐欺を信じようとしている人」を引き戻すのが難しいのは、「理屈」ではないからだ。詐欺師のウソの論理には、「理論的破綻」が必ずある。しかし、その点を説明によって理解できないから信じてしまうのだ。それを引き戻すには、「AIもユーザーを騙す」必要があるのであろう。
詐欺師に騙されていた人が、「詐欺であると説得していた親族」を見る目は「敵視」となっている。「味方を敵」とみなして詐欺師を信じようとしてしまう。それは騙されたと気付いた後になっても、「敵視したい」との欲望があるのが事実だ。
人間の本質がそこにあって、「自分だけ良ければ良い」と無意識に考えており、「自分は正しい」と思い続けることで詐欺師に騙されたことから救われようとするのだ。そのため、感情的には責任を押し付ける先が「説得していた親族」となる。これは矛盾であるが、騙された人自身の救いとなるものなのだ。（記事：kenzoogata・記事一覧を見る）