Facebookの自殺防止ツールは役に立っているのか、研究者から疑問の声

taraiok曰く、　Facebookでは、2017年頃から機械学習を利用した自殺予防・通報システムが採用されてきた。CEOのMark Zuckerberg氏によると、1年間で3500人に対して救済支援が行われたとされている。しかし、ハーバード大学の精神科医John Torous氏は、このツールが誤認識などによって救済されたとされるユーザーの精神衛生や健康上の問題を悪化させていないか懸念している（SFGATE、Slashdot）。

　Torous氏はMicrosoftなどと共同で同様の研究をしてきたが、Facebookはこういったツールについて研究者や医者、科学界との情報共有を行っていないという。また、Facebookはツールがどのように機能するかについてのデータも公開していない。そのため、氏はFacebookの自殺予防・通報システムについて詳しく把握できていないという。

　同氏は、このツールを使用したことによる救済効果は個人情報の観点から公開されず、検証できない点も問題視している。同様の問題は個人情報を取り扱うApple WatchやAmazon Alexa、そして瞑想アプリのようなものでさえも抱えている問題だと指摘している。

　スラドのコメントを読む | ITセクション | Facebook | 医療

　関連ストーリー：
米民主党、IT企業が偏向したアルゴリズムを利用することを防ぐ法案を提出 2019年04月17日
Facebookは倫理的に破綻した嘘つき、とニュージーランドのプライバシー監督機関が批判 2019年04月12日
Facebook、プライバシー重視の新方針を表明 2019年03月21日