米連邦地裁判事、生成AIによる訴訟摘要書は正確性を人の手で確認するよう義務付け

米テキサス北部地区連邦地裁の Brantley Starr 判事が自身の担当する訴訟について、提出文書に生成 AI を使用しないこと、または生成 AI を使用した提出文書の正確性を人の手で確認することを保証する文書を訴訟記録へ登録するよう、出廷するすべての弁護士や弁護士を立てない訴訟当事者に要件として義務付けた(要件の Internet Archive スナップショット※、Ars Technica の記事、The Register の記事)。

判事は生成 AI プラットフォームが非常に強力なものであり、離婚手続きや文書開示請求、文書の誤りの指摘、口頭弁論における質問の予想など法律の分野で多くの用途があるとしつつ、訴訟摘要書には使用できないと指摘する。これらのプラットフォームの現状ではハルシネーションやバイアスを生み出す傾向があり、ハルシネーションでは引用や判例さえも捏造してしまう。また、弁護士は自身の個人的な偏見や先入観や信仰とは別として誠実に法を守り、クライアントを弁護すると宣誓するが、AI は宣誓する必要のない人がプログラミングしたものであり、偏りや信頼性の問題があるという。そのため、あるプラットフォームが訴訟摘要書に必要な正確性と信頼性を備えていると信じる訴訟当事者は、その理由を説明する必要があるとのことだ。

※ 日本からはアクセスできないようなので、Internet Archive のスナップショットを利用　

スラドのコメントを読む | ITセクション | 法廷 | 人工知能 | IT

　関連ストーリー：
ChatGPTで判例を集めた弁護士、嘘の判例だらけという前代未聞の事態に 2023年05月28日
クリエイター支援サイトやダウンロード販売サイト、AI 生成作品受け入れを一時停止する動きが広がる 2023年05月14日
ウォズ、AIが詐欺や偽情報を見つけにくくすると警告 2023年05月12日