OpenAI、テキストの作成がAIか人間かを区別する分類ツールを公開

2023年2月4日 10:06

印刷

記事提供元:スラド

headless 曰く、 OpenAI は 1 月 31 日、AI が書いたテキストと人間が書いたテキストを区別できるよう学習させた AI テキスト分類ツールを公開した(OpenAI のブログ記事The Guardian の記事The Verge の記事Neowin の記事)。

この分類ツールは完全に信頼できるものではなく、AI が書いたテキストの 26 % を「AIが書いたらしい」と正しく識別できるが、人間が書いたテキストでも 9 % の確率で AI が書いたものと誤ってラベル付けしてしまうという。分類ツールの信頼性はテキストが長いほど向上する一方、1,000 文字未満の短いテキストでは非常に信頼性が低下する。また、英語以外の言語では信頼性が大幅に低下するため、英語でのみ使用することが推奨されている。

1,000 番目までの素数のリストのように人間が書いても AI が書いても同じ内容になるテキストを正しく識別することはできないほか、学習データと大幅に異なる内容のテキストを入力した場合にも正しく識別できない可能性がある。AI が書いたテキストを編集して分類ツールをだますことも可能とのことだ。

 スラドのコメントを読む | デベロッパーセクション | 人工知能 | デベロッパー

 関連ストーリー:
Amazon、従業員に対してChatGPTと会話しないよう警告 2023年02月01日
ChatGPTはコミュニケーションが困難な人を助けるかもしれない 2023年01月25日
ChatGPT 開発の背後にはケニアの労働者による人力作業 2023年01月22日
Stack OverflowがChatGPTによる回答を禁止、大量のもっともらしい回答に対処できず 2022年12月07日
複雑な問いかけにも回答するチャットAI「ChatGPT」がテスト公開 2022年12月05日

※この記事はスラドから提供を受けて配信しています。

関連キーワード

関連記事