富士通、対話型生成AIの幻覚やAIを騙す敵対的攻撃に対処できるAIトラスト技術を開発し提供開始

■個人向けにも同社ポータルサイト上からトライアル環境を提供

　富士通<6702>(東証プライム)は27日、対話型生成AIから出力される回答の信頼性を向上する2つのAIトラスト技術である幻覚検出技術とフィッシングURL検出技術を開発したと発表。これらの技術を、「Fujitsu　Kozuchi　(code　name)-Fujitsu　AI　Platform」の対話型生成AIコアエンジンに搭載し、2023年9月28日から順次、日本国内に法人向けの実証実験環境として提供を開始し、個人向けにも同社ポータルサイト上からトライアル環境を提供する。今後は、グローバルにも展開予定。

　1つ目のAIトラスト技術は、対話型生成AIがデータに基づかないもっともらしい誤りを回答してしまう幻覚(ハルシネーション)を検出する技術で、対話型生成AIの回答文をAIが意味解析し、且つ幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。

　2つ目は、対話型生成AIが、悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトURLを回答出力してしまう問題に対応できる技術で、対話型生成AIに本技術を搭載することで、AIを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なURLであることを伝える。

　同社は今後も、対話型生成AIをはじめとするAIの品質やセキュリティ、倫理などのAIトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してAIを利用できる社会づくりに貢献していくとしている。(情報提供:日本インタビュ新聞社・株式投資情報編集部)

【関連記事・情報】
・【株式市場特集】東証マザーズ・グロース市場銘柄で勝負するならこの株！低金利時代の投資セオリーを覆す（2023/08/28）
・【株式市場特集】９月中間期末の高配当利回り株と分割株を狙え！トリプル権利取りでトリプル安を乗り切る（2023/08/21）
・【株式市場特集】塗料・舶用機器・砂糖株の３セクターが狙い目！業績相場でも夏枯れ相場でも出遅れ訂正のチャンス（2023/08/14）
・【株式市場特集】サマーラリーもサマーセールも夏枯れも関係なし！上方修正銘柄の逆行高を狙え（2023/08/07）