AI急速進化に規制追いつかず欧州当局苦慮　ECBラガルド総裁「重大なリスク」

英金融行動監視機構(FCA)や欧州中央銀行(ECB)など欧州の金融当局トップが、AI技術の急速な進化に既存の規制の枠組みが追いついていないとの懸念を相次いで表明した。AI技術の欠陥を報告する新たな共通プラットフォーム「FLARE-AI」も始動した。

欧州の金融規制当局が、AI技術の急速な進歩に対応しきれていないとの懸念を表明した。

英金融行動監視機構(FCA)のニキル・ラシ長官はCNBCに対し、AIに関しては現行のルール作りが「機能しない」と述べた。

同長官は「技術の進歩は極めて速く、AIで見られている技術革新の一部については発想を変えて考える必要がある」と述べ、特にAIエージェントを念頭に置いていることを明らかにした。

同様に、欧州中央銀行(ECB)のクリスティーヌ・ラガルド総裁も、AI技術は生産性向上や利益をもたらす一方で「重大なリスク」でもあると指摘した。

ラガルド総裁は「サイバーセキュリティー上のリスクやハッキング、データ盗難などについては、ここ10年ほど議論を重ねてきた」と述べた。

「しかしAIモデルの高度化・加速化に伴い、我々はより深刻なリスクに直面している。事態が極めて速く進行している上、その防御手段と、それに必要な資金の確保がまだ見出されていないためだ」と続けた。

一方、AI研究者らは、利用者がAIの有害・危険な挙動を通報しやすくすることを目的とした新たな公開報告プラットフォームを立ち上げた。強力化が進むAIシステムを巡り、セキュリティー上の脆弱性や誤情報、プライバシー漏えいといった予期せぬ不具合への懸念が高まっていることを背景とする。

「FLARE-AI」と名付けられたこの取り組みは、AIの欠陥を記録し、開発者や対応可能な他組織に確実に届ける、初の一元的な枠組みを目指すという。

Flaw Reporting for AI（AI欠陥報告）の略称であるこの新プラットフォームは、オンラインサービスの障害報告を集約するDowndetectorのようなサイトと同様の仕組みで機能する。ウェブサイトの障害を追跡する代わりに、FLARE-AIはチャットボットによるマルウェア生成や爆弾製造方法の提示、個人情報の漏えいに至るまで、幅広い事案の報告を受け付ける。

通報内容は検証された上で、AI開発企業のほか、技術の脆弱性を追跡する非営利団体MITREなどの組織に回付される。同プロジェクトは、ハギングフェイスのAI政策研究者アビジット・ゴーシュ氏と、コンピューター科学者のエレイン・ジュー氏、シェーン・ロンプレ氏が共同で主導した。

研究者らによると、現在のAI通報を巡る状況は分断されており、各企業がそれぞれ異なる基準と報告体制を採用しているため、利用者や独立系研究者が重大な欠陥を一貫した形で開示することが難しくなっているという。ゴーシュ氏はWIREDに対し「AIシステムの欠陥を報告するための一元的で説明責任を伴う仕組みは、現時点で存在しない」と述べ、報告体制が連携していないことが、急拡大するAI業界全体の透明性と説明責任を制約していると主張した。

この取り組みには32の組織に所属する49人のAI専門家が参加した。付随する研究論文は、利用者に代わって自律的にタスクを完了する、いわゆる「エージェント型AI」システムの能力向上と普及が進むにつれ、標準化された報告体制の重要性が増していくと論じている。