1716117384
2024-05-18 11:31:47
人工知能の安全性に関する主要な国際報告書によると、この技術がもたらすリスクについて専門家は同意できず、AIが私たちに役立つか害を及ぼすかは不明だという。
カナダのヨシュア・ベンジオ氏が議長を務めるこの報告書は、「汎用AIの将来の軌道は著しく不透明である」と結論付けている。
同報告書は、「近い将来においても、非常に前向きな結果と非常に否定的な結果の両方を含む、幅広い軌道」が可能であると述べている。
この報告書は、人工知能に関する初の世界的な会議である英国主催の昨年のAI安全サミットで委託された。
英国は、AIの「ゴッドファーザー」と呼ばれ、ケベックAI研究所ミラの科学ディレクターであるベンジオ氏に報告書の議長を依頼した。 これは、来週韓国のソウルで開催されるAIに関する別の世界サミットに先立って公開された。
「高度なAIが非常に急速に発展していること、そしてこれらの高度なAIシステムが将来私たちの生活や働き方にどのような影響を与えるかについてはかなりの不確実性があることを私たちは知っています」とベンジオ氏は報告書の中で述べた。
英国政府は金曜日のプレスリリースで、この報告書はAIの安全性に関する「史上初の独立した国際科学報告書」であり、来週の韓国での議論に情報を提供する上で「重要な役割を果たす」と述べた。
この報告書には、30カ国、欧州連合、国連から指名されたパネルを含む75人の専門家グループが貢献した。 金曜日に発表された報告書は暫定的なもので、最終版は年末までに発表される予定だ。
プロンプトに基づいてテキスト、画像、ビデオを生成できる OpenAI の ChatGPT などの汎用 AI システムに焦点を当てています。
報告書によると、専門家らは「汎用AIの機能、リスク、リスク軽減を巡る、大小さまざまないくつかの疑問点で引き続き意見が一致していない」という。
議論されている分野の1つは、「大規模な労働市場への影響、AIを利用したハッキングや生物攻撃、社会が汎用AIに対する制御を失うなどのリスク」の可能性だ。
この報告書では、偽のコンテンツ、偽情報、詐欺、サイバー攻撃を通じてAIが引き起こす可能性のある危害を含む、多くのリスクについて概説しています。 また、特に「ヘルスケア、求人募集、金融融資などの一か八かの分野」において、AIにおけるリスクバイアスが引き起こす可能性があることにも警告を発している。
考えられるシナリオの 1 つは、人間が人工知能を制御できなくなり、たとえそれが害を及ぼす可能性があるとしてもテクノロジーを制御できなくなるということです。
報告書は、現在の汎用技術がそのようなリスクを引き起こさないということでは意見が一致していると述べているが、一部の専門家は、「行動し、計画し、目標を追求する」ことができる自律型AIの開発に向けた継続的な取り組みがそのような結果につながる可能性があると考えている。
「制御不能シナリオがどの程度妥当か、いつ起こるか、そしてそれを軽減することがどれほど難しいかについて、専門家の意見は一致していない」と報告書は述べている。
カナダ通信社によるこのレポートは、2024 年 5 月 18 日に初めて発行されました。
#ニュース #リスクについて合意なし #レポート