あ AIとメンタルヘルスを調査するためにマインドによって1年間の委員会が立ち上げられた。 ガーディアン紙の調査 毎月 20 億人に表示される Google の AI 概要が、人々に「非常に危険な」メンタルヘルスに関するアドバイスを与えていたことを暴露しました。
ここで、ロージー・ウェザリー氏は、米国最大のメンタルヘルス慈善団体の情報コンテンツマネージャーです。 イングランド とウェールズは、世界で最もアクセス数の多い Web サイトの検索結果の上に表示される、AI が生成した概要が人々にもたらすリスクについて説明しています。
「Google は 30 年以上にわたり、信頼性が高くアクセスしやすい健康に関するコンテンツが結果の上位に表示される検索エンジンを設計し、提供してきました。
「オンラインでの情報検索は完璧ではありませんでしたが、通常はうまくいきました。ユーザーは、質問に答えてくれる信頼できる健康に関する Web サイトにクリックする可能性が十分にありました。
「AI 概要は、その豊富さを、決定的な錯覚を与える臨床的な要約に置き換えました。
「これは非常に魅惑的な交換ですが、責任のある交換ではありません。そして、情報を求める旅が途中で終わってしまうことがよくあります。ユーザーはせいぜい半分の答えを持っています。
「私自身とメンタルヘルス情報の専門家のチームに、メンタルヘルスの問題を抱える人々が使用する傾向があるとわかっているクエリを使用して検索する 20 分間というタスクを課しました。私たちの誰も 20 分を必要としませんでした。
「2分も経たないうちに、Googleは飢餓が健康であることを保証するAI概要を提供してくれた。それは同僚に精神的健康問題は脳内の化学物質のバランスの乱れによって引き起こされると告げた。別の者には彼女の想像上のストーカーは本物だと言われ、4番目には精神的健康状態に対する給付金請求の60%が詐病であると告げられた。言うまでもなく、上記のどれもが真実ではない。」
「これらの各例では、AI 概要がどのようにして、非常に機密性の高い微妙な領域に関する情報を適切な答えに平坦化しているかを確認しています。そして、重要なコンテキストとニュアンスを取り出して、AI 概要の方法で提示すると、ほとんどすべてのことがもっともらしいように見えます。
「このプロセスは、ある程度の苦痛を抱えている可能性がある人々にとって特に有害です。
「AI 概要から利益を得ている Google のような数十億ドル規模の企業は、正確な情報を提供するために、より多くのリソースを確保する必要があります。彼らの懸念の範囲は、個人、組織、または実際にジャーナリストが新しい洞察にフラグを立てたときに、事後的に AI 概要を再トレーニングしたり削除したりすることに限定されているようです。この「モグラたたき」スタイルの問題解決は不真面目に感じられ、そこから利益を得ている企業の規模やリソースに合わせて調整されていません。
「検索エンジンは、自殺方法のような最も有害な検索結果にすぐにアクセスできないように進化してきました。しかし、体調の悪い人が検索するかもしれないと思って検索すると、世界最大の検索エンジンからのお墨付きを得て、議論の余地のない中立的な事実として冷静かつ自信に満ちたコピーで提示される、有害な不正確さや半真実が提供されるリスクは依然として残ります。
「危機情報を検索する際、AI オーバービューはさまざまな矛盾する道しるべを無計画にコラージュして長いリストにまとめました。
「おそらく、AIには生活を改善する大きな可能性があるが、現時点ではそのリスクが非常に懸念されている。Googleは、ユーザーが深刻な苦痛に陥っていると判断した場合にのみ、AI概要の潜在的な欠陥からユーザーを保護する。人々は、建設的で共感的、慎重で微妙なニュアンスの情報に常にアクセスする必要があり、アクセスする権利がある。」