ガーディアン紙の調査で、グーグルのAI概要が人々に「非常に危険な」医学的アドバイスを与えていたことが明らかになった後、マインドは人工知能とメンタルヘルスに関する重要な調査を開始している。
イングランドとウェールズで活動するメンタルヘルス慈善団体は、1年間にわたる委員会で、メンタルヘルス問題に悩む世界中の何百万人もの人々の生活にAIがますます影響を与える中、必要なリスクと安全策を調査する予定だ。
この種の調査は世界初の試みであり、世界の一流の医師やメンタルヘルスの専門家に加え、経験豊富な人々、医療提供者、政策立案者、テクノロジー企業が集結する。マインドは、強力な規制、基準、安全策を備えた、より安全なデジタルメンタルヘルスエコシステムの形成を目指すと述べている。
この発表は、Google AI の概要で誤った誤解を招く健康情報によって人々がどのように危害の危険にさらされているかをガーディアン紙が明らかにした後に行われた。 AI が生成した概要は毎月 20 億人に表示され、世界で最もアクセス数の多い Web サイトの従来の検索結果の上に表示されます。
報告後、Googleは AI の概要を削除しました すべてではありませんが、一部の医療検索に適用されます。マインド社の最高経営責任者であるサラ・ヒューズ博士は、メンタルヘルスに関する「危険なほど不正確な」アドバイスが依然として国民に提供されていると述べた。最悪の場合、偽情報により命が危険にさらされる可能性があると彼女は述べた。
ヒューズ氏は「AIには、精神的健康上の問題を抱える人々の生活を改善し、支援へのアクセスを広げ、公共サービスを強化する大きな可能性があると信じている。しかし、その可能性は、リスクに見合った安全策を講じ、責任を持って開発、導入された場合にのみ実現される」と述べた。
「ガーディアン紙の報道で明らかになった問題は、AIが日常生活により深く組み込まれるにつれて必要となるリスク、機会、安全策を調査するために、私たちがAIとメンタルヘルスに関するマインド委員会を立ち上げる理由の1つです。
「私たちは、イノベーションが人々の幸福を犠牲にすることのないようにしたいと考えています。また、メンタルヘルスの問題を実際に経験した私たちが、デジタル サポートの未来を形作る中心になれるようにしたいと考えています。」
Google は、生成 AI を使用してトピックや質問に関する重要な情報のスナップショットを提供する AI 概要について、「役立つ” そして “信頼性のある”。
しかし、ガーディアンは、一部の AI 概要が不正確な健康情報を提供し、人々を危害の危険にさらしていることを発見しました。この調査により、がん、肝疾患、女性の健康、精神的健康状態など、さまざまな問題にわたって虚偽で誤解を招く医学的アドバイスが明らかになりました。
専門家らは、精神病や摂食障害などの症状に関する一部のAI概要は「非常に危険なアドバイス」を提供しており、「不正確、有害、または人々が助けを求めることを避ける可能性がある」と述べた。
Googleはまた、AIが生成した医療アドバイスが間違っている可能性があるという安全警告を軽視している。 ガーディアンが見つけた。
ヒューズ氏は、弱い立場にある人々が「メンタルヘルスに関する危険なほど間違った指導」を受けていると述べ、その中には「治療を受けることを妨げ、偏見や差別を強化し、最悪の場合は命を危険にさらす可能性のあるアドバイス」が含まれていると述べた。
さらに、「人々は安全で正確で、証拠に基づいた情報を受け取るべきであり、表面上自信を持って提示されたテストされていないテクノロジーではありません。」と付け加えた。
Guardian アプリには、ストーリーに関するヒントを送信するツールがあります。メッセージはエンドツーエンドで暗号化され、すべての Guardian モバイル アプリが実行する日常的なアクティビティ内に隠蔽されます。これにより、観察者はあなたが私たちと通信していること、ましてや何を話しているのかをまったく知ることができなくなります。
Guardian アプリをまだお持ちでない場合は、ダウンロードしてください (iOS/アンドロイド) メニューに移動します。 「安全なメッセージング」を選択します。
電子メール (安全ではありません)
高度なセキュリティや機密性が必要ない場合は、電子メールを送信できます。 [email protected]
SecureDrop およびその他の安全な方法
監視や監視されることなく Tor ネットワークを安全に使用できる場合は、ガーディアン経由でメッセージや文書を送信できます。 SecureDrop プラットフォーム。
最後に、私たちのガイドは、 theguardian.com/tips では、安全に連絡するためのいくつかの方法をリストし、それぞれの長所と短所について説明します。
“,”画像”:”https://i.guim.co.uk/img/media/ae475ccca7c94a4565f6b500a485479f08098383/788_0_4000_4000/4000。 jpg?width=620&quality=85&auto=format&fit=max&s=45fd162100b331bf1618e364c5c69452″,”credit”:”イラスト:ガーディアン デザイン / リッチ カズンズ”}”>
クイックガイド
この話についてアンドリュー・グレゴリーに連絡してください
見せる
この話について共有したいことがありましたら、次のいずれかの方法を使用して Andrew に連絡してください。
Guardian アプリには、ストーリーに関するヒントを送信するツールがあります。メッセージはエンドツーエンドで暗号化され、すべての Guardian モバイル アプリが実行する日常的なアクティビティ内に隠蔽されます。これにより、観察者はあなたが私たちと通信していること、ましてや何を話しているのかをまったく知ることができなくなります。
Guardian アプリをまだお持ちでない場合は、ダウンロードしてください (iOS/アンドロイド) メニューに移動します。 「安全なメッセージング」を選択します。
電子メール (安全ではありません)
高度なセキュリティや機密性が必要ない場合は、電子メールを送信できます。 [email protected]
SecureDrop およびその他の安全な方法
監視や監視されることなく Tor ネットワークを安全に使用できる場合は、ガーディアン経由でメッセージや文書を送信できます。 SecureDrop プラットフォーム。
最後に、私たちのガイドは、 theguardian.com/tips では、安全に連絡するためのいくつかの方法をリストし、それぞれの長所と短所について説明します。
この委員会は1年間運営され、AIとメンタルヘルスの交差点に関する証拠を収集し、メンタルヘルス疾患を持つ人々の経験が「見て、記録し、理解する」「オープンスペース」を提供する予定だ。
Mind の情報コンテンツ マネージャーである Rosie Weatherley 氏は、AI 概要が登場する前は、メンタルヘルス情報のグーグル検索は「完璧ではなかった」ものの、通常はうまく機能していたと述べました。彼女は次のように述べています。「ユーザーは、自分たちの質問に答えてくれる信頼できる健康に関するウェブサイトにクリックスルーする可能性が高く、その後、ニュアンス、実際の経験、ケーススタディ、引用、社会的背景、そしてサポートへのさらなる歩みを提供してくれました。
「AI 概要は、その豊富さを、決定的であるかのような錯覚を与える臨床的な要約に置き換えました。ユーザーに、ある形式の明確さ (簡潔さと平易な英語) をより多く与える一方、別の形式の明確さ (情報源の安全性とそれをどの程度信頼するか) はあまり与えません。これは非常に魅力的な交換ですが、責任のある交換ではありません。」
Google の広報担当者は次のように述べています。「特に健康などのトピックに関して、AI 概要の品質に多大な投資を行っており、大部分が正確な情報を提供しています。
「私たちのシステムが、遭難している可能性のある人物を特定したクエリについては、関連する地域の危機ホットラインを表示するよう努めています。参照されている例を確認することができないため、その正確さについてコメントすることはできません。」