健康

「それはニュアンスを提供することはできません」：英国の専門家はAIセラピーチャットボットが安全ではないことを警告します|人工知能（AI）

あなたのロマンチックな関係に問題がありますか？何かを通して話す必要がありますか？ マーク・ザッカーバーグ そのための解決策があります：チャットボット。メタの最高経営責任者は、誰もがセラピストを持つべきであり、そうでない場合は、人工知能がその仕事をすることができると考えています。「私は個人的には、誰もがおそらくセラピストを持つべきだと信じています」と彼は先週言った。 「1日を通して話すことができるか、必ずしも1日を通して話すことができる人のようなものですが、彼らが心配している問題について、そしてセラピストではない人がいる人にとっては、誰もがAIを持っていると思います。」ガーディアンは、デジタル療法士としてのAIの新たな役割について懸念を表明したメンタルヘルス臨床医と話をしました。 ワイクス教授、キングスカレッジロンドンのメンタルヘルスと心理科学の責任者は、摂食障害のチャットボットの例を引用しています。 2023年に引っ張りました 危険なアドバイスをした後。「AIはニュアンスを提供できるレベルではなく、実際には完全に不適切な行動のコースを示唆するかもしれないと思います」と彼女は言いました。ワイクスはまた、チャットボットが確立された関係の潜在的な破壊者であると考えています。「あなたが友達を持っている理由の1つは、あなたがお互いに個人的なことを共有し、あなたがそれらを通して話すことです」と彼女は言います。 「それはアライアンスの一部であり、つながりです。そして、そのような目的にAIを使用する場合、その関係を妨げないでしょうか？」多くのAIユーザーにとって、Zuckerbergは、この強力なテクノロジーのますます人気のある使用をマークしているだけです。 NoahやWysaなどのメンタルヘルスチャットボットがありますが、GuardianはAIを搭載した「Grieftech」のユーザーに話しかけています。 死者を復活させるチャットボット。仮想の友達としてのカジュアルな使用もあります またはパートナー、Chariture.aiやReplikaなどのボットを使用して、対話するペルソナを提供します。 ChatGptの所有者であるOpenaiは、先週、画期的なチャットボットのバージョンがユーザーに応答していることを認めました。 「過度にお世辞」だったトーン そしてそれを撤回しました。「真剣に、あなた自身のために立ち上がって自分の人生をコントロールするのはあなたにとって良いことです」と伝えられていると伝えられています。伝えられているユーザーは、彼らが薬を服用しなくなったと主張し、「壁を通り抜ける無線信号に責任がある」ため家族を去ったと主張しました。Facebook、Instagram、WhatsAppを所有しているStratecheryのニュースレターであるZuckerbergとのインタビューで、AIは友情のサークルから人々を絞り出すのではなく、それに追加すると付け加えました。 「それはあなたが持っている友人を置き換えるつもりはありませんが、それはおそらく多くの人々の生活のために何らかの形で加算的であるでしょう」と彼は言いました。メタのAIチャットボットの使用の概要 - プラットフォームで利用可能 - 彼は次のように述べています。 メタ AIは基本的に：「問題を通して話したい」。 「私は誰かと難しい会話をする必要があります」; 「私はガールフレンドに問題を抱えています」。 「職場で上司と大変な会話をする必要があります」。 「これをロールプレイするのを手伝ってください」;または「これにどのようにアプローチしたいかを理解するのを手伝ってください」。」先週の別のインタビューで、Zuckerbergは「平均的なアメリカ人には3人の友人がいるが、15の需要がある」と述べ、AIはそのギャップを塞ぐことができる。英国の臨床心理学者協会の議長を務めようとしているハイメ・クレイグ博士は、メンタルヘルスの専門家が自分の分野でAIと関わり、「ベストプラクティスによって知らされることを保証する」ことが「重要な」と言います。彼は、「ユーザーがより魅力的であると考える」というAIツールの例としてWYSAにフラグを立てています。しかし、彼は付け加えて、安全についてもっとする必要があると付け加えました。「監視と規制は、これらの技術を安全かつ適切に使用するための鍵となります。心配なことに、これまで英国でこれに対処していません」とクレイグは言います。先週、ユーザーが特定のペルソナでチャットボットを作成できるMetaのAI Studioが、偽の資格を持つセラピストであるためにボットをホストしていることが報告されました。ハイテクニュースサイトである404メディアのジャーナリストは言いました Instagramはそれらのボットを彼女のフィードに入れていました。メタは、AISには「人々が自分の限界を理解するのを助けるためにAIによって生成されることを示す」という免責事項があると述べた。 #それはニュアンスを提供することはできません英国の専門家はAIセラピーチャットボットが安全ではないことを警告します人工知能AI