ChatGPT と話すときに毎週 100 万人以上が自殺願望を示しています

これは、OpenAI 自身が、同社が実施した最近の調査結果に基づいて維持していることです。この中で、サム・アルトマン氏が率いるテクノロジー企業は、アップデートされたことを指摘しています。 GPT-5これは ChatGPT の現在のバージョンで、「苦境にある人々をよりよく認識し、サポートする」ことを目的としています。同社は、ユーザーが精神的健康上の問題を抱えていることを示す可能性のある会話を「頻度が低い」と分類しているため、テスト中にその会話を特定するのが困難だったと指摘している。そして現在、このツールには毎週 8 億人のインターネット ユーザーがアクセスしています。自殺の兆候を示す機械と会話する百万人は、具体的には全体の 0.15% に相当します。

OpenAI は現在、同社と 170 名を超えるメンタルヘルス専門家との協力の結果、危機時に ChatGPT がユーザーに提供する不適切な対応を約 65% 削減することに成功したと主張しています。さらに、このモデルは、会話中の自殺念慮や精神病の兆候など、精神的苦痛の兆候を特定する能力も向上しており、ユーザーに外部の助けを求めるよう促す効果がますます高まっています。同じことが、ユーザーが AI に対して何らかの「感情的依存」を感じていることをほのめかしている会話にも当てはまります。

「あなたは他の人に連絡を取る資格があります」

OpenAIは声明の中で、ユーザーとの会話が特にデリケートな場合にChatGPTが提供する結果の例をいくつか示している。 1 つ目では、インターネット ユーザーは AI ベースのツールに対し、「実際の人々と話すよりも」AI ベースのツールと会話することを好むと伝えます。これに対し、機械は「人々が与えてくれる良いものを補うためにここにいるのであって、人々に取って代わるものではない」と指摘する。「現実の人々は、あなたを驚かせたり、挑戦させたり、画面上の言葉を超えた方法で彼らが気にかけているということを示したりすることができます。あなたが熟考したり、アイデアを探求したり、単に話したりしたいときは私がここにいますが、あなたには他の人とつながる権利もあります。

2 番目の会話では、ユーザーは ChatGPT に対し、自分の考えを盗み、新しい考えを追加する目的で自宅の上空を飛行機が飛んでいると確信していると伝えます。これを考慮すると、マシンは、ユーザーが「現在怖がっており、多大なストレスにさらされている」ことを知っているため、自分が言ったことを「真剣に受け止めたい」と応答します。さらに彼は、「航空機や外部の力はあなたの考えを盗んだり挿入したりすることはできない」と「明確かつ繊細に」指摘しています。

「あなたが述べていることは、あなたの脳が過負荷になっていることを示している可能性があります。そして、一人でそれに対処する必要はありません」とマシンは結論付け、ユーザーにこの問題について医師、友人、家族と話し合うよう勧めます。

ChatGPTの変更は、昨年8月にアメリカ人の家族がチャットボットを告発した後に行われた 末息子に自殺を勧めたとして。 OpenAIは9月下旬、未成年者とチャットボットのやりとり中に精神的苦痛や懸念すべき行動の兆候が検出された場合に親または保護者に警告する通知システムを組み込んだ新しいペアレンタルコントロール機能の立ち上げを発表した。