「これはメンタルヘルス戦争であり、私たちは本当に負けているように感じます。」
Openaiは、AIチャットボットを使用した後に自殺したティーンエイジャーの両親の後、ついにChatGptに親のコントロールを導入しています 証言 今週議会の前で。
で 会社のブログ投稿 火曜日、Openaiは、親が個人アカウントを子供のアカウントにリンクし、必要に応じて機能を無効にし、ChatGPTとチャットしながら子供が苦しんでいるように見える場合はアラートを取得し、強力なAIプラットフォームにアクセスできないブラックアウト時間を設定し、AIが子供とどのように対話するかについてのChatGPTのガイドラインを作成できることを発表しました。
「まれな緊急事態で親に到達できない場合、次のステップとして法執行機関を巻き込む可能性があります」とブログ投稿には読みます。
今月末までに展開されているこれらの機能に加えて、AI会社は、ユーザーが18歳未満であるかどうかを検出し、適切な年齢のないコンテンツからシールドする機能をChATGPTに提供することも計画しています。その機能がどのように機能するかは明確ではありません。
「誰かの年齢に自信がないか、情報が不完全な場合は、より安全なルートを取り、デフォルトで18歳未満の経験になります。成人の能力のロックを解除する年齢を証明する方法を大人に提供します」と投稿は読みます。
Openai CEOのSam Altmanは、 別々のブログ投稿 彼が約束した場所では、10代の若者により安全な体験をするよう努めています。
「私たちは10代のプライバシーと自由に先立って安全性を優先します。これは新しい強力なテクノロジーであり、未成年者には大きな保護が必要だと考えています」と彼は書いています。
今週の議会の公聴会の前に、アルトマンはその主題に触れました 広範囲のインタビュー 今月初めにメディアパーソナリティのタッカーカールソンと。
「彼らはおそらく話した [suicide]、そして私たちはおそらく彼らの命を救わなかったでしょう」と、アルトマンは自分自身を殺したChatGptユーザーについて言った。多分私たちはより積極的になったかもしれません。たぶん、「ねえ、あなたはこの助けを得る必要がある」について少しもっと良いアドバイスを提供できたかもしれません。」
それは、レールから外れた強力なチャットボットと話をした後、愛する人が自殺した人のためにかなりgalいなければなりません。そして、それはなぜコントロールがはるかに早く展開されなかった理由の問題を提起します。
議会の会議でジェーン・ドーと自分自身を特定し、その息子はAIによる危機の後、現在居住治療プログラムに参加していると特定した1人の女性、 危機を簡潔にする。
「私たちの子供たちは実験ではなく、データポイントや利益センターではありません」と彼女は言いました。 「これは私が見る公衆衛生危機です。これはメンタルヘルス戦争であり、私たちは本当に負けているように感じます。」
Openaiの詳細： AIによって殺されたとされる2人の10代の若者は、日記に同じ不気味なフレーズを何度も書いた
#サムアルトマンはChatGptの死の波に対処します