Graham Frasertechnology Reporter
ゲッティイメージズ
10代のChatGPTユーザーの親は、プラットフォームが子供が「急性の苦痛」にあると考えている場合、すぐに通知を受け取ることができます。
これは、チャットボットのメーカーであるOpenaiによって発表された多くの親のコントロールの1つです。
若いユーザーの安全性は先週、カリフォルニアのカップルがスポットライトを浴びました Openaiを訴えた 16歳の息子の死を超えて、ChatGptは彼が自分の命を奪うように勧めました。
Openaiは、来月中に「10代の強化された保護」と呼ばれるものを導入すると述べた。
先週、訴訟のニュースが登場したとき、Openai メモを公開しました そのウェブサイトでは、ChatGptは、英国のサマリア人など、問題を抱えているときに専門家の助けを求めるように人々に指示するように訓練されています。
しかし、同社は「デリケートな状況で意図されているように、システムが動作しなかった瞬間があった」ことを認めました。
今それは持っています さらなるアップデートを公開しました 追加のアクションの概要は、親が次のことを可能にする計画です。
- アカウントを10代のアカウントにリンクします
- メモリやチャットの履歴を含む、無効にする機能を管理する
- システムが10代を検出したときの通知を受け取ってください。
Openaiは、急性の苦痛を評価するために、「専門家の入力がこの機能を導き、両親と10代の間の信頼をサポートする」と述べました。
同社は、「AIが人々の幸福を支援し、彼らが繁栄するのを助けることができる」という「エビデンスに基づいたビジョン」を形作るために、青少年開発、メンタルヘルス、「人間コンピューターの相互作用」の専門家グループと協力していると述べました。
ChatGPTのユーザーは少なくとも13歳である必要があり、18歳未満の場合は それを使用する親の許可、Openaiによると。
先週、カリフォルニアで16歳のアダム・レインの両親であるマットとマリア・レインがカリフォルニアで提起した訴訟は、オープンが不法な死であると非難した最初の法的措置でした。
家族には、4月に亡くなったアダム間のチャットログと、彼が自殺の考えを持っていることを説明することを示すチャットグプトが含まれていました。
彼らは、プログラムが彼の「最も有害で自己破壊的な考え」を検証したと主張し、訴訟はOpenaiが過失と不法な死を非難している。
ビッグテクノロジーとオンラインの安全
Openaiからのこの発表は、子どもたちのオンライン経験をより安全にするために、世界をリードするハイテク企業からの一連の対策の最新のものです。
英国のオンライン安全法など、新しい法律の結果として多くの人が入ってきました。
これには、Reddit、X、ポルノのWebサイトでの年齢検証の導入が含まれます。
今週初め、FacebookとInstagramを運営するメタ – それはより多くのガードレールを導入するだろうと言った 人工知能（AI）チャットボットに – 自殺、自傷行為、摂食障害について10代の若者と話すことをブロックすることを含む。
米国上院議員は、リークされた内部文書のメモがAI製品がティーンエイジャーと「官能的な」チャットをする可能性があることを示唆した後、ハイテク大手の調査を開始しました。
同社は、ロイターが取得した文書のメモを、コンテンツの性的子どもを禁止するポリシーと誤っており、矛盾していると説明しました。
#子供が急性の苦痛にいるときに親に伝えるためにチャットグプト
