企業

死んだ10代の家族は、chatgptの新しい親のコントロールが十分ではないと言います

カリフォルニアのカップルを代表する弁護士 Chatgpt-Maker Openaiを訴えている人 16歳の息子の死により、人気のチャットボットの新しい親のコントロールを批判しました。同社は、ChatGptが子供に自分の命を奪うよう奨励したという家族の申し立てをきっかけに、新しい規則を導入しました。Openai氏によると、10代のユーザーの両親は、他の親のコントロールの中でも、子供が「急性の苦痛」にあるとプラットフォームが考えると、すぐに通知を受け取ることができると述べました。しかし、家族を代表する弁護士であるジェイ・エデルソンは、発表は「主題を変えようとするOpenaiの危機管理チーム」であると述べ、チャットボットを倒すよう求めた。「既知の危険な製品をオフラインにするために緊急措置を講じるのではなく、Openaiはより良いことをするためにあいまいな約束をしました」と彼は言いました。先週、カリフォルニアで16歳のアダム・レインの両親であるマットとマリア・レインがカリフォルニアで提起した訴訟は、オープンが不法な死であると非難した最初の法的措置でした。家族には、4月に亡くなったアダム間のチャットログと、彼が自殺の考えを持っていることを説明することを示すチャットグプトが含まれていました。彼らは、プログラムが彼の「最も有害で自己破壊的な考え」を検証したと主張し、訴訟はOpenaiが過失と不法な死を非難している。先週、訴訟のニュースが登場したとき、Openai メモを公開しました そのウェブサイトでは、ChatGptは、英国のサマリア人など、問題を抱えているときに専門家の助けを求めるように人々に指示するように訓練されています。しかし、同社は「デリケートな状況で意図されているように、システムが動作しなかった瞬間があった」ことを認めました。今それは持っています さらなるアップデートを公開しました 追加のアクションの概要は、親が次のことを可能にする計画です。アカウントを10代のアカウントにリンクしますメモリやチャットの履歴を含む、無効にする機能を管理するシステムが10代を検出したときの通知を受け取ってください。Openaiは、急性の苦痛を評価するために、「専門家の入力がこの機能を導き、両親と10代の間の信頼をサポートする」と述べました。同社は、「AIが人々の幸福を支援し、彼らが繁栄するのを助けることができる」という「エビデンスに基づいたビジョン」を形作るために、青少年開発、メンタルヘルス、「人間コンピューターの相互作用」の専門家グループと協力していると述べました。 Openaiは、エデルソン氏の主張にまだ対応していません。ChatGPTのユーザーは少なくとも13歳である必要があり、18歳未満の場合は それを使用する親の許可、Openaiによると。Openaiからのこの発表は、子どもたちのオンライン経験をより安全にするために、世界をリードするハイテク企業からの一連の対策の最新のものです。英国のオンライン安全法など、新しい法律の結果として多くの人が入ってきました。これには、Reddit、X、ポルノのWebサイトでの年齢検証の導入が含まれます。今週初め、FacebookとInstagramを運営するメタ - それはより多くのガードレールを導入するだろうと言った 人工知能（AI）チャットボットに - 自殺、自傷行為、摂食障害について10代の若者と話すことをブロックすることを含む。米国上院議員は、リークされた内部文書のメモがAI製品がティーンエイジャーと「官能的な」チャットをする可能性があることを示唆した後、ハイテク大手の調査を開始しました。同社は、ロイターが取得した文書のメモを、コンテンツの性的子どもを禁止するポリシーと誤っており、矛盾していると説明しました。 #死んだ10代の家族はchatgptの新しい親のコントロールが十分ではないと言います