OpenaiのChatGptの背後にある会社は、カリフォルニアの家族がチャットボットが息子が彼の命を奪うよう奨励したと主張する訴訟を起こした1か月後の月曜日に、10代のアカウントの新しい親のコントロールを立ち上げました。
新しいコントロールが月曜日から展開されているため、親は子供がChatGPTを使用できない場合、ユーザーがチャットボットと対話できるようにし、10代のチャット履歴がChatGptのメモリに保存されないようにすることができない場合に特定の時間を設定できます。別のオプションでは、10代のデータがOpenaiのモデルを訓練するために使用されないようにします。
「親のコントロールにより、親はアカウントを10代のアカウントにリンクし、安全で年齢に適した経験のために設定をカスタマイズすることを可能にします」とOpenaiは述べました。 ブログ投稿 新機能の発表について。
親は自分のアカウントを子供のアカウントに接続して利益を得る必要があります 親のコントロール。
これらの新しいコントロールの下では、CHATGPTが10代の若者が自分自身に害を及ぼす可能性があるという潜在的な兆候を認識している場合、依存アカウントの親は通知を受け取ります。スペシャリストチームは、トラブルの兆候を確認し、電子メール、テキストメッセージ、またはモバイルプッシュアラートで親に連絡します。
「完全なシステムはありません。実際の危険がない場合にアラームを上げることがあることはわかっていますが、沈黙を保つよりも親に介入して警告する方が良いと思います」とオープンはブログの投稿で述べました。
Openaiが、人生に対する差し迫った脅威が発生した場合に親に到達できない場合、法執行機関に直接連絡する方法に取り組んでいます。保護者は、これらの新しいコントロールにアクセスするためにChATGPTアカウントを必要とします。
それを設定するために、親はアカウントから10代の設定に招待を送ることができます。その後、10代はそれを受け入れなければなりません。その後、親は自分のアカウントから10代のChatGPTエクスペリエンスを管理できます。十代の若者たちは、親に接続するように招待することもできます。
親と子供がアカウントを接続すると、10代のアカウントは、グラフィックコンテンツの削減、ウイルスの課題、性的、ロマンチック、または暴力的なロールプレイ、極端な美しさの理想など、追加のコンテンツ保護を自動的に取得し、体験を年齢に満ちたものに保ちます。
これらの変更は、チャットボットの10代の使用に関する規制と一般の精査の強化の中でもたらされます。
昨年、フロリダの母親は、別のチャットボットが電話をかけたと連邦訴訟で主張しました Charachter.ai 彼女の14歳の息子の自殺に責任がありました。
彼女は、息子が仮想キャラクターに自殺念慮を表明したとき、彼女に通知や助けを提供しなかったと会社を非難した。 Charachter.aiは、本物の人々と架空の人々を模倣するデジタルキャラクターを作成してやり取りできるロールプレイチャットボットプラットフォームです。今年はより多くの家族がCharachter.aiを訴えています。
8月、16歳のAdam Raineの両親はOpenaiを訴え、ChatGptが彼に自殺戦術に関する情報を提供したと主張して、10代が自分を殺したために使用したものを含めました。 AdamはChatGpt-4oの有料バージョンを使用しました。彼は、詳細は彼が書いていた物語のためのものだと言って、すでに実施されていた安全対策をバイパスすることができました。
9月に、Openaiの最高経営責任者Sam Altmanは、同社は「10代のプライバシーと自由よりも安全な安全性」を優先していると書いています。
Openaiの規則は、13歳未満のユーザーがサービスを使用することを禁止していますが、同社は月曜日に、ユーザーが18歳未満であるかどうかを予測し、ティーンに適した設定を自動的に適用する「年齢予測システム」も構築していると発表しました。
カリフォルニア州議会議員は、ハイテク業界がロビー活動した2つのAIチャットボット安全請求書を可決しました。
Gov. Gavin Newsomは、10月中旬までに法案、議会法案1064および上院法案243を承認または拒否する必要があります。
擁護団体は、Openaiの最新の変更は正しい方向への一歩であるが、実際の説明責任のために法律が必要であると述べた。
「彼らはより広いパターンを反映しています。害が発生した後にのみ公開を急いだ企業」と、AIの安全を提唱する青少年主導の活動家連合であるEncode AIの公共政策担当副社長であるAdam Billen氏は述べています。 「私たちはこれ以上空の約束を必要としません。AB1064のような法案を使用して、法律に定められた説明責任が必要です。」
#ChatGptは安全性の懸念が高まっている中で10代の若者向けに新しい親のコントロールを開始します