科学＆テクノロジー

Openaiの10代の安全機能は、細い線を歩きます

OpenaiはNewを発表しました 未成年者がどのように関与するかについての懸念に対応するための継続的な取り組みの一環として、火曜日のChatGptの10代の安全機能 チャットボット。会社は構築しています 年齢システム それは、ユーザーが18歳未満であるかどうかを識別し、それらを「年齢に応じてグラフィックの性的コンテンツをブロックするシステム。システムがユーザーが自殺または自傷行為を検討していることを検出した場合、ユーザーの両親に連絡します。差し迫った危険の場合、ユーザーの両親が到達できない場合、システムは当局に連絡できます。で ブログ投稿 発表について、CEOのサム・アルトマンは、会社が自由、プライバシー、10代の安全のバランスをとろうとしていると書いています。「私たちは、これらの原則が対立していることを認識しており、誰もがその紛争を解決する方法に誰もが同意するわけではありません」とアルトマンは書いています。 「これらは難しい決定ですが、専門家と話をした後、これは私たちが最高だと思うものであり、私たちの意図で透明性を持ちたいと思っています。」Openaiは大人のユーザーにプライバシーと自由を優先する傾向がありますが、10代の若者は、それが安全であると言います。 9月末までに、会社は親のコントロールを展開して、親が子供のアカウントを自分のアカウントにリンクできるようにし、会話を管理し、機能を無効にすることができます。同社のブログ投稿によると、「システムが10代が急性の苦痛の瞬間にある」場合、親は通知を受け取ることができ、子供がChatGptを使用できる時期に制限を設定することもできます。動きは非常に厄介なものになります 見出しSは、AIチャットボットとの長い会話に従事した後、自殺または家族に対する暴力を犯して死ぬ人々について表面化し続けています。議員は気づいており、メタとオープンは精査されています。今月初め、連邦取引委員会は、メタ、Openai、Google、およびその他のAI企業に、彼らのテクノロジーが子供にどのように影響するかについての情報を引き渡すよう求めました。 ブルームバーグによると。同時に、Openaiは、私が話した情報筋によると、消費者チャットを無期限に保存することを義務付けている裁判所命令の下にあります。今日のニュースは、未成年者を保護するための重要なステップであり、チャットボットとの会話は非常に個人的なものであり、消費者のプライバシーを最も極端な状況でのみ違反すべきであるという考えを強化するための精通したPRの動きです。「chatgptのセックスボットアバター」Openaiで私が話した情報源から、ユーザーを保護する負担は多くの研究者に重くのしかかっています。彼らは楽しくて魅力的なユーザーエクスペリエンスを作成したいと思っていますが、すぐになります 悲惨なsycophantic。 Openaiのような企業が未成年者を守るための措置を講じていることは肯定的です。同時に、連邦規制がない場合、これらの企業が正しいことを強制することはまだ何もありません。で 最近の インタビュー、タッカー・カールソンはアルトマンに正確に答えるように促した 誰が 私たちの残りに影響を与えるこれらの決定を下しています。 Openaiチーフは、特定の属性のモデルを調整する責任を負うモデル行動チームを指摘しました。 「あなたがそれらの電話に対して責任を負うべきだと思う人は私です」とアルトマンは付け加えました。 「私は公の顔です。最終的に、私はそれらの決定の1つまたは私たちの取締役会を覆すことができるように。」 #Openaiの10代の安全機能は細い線を歩きます