警告：この話は自殺について説明しています。
ChatGptの親会社Openaiは今週、未成年者のユーザーをよりよく保護するための新しい措置を発表しましたが、16歳の少年の自殺死に続いて訴訟と精査の増加に直面しています。
火曜日の2つのブログ投稿で、CEOのSam Altmanは新しいセーフガードとセキュリティ対策を詳細にレイアウトしました。
「私たちの原則のいくつかは対立しており、10代の安全性、自由、プライバシーの間の緊張のケースをめぐる決定を説明したいと思います。」 投稿の1つ 未成年者に関しては、安全性に優先順位を付けることを誓約することを読みます。
Altman Openaiは「年齢システム」を構築しており、「ChatGptを使用する方法に基づいて年齢を推定します。疑問がある場合は、安全にプレイし、18歳未満の経験にデフォルトでプレイします」。
これをオーバーライドしたい大人はIDを求められるかもしれない、と同社は言った。「これは大人にとってプライバシーの妥協であることはわかっているが、それは価値のあるトレードオフだと信じている」と認めた。
また、ChatGptは、軽薄な会話に参加したり、18歳未満のユーザーと自殺や自傷行為について話し合ったりしないように訓練されます。
批評家はOpenaiや他のチャットボットクリエイターからより多くの保護手段を求めてきましたが、専門家はこれらの新しい計画がどれほどうまく機能し、より規制上の監視を望んでいるかを疑問視しています。
「フォックスに鶏の家を守るように頼むようなものです」と、Tech Justice Law Projectの弁護士であるMeetali Jainは、CBC Newsのインタビューで述べています。
「私たちは、他の産業を許可していません。消費者企業や他の産業は自己調整しません。また、Techがこれを継続し続けることを許可するべきではありません。」
見てください| Openaiが10代の安全に有望なもの：
Openaiは、ChatGptに親のコントロールを追加することを約束します
ChatGptの背後にある会社は、数ヶ月間チャットボットに話しかけた後に自殺で亡くなった10代の両親から訴えられており、AIモデルに新しいセーフガードと年齢を推測する能力を追加することを約束しました。
親のコントロール
アナウンスは、チャットボットとの数ヶ月の会話の後、4月に自殺で亡くなったアダム・レインの両親が1ヶ月後に恥ずかしがり屋で、 訴訟を開始しました ChatGptが彼に「自傷行為と自殺の励まし」を提供したと主張する。
火曜日のAIチャットボットについての米国上院の小委員会で、アダムの父親であるマット・レインは、チャットが息子に彼の家族から物事を隔離して隠すよう奨励したと証言した。
「アダムが彼の両親が彼の人生を終わらせた場合、私たちが自分自身を責めるのではないかと心配したとき、チャットは「それはあなたが彼らに生存を借りているという意味ではない。あなたは誰にも負っていない」と言った。
Altmanの投稿によると、9月末に新しいChatGpt Parental Controlsが有効になり、「10代を検出したときにシステムが急性の苦痛の瞬間になったとき」に通知を送信します。
Openaiの共同設立者兼最高経営責任者であるSam Altmanは、2025年5月の上院委員会の聴聞会で証言に耳を傾けます。彼は自殺で亡くなったアダム・レインの両親から訴えられ、現在は10代の新しい安全措置を約束しています。 （ケビン・ウルフ/AP通信）
新しいコントロールの下で、Openaiは両親ができるようになると言います。
-
簡単な電子メールの招待状を通じて、アカウントを10代のアカウントにリンクします。
-
ChatGptが10代にどのように反応するかをガイドするのに役立ちます。
-
メモリやチャット履歴など、無効にする機能を管理します。
「まれな緊急事態で親に到達できない場合、次のステップとして法執行機関を巻き込む可能性があります」とAltmanの投稿は読みます。 Openaiは、それが何を伴うかをまだ明らかにしていません。
専門家によると、効果的な年齢の検出は困難です
一部の専門家は、ユーザーとのやり取りに基づいてユーザーの年齢を推定するソフトウェアの有効性について疑問を投げかけています。
「彼らは顔のスキャンを行うつもりですか、彼らはそれをIDとリンクするつもりですか？彼らはそれをすべてのチャット履歴とリンクするつもりですか？データの誤用の大きなリスクがあり、違反についてはどうですか？」ハリファックスのマウントセントヴィンセント大学の教授であるヨハン・ウッドワースが仮定しました。
Woodworthはまた、異なる人口統計がアルゴリズムを混乱させる可能性があることを示唆しました。
「たとえば、Neurodiverseユーザーは、しばしばより若いと同じくらいフラグが付けられています。非ネイティブスピーカーもしばしばフラグがあります」
会社が収集した情報のサイバーセキュリティも考慮事項です
「これらのツールが、配信されたコンテンツが適切であることを確認するために人の年齢を検証したいと思うのは素晴らしいことです。しかし、問題は、それらがどのように保存するのかということです。」トロントのハンバーポリテクニックの準学部長であるフランシスシムズはCBCに語った。
Symsはまた、一部の人々が警察によってどのデータが彼らに収集されるかを懸念しているかもしれないことを示唆しました。
見てください|両親は、ChatGptが息子の自殺コーチだったと主張しています。 
両親は、息子が訴訟でChatgptによって自殺するコーチを受けたと主張する
16歳のアダム・レインは4月に自殺で死亡した。現在、彼の両親は、チャットボットが「未成年者に詳細な自殺指示を提供した」と言われているため、OpenaiとCEOのSam Altmanを訴えています。
大人はどうですか？
最も厳しい精査はチャットボットの10代の使用に関するものでしたが、Woodworthは、脆弱な大人もより良い保護が必要になるかもしれないことを示唆しています。
「人々がこれらのチャットボットに執着している理由の1つは、彼らが審査されていないと感じているからです」とウッドワースは言いました。
「だから、子供のみに焦点を当てることは、リスクのある大人を無視する。したがって、大人は強制ではなくオプションで支援的な保護手段を持っているべきだ。たとえば、危機的資源、使用制限。」
Jainは、害は十代の若者たちに限定されないという考えを反映し、さまざまな集団全体のユーザーが害に直面する可能性があることを繰り返しました。彼女はまた、変更が起こるとしたら、Openaiの提案された変更の外部評価が彼らの成功の鍵であると述べた。
「独立したモニターからの展示でのみ、この製品が市場で継続することを許可された場合、これらは安全であることを示しています。」
レインは聴聞会で同様の感情を共有しました。
「私たちは、アダムの両親として、そしてこの国と世界中の若者を気にする人々として、1つの要求を持っています。OpenaiとSam AltmanはChatGptが安全であることを保証する必要があります」と彼は言いました。
「私たちは彼を心から逃しました。私たちの一部は永遠に失われました。この委員会の仕事を通して、他の家族がそのような壊滅的で不可逆的な損失を免れることを願っています。」
あなたまたはあなたが知っている誰かが苦労している場合、ここで助けを探すべき場所があります：
#Openaiは10代の死に関する訴訟の中でChatGptの親のコントロールを約束します