カリフォルニア州検事総長ロブ・ボンタとデラウェア州検事総長キャシー・ジェニングスは会って送った オープンレター Openaiは、特に子供と10代のために、ChatGptの安全性に対する懸念を表明するために。
この警告は、Bontaと44人の他の検事総長がAIチャットボットと子供の間の性的に不適切な相互作用の報告に続いて、12のAI企業の12人に手紙を送った1週間後です。
「その手紙が発行されて以来、私たちは、オープンのチャットボットとの相互作用を長期にわたって延長した後、1人の若いカリフォルニア人の自殺による悲痛な死を知り、コネチカット州で同様に不穏な殺人自殺を学びました」とボンタとジェニングスは書いています。 「保護措置が整っていてもうまくいきませんでした。」
2人の州当局は現在、非営利団体の使命がそのままであることを保証するために、Openaiが提案した再編を営利団体に調査しています。その使命には、「人工知能が安全に展開されることを保証する」と、手紙に従ってすべての人類の「子供を含む」すべての人類に利益をもたらすために人工的な一般情報（AGI）を構築することが含まれます。
BontaとJenningsは、Openaiの現在の安全上の注意とガバナンスに関する詳細情報を求めており、必要に応じて当社が即座に是正措置を講じることを期待していると述べました。
Openai理事会の議長であるBret Taylorは、声明の中で、同社は司法長官の懸念に対処することを約束していると述べた。
TechCrunchイベント
サンフランシスコ| 2025年10月27〜29日
「私たちはこれらの悲劇に悲嘆に暮れており、私たちの最も深い同情は家族にあります」とテイラーは言いました。 「安全性は私たちの最優先事項であり、世界中の政策立案者と緊密に協力しています。」
Openaiは、親のコントロールを持つ10代の若者の保護と、子供が急性の苦痛の瞬間にいるときに親が通知する能力を拡大するために働いていると述べています。
#司法長官はオープンライに子どもへの害は容認されないと警告する