注文を受けている企業には、Character.ai、Elon Musk’s Xai Corp、その他の消費者向けAIチャットボットを運営しているその他の企業が含まれます [File]
|写真クレジット：AP
米国連邦取引委員会は木曜日に発表しました 子供やティーンエイジャーへの潜在的なリスクに焦点を当てたデジタルコンパニオンとして機能するAIチャットボットへの問い合わせを開始しました。
消費者保護庁は、Techジャイアンツアルファベット、メタ、Openai、SNAPを含む7社に注文を発行し、人間関係をシミュレートするように設計されたチャットボットからのマイナスの影響を監視および対処する方法に関する情報を求めました。
「子供をオンラインで保護することは最優先事項です」とFTCは、アンドリュー・ファーガソン会長は、子どもの安全を人工知能の革新における米国のリーダーシップを維持する必要性を強調していると述べています。
この問い合わせは、生成的AIを使用して人間のコミュニケーションと感情を模倣するチャットボットをターゲットにし、多くの場合、ユーザーに友人や腹心として自分自身を提示します。
規制当局は、子供と十代の若者たちがこれらのAIシステムとの関係を形成することに対して特に脆弱である可能性があるという特別な懸念を表明しました。
FTCは、企業がユーザーエンゲージメントを収益化し、チャットボットパーソナリティを開発し、潜在的な害を測定する方法を調べるために、幅広い調査力を使用しています。
代理店はまた、子どものアクセスを制限し、未成年者をオンラインで保護する既存のプライバシー法を遵守するために企業が取っているステップを知りたいと考えています。
注文を受けている企業には、Character.ai、Elon Musk’s Xai Corp、その他の消費者向けAIチャットボットを運営している他の企業が含まれます。
調査では、これらのプラットフォームがユーザーの会話から個人情報を処理し、年齢制限を実施する方法を調べます。
委員会は、特定の法執行の目的を持っていないが、将来の規制措置を知らせることができる研究を開始するために全会一致で投票しました。
このプローブは、AIチャットボットがますます洗練され、人気が高まっており、脆弱なユーザー、特に若者に心理的な影響について疑問を投げかけています。
先月、4月16日に自殺で亡くなったティーンエイジャーのアダム・レインの両親は、Openaiに対して訴訟を起こし、ChatGptがACTの実行方法について詳細な指示を与えたと非難しました。
訴訟が発生した直後、Openaiは、世界をリードするチャットボットの是正措置に取り組んでいると発表しました。
サンフランシスコに本拠を置く同社は、ChatGptとの交換が長期にわたるとき、チャットボットは、ユーザーが自殺の考えを持っていると言及した場合、メンタルヘルスサービスに連絡することを体系的に提案しなくなったことが特に観察されたと述べました。
（苦しんでいる人や自殺の考えを持っている人は、ここでヘルプライン番号を呼び出すことにより、助けとカウンセリングを求めることが奨励されています）
公開 – 2025年9月12日10:24 on