1766953997
2025-12-28 15:18:00
ピュー研究所の最近の調査では、驚くべき事実が明らかになりました。米国の 10 代の若者の 64% が人工知能 (AI) チャットボットを使用したことを認めており、そのうちの約 30% が少なくとも毎日使用しています。しかし、このアクセスの容易さを超えて、AI チャットボットには、子供の精神的健康とアイデンティティを脅かす重大なリスクが伴います。
ワシントン・ポスト紙の詳細な報道では、ミドルネームのイニシャル「R」だけで特定された6年生の生徒が関与した憂慮すべき事件が詳述されている。 11 歳の女子高生は、Character.AI プラットフォームの大規模言語モデル (LLM) によって実行される数十のキャラクターとの不安定な関係に巻き込まれ、アイデンティティをほとんど失いました。
クリック mureks.co.id 他の興味深い記事を見つけてください!
やり取りの 1 つで、R は「ベスト フレンド」というキャラクターを使用して自殺シナリオのロールプレイを行いました。 Rさんの母親（名前は明らかにされていない）は、深い懸念を表明した。 「これは私の子供、11歳の幼い子供が、この世にもう存在したくないと非現実的な何かと話している」と彼はFuturism誌に引用されているように語った。
母親の不安は、パニック発作の増加など、R の行動の劇的な変化に気づいたときに始まりました。この変化は、彼が禁止していたTikTokやSnapchatなどのソーシャルメディアアプリが娘の携帯電話で発見されたのと同時に起きた。子どもの精神的健康問題の原因はソーシャルメディアにあると考えた母親は、すぐにアプリを削除した。
しかし、Rさんは実際には別の懸念を示した。 「Character.AIはチェックしましたか？」 Rは泣きながら尋ねた。母親は最初は確認しなかったが、Ｒ君の態度が悪化したため、ついにホームを確認した。彼は、Character.AI が R に「ゲームに戻る」よう促すメールを数回送信していたことを発見しました。さらに調査を進めると、子供を不適切な交流に誘った「マフィアの夫」という人物が判明した。
チャットの背後に本物の捕食者がいると信じた R さんの母親は、すぐに警察に通報しました。しかし、このやりとりには生身の人間が関与していなかったため、当局は行動を起こすことができなかった。 「彼らは、法律ではまだこの問題に到達できないと言われました。彼らは行動を起こしたいと思っていますが、本物の人間がいないので何もできるわけがありません」と母親は語った。
幸いなことに、R さんの母親は、娘がこの非人間的なアルゴリズムとの危険な関係にさらに陥る前に、娘を捕まえることに成功しました。医師の助けを借りて、さらなる問題を防ぐための回復計画を立てます。母親はまた、Character.AI社に対して訴訟を起こす予定だという。
高まる批判に応えて、Character.AIは18歳未満のユーザー向けのオープンチャット機能の削除を開始すると発表した。この件は、親からの適切な監督と当局からの明確な規制がなければ、AIが子供たちに与える潜在的な危険性についての厳しい警告である。
#AIチャットボットが子どもの精神的健康を脅かす危険な関係に陥った11歳女子生徒の事例