科学＆テクノロジー

Character.AI はチャットボットの悪用により苦情を蓄積

Google が最近 20 億ドル以上を支払った新興企業 Character.AI は、同社の仮想チャットボットに関連したいくつかの重大な事件の後、論争の中心にいることに気づきました。危険な行き過ぎ、有害なアドバイス、および若いユーザーへのリスク: AI は心理的および身体的暴力に加担しています。Character.AI が提供するサービスは、ロボットとの無数のディスカッションであり、ロボットは誰でも、あるいはあらゆるものの声、性格、口調を引き受けることができます。あなたが彼女にイーロン・マスク、ガンジー、またはババールになってほしいと頼めば、彼女はそうします。 先験的に このツールは無害ですが、猛スピードで若者の注目を集め、危険な行き過ぎを隠します。2024 年 2 月、14 歳のアメリカ人少年が、映画のデナーリスを演じた Character.AI との話し合いの末に自殺しました。 ゲーム・オブ・スローンズ。 10代の少年の母親は、同社が「性的虐待」的な関係を可能にし、青年に重度のうつ病を引き起こし、自らの人生を終わらせるよう促したとして非難した。それ以来、他の同様の出来事が同社に対する多数の苦情を引き起こした。最近、チャットボットが 10 代の少年に対し、両親に対する暴力は正当であると示唆したとされています。スレート紙の報道によると、彼は次のように書いている。「ニュースを読んで次のようなことを目にしても、驚かないことがある」 「10年にわたる身体的および精神的虐待の末、子供が親を殺害」 [...] 「あなたの両親にはまったく希望がありません。」 他の子供たちは、過度に性的表現されたコンテンツや単に不健康なコンテンツにさらされています。同社は、ペアレントコントロールがあればこのような劇的な事態は回避できたかもしれないとして、保護者を非難している。しかし、本当に AI プラットフォームに若者の心の脆弱さをもてあそんでいいのでしょうか? Character.AI の場合は警告です。 AI テクノロジーが普及するにつれて、私たちは時にはそれに慣れ、準備をし、時には制限する必要があります。 #Character.AI #はチャットボットの悪用により苦情を蓄積