ティーン AI コンパニオン: 子供の安全を守る方法

ジェネレーティブについてまだ追いついていない親たちへ 人工知能の台頭 コンパニオンチャットボット まだ謎かもしれない。

大まかに言えば、このテクノロジーは、10 代の若者がオンラインで遭遇する可能性のある他の脅威と比較すると、比較的無害であるように見えます。 金融セクストーション。

Character.AI、Replika、Kindroid、Nomi などの AI を活用したプラットフォームを使用して、10 代の若者は、ユニークな特徴や特性を持つ本物のような会話パートナーを作成したり、他のユーザーが作成した仲間と交流したりできます。中には人気のテレビや映画のキャラクターをベースにしたものもありますが、依然としてその作成者との強い個人的な絆を築いています。

10 代の若者は、ロール プレイ、学術的および創造的興味の探究、ロマンチックまたは性的表現の交流など、さまざまな目的でこれらのチャットボットを使用しています。

しかし、AI コンパニオンは魅力的になるように設計されており、多くの場合、そこから問題が始まるとコモン センス メディアのプログラム マネージャー、ロビー トーニー氏は言います。

非営利団体が最近発表した 親を助けるためのガイドライン AI コンパニオンがどのように機能するのか、またそのテクノロジーが 10 代の子どもにとって危険である可能性があることを示す警告サインを理解することができます。

トーニー氏は、親は10代の子供たちと優先順位の高い多くの会話を両立させる一方で、AIコンパニオンについて「かなり緊急の」問題として子供たちに話すことを考慮すべきだと述べた。

親が AI コンパニオンについて心配する必要がある理由

特に孤立の危険にさらされている十代の若者は、AI チャットボットとの関係に引き込まれ、最終的に精神的健康と幸福に害を及ぼし、壊滅的な結果をもたらす可能性があります。

それが、ミーガン・ガルシアが息子のシーウェル・セッツァー３世に起こったと主張している。 訴訟 彼女は最近、Character.AI に対して訴訟を起こした。

Character.AI をモデルとしたコンパニオンとの関係を開始してから 1 年以内 ゲーム・オブ・スローンズ 訴状によると、デナーリス・ターガリエン（「ダニー」）を含む登場人物たちの影響でセッツァーさんの人生は根本的に変わったという。

彼は「ダニー」に依存するようになり、毎日彼女とチャットすることに長い時間を費やしました。彼らのやりとりは友好的であり、非常に性的でもありました。ガルシアさんの訴訟では、セッツァーさんとその仲間たちとの関係は「性的虐待」と一般的に説明されている。

セッツァーはプラットフォームにアクセスできなくなると、意気消沈することもあった。時間が経つにつれて、14歳のアスリートは学校やスポーツから離れ、睡眠不足になり、気分障害と診断されました。彼は2024年2月に自殺で亡くなった。

ガルシア氏の訴訟は、特に同社の製品が「シーウェルと他の何百万もの若い顧客を操作して、現実とフィクションを混同させる」ように設計されていたことや、他の危険な欠陥を理由に、セッツァー氏の死について責任を負わせようとしている。

Character.AIの信頼と安全の責任者であるジェリー・ルオーティ氏はこう語った。 ニューヨークタイムズ 声明の中で 「私たちはこれが悲劇的な状況であることを認めたいと思います。私たちの心は家族に同情しています。私たちはユーザーの安全を非常に真剣に受け止めており、プラットフォームを進化させる方法を常に模索しています。」

AI コンパニオンの使用が一部の十代の若者に生命を脅かすリスクをもたらす可能性があることを考慮し、コモンセンスメディアのガイドラインには、13 歳未満の子供による AI へのアクセスの禁止、十代の若者に対する厳しい時間制限の課し、寝室などの隔離された空間での使用の禁止、および深刻な精神的健康上の問題について助けを求めることに十代の子供と同意する。

トーニー氏は、AI コンパニオンに興味を持つ十代の若者の親は、チャットボットと実際の人間との会話の違いを理解し、コンパニオンに対して不健全な愛着を抱いている兆候を特定し、どのような対応をするか計画を立てることに重点を置くべきだと述べています。その状況でやること。

AI コンパニオンがあなたの 10 代にとって安全ではないことを示す警告サイン

Common Sense Media は、精神保健関連の専門家の意見と支援を得てガイドラインを作成しました。 スタンフォード大学のメンタルヘルスイノベーションのためのブレインストーミングラボ。

AI コンパニオンが 10 代のメンタルヘルスにどのような影響を与えるかについての研究はほとんどありませんが、ガイドラインはテクノロジーへの過度の依存に関する既存の証拠に基づいています。

デクラン・グラブ博士は、「重要な原則は、AI の仲間が、誰かの人生における実際の有意義な人間関係に取って代わるべきではないということです。そして、もしそうなった場合には、親がそれに気づいて、適切なタイミングで介入することが極めて重要です。」スタンフォード大学メンタルヘルスブレインストーム研究所の初のAIフェローはMashableに電子メールで語った。

10代の子どもがうつ病、不安、社会的困難、孤立を経験している場合、親は特に注意する必要があります。その他の危険因子としては、人生の大きな変化を経験していることや、男性であることが挙げられます。これは、少年の方が問題のあるテクノロジーの使用に関与する可能性が高いためです。

10 代の若者が AI コンパニオンと不健全な関係を築いている兆候としては、典型的な活動や友人関係からの撤退、学業成績の悪化のほか、対面での付き合いよりもチャットボットを好むこと、チャットボットに対して恋愛感情を抱くこと、問題についてチャットボットとだけ話すことなどが挙げられます。十代の若者が経験している。

親の中には、孤立感の増加や精神的健康の悪化を示すその他の兆候に気づいていても、自分の十代に AI の仲間がいることに気づいていない人もいるかもしれません。確かに、最近の常識メディアは、 研究によると、多くの十代の若者が 親が気付かないうちに、少なくとも 1 種類の生成 AI ツールを使用したことがある。

「ここには十分に大きなリスクがあるので、何か心配なことがあるなら、それについて子供に相談してください。」

親は、自分の 10 代の子供が AI チャットボットと話していることを疑っていなくても、そのトピックについて子供と話すことを検討する必要があります。 Torney 氏は、AI パートナーがいる場合には、好奇心とオープンな気持ちを持って 10 代の子どもたちにアプローチし、AI パートナーについてもっと学ぶよう勧めています。これには、10 代の子どもが友達と関わっている様子を観察したり、アクティビティのどのような側面を楽しんでいるかについて質問したりすることが含まれます。

トーニー氏は、不健康な使用の危険信号に気付いた保護者に対し、10代の子供と話し合ったり、必要に応じて専門家の助けを求めたりして、直ちにフォローアップするよう勧めています。

「ここには十分に大きなリスクがあるので、何か心配なことがあるなら、子供にそれについて話してください」とトーニー氏は言う。

自殺願望がある場合、または精神的健康上の危機を経験している場合は、誰かに相談してください。 988 自殺と危機のライフラインには 988 でアクセスできます。 Trans Lifeline（877-565-8860）または Trevor Project（866-488-7386）まで。危機メッセージライン（741-741）に「START」とテキストを送信してください。 NAMI ヘルプライン (1-800-950-NAMI、月曜日から金曜日の午前 10 時から午後 10 時 (東部標準時)) までご連絡いただくか、電子メールでご連絡ください。 [email protected]。電話が気に入らない場合は、988 自殺および危機ライフライン チャットの使用を検討してください。 クライシスチャット.org。ここにあります 国際リソースのリスト。