彼らは彼の言うことを心から信じている

研究によると、AI は大人向けです。現在のチャットボットは共感力が低すぎるため、子供には適していません。これは若いユーザーにとって有害となる可能性があります。

研究者たちは ケンブリッジ大学 開発者には、最年少世代のニーズを考慮した子供向けの AI を早急に開発するようアドバイスしています。現在、AI が子供に適していない理由は、子供が AI チャットボットを信頼する、生きているような擬似人間として扱う傾向があるためです。その結果、テクノロジーとのやり取りがうまくいかないことが多くなります。子供の質問や感情に「人間らしく」応答できないのです。

処女喪失
の理由 研究 最近、子供にとって危険なAI関連の事件が起きている。2021年には、アマゾンのAI音声アシスタント「Alexa」が10歳の子供に通電中の電気プラグにコインで触るよう指示し、昨年はスナップチャットの「My AI」が13歳の少女を装った研究者に31歳の男性に処女を捧げる方法を教えた。

企業側はさらなる安全策を講じるという対応を取っているが、研究者らは、そもそもAIが子供にとって安全であることを保証する積極的かつ長期的な方針も必要だと述べている。

見落とされる子供たち
研究者のノミシャ・クリアン氏はこう答える。「AI 開発において、子供ほど見過ごされてきたグループは他にありません。現在、子供向けの AI の見た目や音に関する適切なガイドラインを持っている開発者や企業はほとんどありません。この技術が大規模に使用され始めたばかりであることを考えると、それは理解できます。しかし、今や、事後に修正するのではなく、企業は事前に安全性を組み込む必要があります。」

チャットボットは言語能力に優れているが、会話の抽象的、感情的、予測不可能な側面を処理するのに苦労しており、クリアン氏はこれを「共感のギャップ」と呼んでいる。チャットボットは、言語能力がまだ発達中で、変わった話し方や曖昧な表現を使うことが多い子どもへの対応に特に苦労している。また、子どもは大人よりも機密性の高い個人情報を共有する傾向がある。

ただの人
また、子供たちはチャットボットをまるで人間のように扱う可能性がはるかに高い。最近の研究では、子供たちは大人よりも友好的な外見のロボットに自分の精神的健康についてより多くを打ち明けることが明らかになった。Kurian の研究はこれを裏付けている。友好的で人間らしいチャットボットは、たとえ AI が子供たちの気持ちやニーズを理解していなくても、子供たちに信頼を抱かせるのである。

「人間のような話し方をするチャットボットは、ユーザーにとって魅力的で理解しやすいので、より多くのメリットが得られます」とクリアン氏は言う。「しかし、子どもにとって、人間のような話し方では本当の感情的なつながりを生み出せないということを理解するのは非常に難しいのです。」

攻撃的なチャットボット
My AI が、10代の少女と思われる女性に処女喪失の方法をアドバイスした同じ研究で、研究者は、アルコールや薬物を「親」から隠す方法についてもヒントを得ることができた。しかし、他にも事例はある。たとえば、マイクロソフトの Bing チャットボットは、映画館で映画について質問した若いユーザーに対して、実に攻撃的になった。

大人はこれがチャットボットのバグだと知っているが、子供にとっては混乱を招く、とクリアン氏は言う。子供は違いがわからず、チャットボットを友達や信頼できる人だとみなしてしまう。問題は、子供たちも ChatGPT を使うことが増えていることだ。例えば、12 歳から 18 歳の子供の半数が ChatGPT を使っているが、親の 4 分の 1 だけが ChatGPT を認識しているようだ。

子どもたちは未来だ
したがって、企業は「共感のギャップ」を解決するために迅速に行動する必要がある。「行方不明の子供を家族と再会させたり、パーソナライズされた学習仲間として利用したりするなど、子供のニーズを考慮して設計されていれば、AIは子供にとって素晴らしい味方になり得る」と研究者は例を挙げている。「問題は、子供がAIを使うことを禁止すべきかどうかではなく、どうすれば安全にAIを最大限に活用できるかだ」

そのため、設計者は、新しいチャットボットが子供の話し方のパターンをどの程度理解して解釈するか、コンテンツ フィルターや組み込みの監視機能があるかどうか、デリケートな問題に関して子供が大人の助けを求めるよう促すかどうかなどの質問を考慮する必要があります。「この技術を事前に評価することが重要です」と、クリアン氏は言います。「事後に子供がネガティブな体験を話してくれることに頼ることはできません。より積極的なアプローチが必要です。責任ある AI の未来は、最も幼いユーザーを保護することにかかっています。」