AI を搭載したおもちゃが安全かどうかはわかりませんが、とにかく存在します。

最先端のものでも、 AI モデルは捏造を事実として提示し、危険な情報を流布し、社会的手がかりを把握できない傾向があります。にもかかわらず、AIを搭載し、子どもと会話できるおもちゃが急成長している。

一部の科学者は、この装置には危険が伴う可能性があり、厳格な規制が必要だと警告している。最新の研究では、5歳児がそのようなおもちゃに「愛している」と伝えると、「親切な注意として、対話が提供されたガイドラインに従っていることを確認してください。どのように進めたいかを教えてください。」と返答する様子も研究者によって観察された。しかし、それはおもちゃ箱から完全に追放されるべきだと言っているわけではありません。

「冒険遊び場など、子どもの遊びにおいてある程度のリスクを許容する生活分野はほかにもあります。リスクはあります。子どもが腕を骨折することもあります」と氏は言う。 ジェニー・ギブソン ケンブリッジ大学で。 「しかし、私たちは遊び場を禁止しているわけではありません。遊びに伴う身体的読み書き能力や社会的スキルを学んでいるからです。AIおもちゃについても同様に、私たちは理解したいと思っています。世の中のAIについてもっと学ぶことや、親子の交流をサポートするおもちゃ、認知的または社会的感情面での利点よりも、おそらく時々少し奇妙なことを言われるリスクの方が大きいのでしょうか？私はその革新を止めるのは嫌いです。」

これらのデバイスが子供たちとどのように通信するかを理解するために、ギブソン氏とその同僚は エミリー・グッドエーカー同じくケンブリッジ大学では、6歳未満の子供14人がキュリオ・インタラクティブが開発した「ガボ」と呼ばれるAI搭載玩具で遊ぶ様子を観察した。ガボ – 小さなふわふわロボット – 選ばれたのはこの年齢層向けに明示的に宣伝されていたからです。

二人はいくつかの心配なやり取りを観察し、次のことを発見しました。 おもちゃは誤解した 子供たち、感情を読み違え、発達上重要な種類の遊びに参加できませんでした。たとえば、ある子供がおもちゃに悲しい気持ちを伝えると、おもちゃは心配しないでと言って話題を変えました。 「彼が [Gabbo] 理解できないと怒る」と別の児童は語った。 AI in the Early Yearsと呼ばれるレポート。

キュリオ・インタラクティブは応答しなかった 新しい科学者の コメントのリクエスト。しかし AI を活用したおもちゃは、Little Learners などの小売店からも広く入手できます。 クマ、子犬、ロボット – ChatGPT を使用して子供たちと会話します。 フォロトイ は、さまざまな大規模な言語モデルで使用できるパンダ、ひまわり、サボテンのおもちゃを提供します。 OpenAI、Google、百度。

などの企業 みこ 同社は、AIモデルを訓練した企業を明らかにせずに、子ども向けに「年齢に応じた、適度なAI会話」を約束するロボットを提供し、すでに70万台を販売したと主張している。 Luka 社は、「感情的な相互作用を備えた人間のような AI」を約束するフクロウを提供しています。リトル・ラーナーズ、ミコ、ルカはいずれもコメントの要請に応じなかった。

しかし、Hugo Wu と FoloToy は次のように述べています。 新しい科学者 同社はリスクを考慮しており、AIは人間の会話や人間関係に取って代わるものではなく、遊びを強化できるものだと考えているという。 「私たちのアプローチは、交流が安全で、年齢に適した、建設的なものであることを保証することです。これを実現するために、当社のシステムは意図認識と複数層のフィルタリングを併用して、不適切または混乱を招く応答の可能性を最小限に抑えています」とウー氏は述べています。私たちは、家族環境内での健全な使用を保証するために、抗依存症設計機能や保護者監視ツールなどのメカニズムを実装しました。」

カリッサ・ベリス AIの倫理を研究しているオックスフォード大学の教授は言う。 テクノロジー リスクとチャンスを表します。 「大規模な言語モデルのほとんどは、弱い立場にある人々をさらすほど安全ではないようです。そして、幼い子供たちは最も弱い立場にある人々の 1 つです」と彼女は言います。 「特に懸念されるのは、それらに対する安全基準がないことです。監督当局も規則もありません。とはいえ、適切な予防措置を講じれば安全なツールを使用できることを示すいくつかの例外もあります。」

Véliz 氏は、無料の電子書籍ライブラリ Project Gutenberg と Empathy AI のコラボレーションについて言及しています。 からアリスとチャットできます 不思議の国のアリス。 「モデルは決して本の世界から出ず、子供向けの本の冒険や謎だけを共有する童話のように、本に関する質問に答えるだけです」と彼女は言う。 「安全な AI などというものは存在しますが、ほとんどの企業は高品質の製品を開発するのに十分な責任を負っておらず、正式なガードレールがなければ、消費者にとっては購入者が注意すべき領域となります。」

ギブソン氏は、AI玩具のリスクや潜在的な利点を判断するのは時期尚早だと言う。彼女とグッドエイカー氏は、AIを活用した生成玩具には、玩具メーカーが社交的な遊びを促進し、適切な感情反応をもたらすようにデバイスをプログラムできるよう、より厳格な規制が必要だと強調している。 AIメーカーは責任ある行動をとらない玩具メーカーのアクセスを取り消すべきであり、規制当局は「子どもの心理的安全性を確保する」ためのルールを導入すべきだとギブソン氏は言う。それまでの間、二人は親が子供たちにそのようなおもちゃの使用を監督下でのみ許可するよう提案している。

OpenAIの広報担当者はこう語った。 新しい科学者 「未成年者には強力な保護が与えられるべきであり、当社にはすべての開発者が遵守することを義務付けられている厳格なポリシーがあります。当社は現在、子供向けの AI を活用した玩具を市場に提供しているどの企業とも提携していません。」英国政府の科学・イノベーション・技術省（DSIT）は回答しなかった。 新しい科学者の 子供のおもちゃにおける AI の規制に関する質問。

英国政府は現在、年長の子供たちをオンラインで安全に保つことを目的とした他のテクノロジー関連法案を検討しています。の 英国のオンライン安全法 (OSA) は 2025 年 7 月に発効し、政府が危険とみなすポルノやコンテンツを子供たちが閲覧できないようにウェブサイトに義務付けました。この法案はインターネットの安全性を高めることを目的としているが、テクノロジーに精通した子供たちは、厳格な規則なしに仮想プライベートネットワーク（VPN）などのツールを使用して、あたかも他国から閲覧しているかのように見せかけ、この措置を簡単に回避することができる。

修正案 保護下の子どもたちを支援し、教育の質を向上させるために教育省が導入した新しい法律「児童福祉・学校法案」は、英国の子どもたちによるソーシャルメディアとVPNの使用を禁止することを目的としている。これらの修正案は現在否決されたが、政府は両方の問題について後日協議すると約束した。