AI のおかげでおもちゃは会話を返してくれますが、子供の周りでは安全なのでしょうか?

しゃべり返すぬいぐるみ。駒が勝手に動くチェス盤。そして水晶玉の中のおしゃべりなホログラフィック妖精。

次に購入するおもちゃには人工知能が搭載されており、子供たちと会話できるようになるかもしれません。

OpenAI の ChatGPT の台頭以降、質問にすぐに答えたりテキストを生成したりできるチャットボットや AI を利用したアシスタントがより一般的になりました。 AI が私たちの仕事や私生活に深く関わるようになるにつれて、遊びの時間も大きく変化しています。

スタートアップ企業はすでにホリデーシーズンに合わせてAI玩具を発売している。新年には、子供と大人の両方向けにさらに多くのものが店頭に並ぶ予定です。

一部の親は、おしゃべりなボットのやり取りが子供たちを教育し、楽しませることを期待して、おもちゃをテストすることに興奮しています。ガードレールを増やしてさらなるテストを受けるまでは、一見知覚を持っているように見えるテクノロジーを愛する人の近くに置きたくない人もいます。

米国PIRG教育基金の研究者らは、テストした玩具の一部にすでに問題が見つかったと述べている。同グループによれば、問題の中には、性的フェティッシュや変態について議論するよう促される可能性のある AI テディベアも含まれているという。

玩具メーカーは、AIによって遊びがよりインタラクティブになる可能性があり、安全性とプライバシーを真剣に考えていると述べている。これらの製品の一部について、どの程度おしゃべりになるかについて、より多くの制限を設けている人もいます。彼らは、AIを子供たちに安全に使用する方法を見つけるのに時間を費やしていると述べています。

エルセグンドに本拠を置き、バービー人形とホットウィールのメーカーであるマテル社は、今年初めに、より多くの AI を活用した玩具を開発するために OpenAI と提携したと発表した。当初の計画では、今年初の共同製品を発表する予定だったが、発表は2026年に延期された。

AI おもちゃについて知っておくべきことは次のとおりです。

AIおもちゃって何？

おもちゃには何十年にもわたって最新のテクノロジーが導入されてきました。

1980 年代に導入されたテディ ラクピンは、アニマトロニクス クマの背中にカセットテープが挿入されると、声を出して物語を語りました。ファービー（大きな目を瞬かせて話すふわふわした生き物）は、デジタル ペットのたまごっちも大流行した 90 年代に登場しました。

マテル社は2015年、しゃべったりジョークを言ったりできるバービー人形を発売した。同社は 2016 年に音声コマンドに応答する夢の家も販売しました。

テクノロジーの進歩に伴い、おもちゃもより賢くなっています。現在、玩具メーカーは、OpenAI の ChatGPT などの製品を強化する言語を理解し、生成するように訓練された大規模な言語モデルを使用しています。マテル社は、プレイヤーが絵を描き、AI がそれが何であるかを推測する Pictionary vs. AI というゲームを販売しています。

マイクを備え、WiFi に接続されている AI おもちゃは従来のおもちゃよりも高価で、コンパニオンまたは教育製品として販売されており、100 ドルまたはその 2 倍の価格になる場合もあります。

なぜ人々は彼らのことを心配するのでしょうか？

不適切なコンテンツからプライバシーへの懸念まで、このホリデーシーズンには AI 玩具に対する懸念が高まりました。

米国PIRG教育基金の研究者はいくつかのおもちゃをテストしました。失敗したものの 1 つは、AI を搭載したしゃべるテディベアの Kumma で、研究者にナイフや錠剤などの危険物の場所を教えたり、露骨な性的コンテンツについて会話したりしました。クマはOpenAIのソフトウェア上で動作していた。

おもちゃによっては、子どもの興味を引きつける戦略を採用しているものもあり、親はその相互作用が中毒性になるのではないかと懸念しています。子供から収集されたデータについてはプライバシーの懸念もあります。これらのおもちゃが子供の発達中の脳にどのような影響を与えるかを心配する人もいます。

「幼い子供たちにとって、AIの仲間がいるということは何を意味するのでしょうか？それが彼らの発達にどのような影響を与えるのか、私たちには全く分かりません」と、玩具テスターの一人であり、PIRGのAI玩具レポートの著者であるロリー・アーリッヒ氏は言う。

児童擁護団体フェアプレイは、AI玩具は「安全ではない」として、子ども向けにAI玩具を購入しないよう親に警告した。

同団体は、AI玩具がすでに子供たちに害を及ぼしているのと同じテクノロジーを利用していることなど、いくつかの理由を概説した。子どもを自殺で亡くした親たちは、OpenAIや キャラクター.AI、若者の精神的健康を守るために十分なガードレールを設置していないと主張した。

フェアプレイの幼児繁栄オフラインプログラムのディレクターであるレイチェル・フランツ氏は、これらのおもちゃは子供たちを教育し、楽しませる方法としてオンラインで何百万人もの人々に販売されていると述べた。

「幼い子供たちは、実際には、これらの AI おもちゃの潜在的な危害を防ぐ脳や社会的感情の能力を持っていません」と彼女は言いました。 「しかし、マーケティングは本当に強力です。」

玩具メーカーやAI企業はこうした懸念にどう対応したのでしょうか?

Kummaを開発したシンガポールの新興企業FoloToyの創設者兼最高経営責任者、ラリー・ワン氏は電子メールで、同社は研究者らがこのおもちゃで発見した問題を認識していると述べた。

「言及された行動は、追加のテストと監視とともに、モデルの選択と子供の安全システムの更新を通じて特定され、対処されました」と彼は言いました。 「当初から、私たちのアプローチは、AI システムはデフォルトで年齢に応じた保護を備えて設計されるべきであるという原則に基づいてきました。」

同氏は、同社は安全性、透明性、適切な設計に関する精査と継続的な対話を歓迎しており、これは「業界全体が成熟する機会」であると指摘した。

OpenAIは、ポリシーに違反したとしてFoloToyを停止したと発表した。

「未成年者は強力な保護を受ける権利があり、当社には開発者に遵守を義務付ける厳格なポリシーがある。当社は、18歳未満の者を搾取、危険にさらし、または性的対象とするために当社のサービスを利用することを禁止する当社のポリシーに違反していると判断した場合、当社は開発者に対して強制的な措置を講じる」と同社の広報担当者は声明で述べた。

カリフォルニアのスタートアップ企業はどのような AI おもちゃを開発しましたか?

レッドウッドシティの新興企業キュリオは、億万長者のイーロン・マスクとの間に子供を持つアーティストのグライムスが声を担当する、しゃべるロケットのぬいぐるみ「グロク」などのぬいぐるみを販売している。サンフランシスコの AI 玩具メーカーである Bondu は、子供たちと会話したり、質問に答えたり、ロールプレイングをしたりできる、話す恐竜のぬいぐるみを作りました。

ロサンゼルスを拠点とする玩具メーカー Skyrocket は、AI ストーリーベアの Poe を販売しています。 OpenAI の LLM を利用したこの Bear には、ユーザーがストーリーに合わせてプリンセスやロボットなどのキャラクターを選択するアプリが付属しています。作家エドガー・アラン・ポーにちなんで名付けられた目の輝くクマは、その選択に基づいて物語を生成し、それを声に出して朗読します。

しかし、他の AI おもちゃのように、子供たちはテディベアと往復会話をすることはできません。

Skyrocket の共同創設者兼最高経営責任者 Nelo Lucich 氏は、「これには多くの責任が伴います。これにより、必要な保護手段の高度さとレベルが大幅に向上し、可能性が非常に大きくなるためコンテンツを制御する方法が大幅に増加します」と述べています。

ハンティントンビーチの Olli などの一部の企業は、Imagix Crystal Ball の開発者を含む AI 玩具メーカーが使用するプラットフォームを作成しました。このおもちゃは、ドラゴンや妖精に似た AI ホログラムの仲間を投影します。

Olliの創設者兼最高経営責任者であるハイ・タ氏は、この製品はストーリーテリングなどの特定の焦点を中心に構成されているため、AIおもちゃはスクリーンタイムや仮想アシスタントとの会話とは異なるものだと考えていると述べた。

「そこにはゲームプレイの要素があります」と彼は言いました。 「それは単に無限に自由にチャットするだけではありません。」

マテルは OpenAI を使って何を開発していますか?

マテル社はOpenAIを使ってどのような製品をリリースするのか明らかにしていないが、同社の広報担当者は、子供ではなく家族や年配の顧客に焦点を当てると述べた。

同社はまた、AIを従来の遊びに取って代わるものではなく、補完する方法とみており、新製品を開発する際には安全性、プライバシー、創造性、責任あるイノベーションを重視していると述べた。