最大の AI 企業がチャットボット コンパニオンのためのより良い道を見つけるために集結

スタンフォード大学では、数十人の参加者がボット コンパニオンのメリットだけでなくリスクについても長いチャットに参加しました。 「結局のところ、実際には多くの合意が得られています」とスタンフォード大学の研究プログラムディレクターのサニー・リュー氏は言う。彼女は、「これらのツールを使って他の人々を結びつける方法」に対するグループの興奮を強調した。

ティーンの安全

AI コンパニオンが若者にどのような影響を与えることができるかが主な議論のテーマであり、ロールプレイング用に設計され、ティーンエイジャーに人気のある Character.AI の従業員や、ティーンエイジャーのオンライン健康の専門家からの視点が取り上げられました。 デジタルウェルネスラボ ボストン小児病院にて。

複数の親がいる中、若いユーザーに重点が置かれている チャットボットメーカーを訴える、OpenAI や Character.AI など、ボットとやり取りした子供たちの死をめぐって。 OpenAI は次のスレートを追加しました 新しい安全機能 その対応の一環として、10代の若者向けに。そして来週、Character.AI は次のことを計画しています。 18歳未満のユーザーを禁止する チャット機能にアクセスできなくなります。

2025 年を通じて、AI 企業は明示的または暗黙的に、コンパニオンとやり取りする可能性のある子供のような脆弱なユーザーを保護するためにもっとできることができることを認めてきました。 AI の行動ガイドラインを概説した内部メタ文書には、「子供をロマンチックまたは官能的な会話に参加させることは許容されます」と記載されています。 ロイターからの報道。

議員と激怒した両親によるその後の騒動の中で、メタは 案内を変更しました 会社の情報を更新しました 安全への取り組み 十代の若者たちに向けて。

ロールプレイ点呼

Character.AI はワークショップに参加しましたが、同様のロールプレイ サイトである Replika やイーロン マスクのボットである Grok からは誰も参加していませんでした。 NSFWアニメコンパニオン、ありました。レプリカとグロクの広報担当者は直ちにコメントを求めたが、返答はなかった。

完全に露骨な立場としては、異性愛者向けのきわどいチャットボットを専門とする Candy.ai の開発者が現れました。 EverAI が構築した成人専用プラットフォームのユーザーは、お金を支払って、一般的なポルノの比喩を模倣した背景ストーリーを備えた合成女性の無修正画像を生成することができます。たとえば、キャンディーのホームページに掲載されている女性仲間には、家に二人きりでいる「反抗的な義理の妹」モナや、「18歳になったばかり」の友人の娘エロディが含まれている。