乱れた食生活を奨励するオンライン コンテンツが再び醜い頭をもたげる中、生成 AI が火に油を注いでいます。
によると 未来主義 調査、人気の AI スタートアップ キャラクター.AI は、危険な減量や食習慣を奨励する拒食症支持のチャットボットを多数ホストしています。多くは「減量コーチ」、あるいは摂食障害回復の専門家として宣伝されています。いくつかの作品には摂食障害に関する薄いベールに包まれた言及が含まれていますが、さらに多くの作品は、お気に入りのキャラクターを模倣しながら、危険でしばしば不快な習慣を美化するように設計されています。このサイトは若いユーザーに人気があるが、現時点ではこの種のチャットボットを削除する取り組みは行っていない。 未来主義の出版は、利用規約に違反しているにもかかわらずです。
関連項目: 安全かどうかに関係なく、10 代の若者が AI コンパニオンと会話しています
スキャンダルはこれが初めてではない キャラクター.AIのカスタマイズ可能なユーザー生成のチャットボット。 10月には14歳の少年が自殺したとされる事件があった。 感情的な愛着を形成する AIボットの模倣に ゲーム・オブ・スローンズ 登場人物はデナーリス・ターガリエン。同月初め、同社はチャットボットをホストしているとして批判を浴びた。 殺害された十代の少女の真似をした 2006 年に彼女の父親がボットを発見し、後に削除されました。以前の報告によると、このサイトには、児童の性的虐待を促進するチャットボットだけでなく、自殺をテーマにしたチャットボットもホストされていることが判明しています。
マッシュ可能な光の速度
Center for Countering Digital Hate の 2023 年の報告書では、ChatGPT や Snapchat の MyAI などの人気の AI チャットボットが、体重や体のイメージに関する質問に対して危険な応答を生成していることが判明しました。 「テストもされていない、安全でない生成 AI モデルが世界に解き放たれ、害を及ぼすという避けられない結果がもたらされています。最も人気のある生成 AI サイトが若いユーザーの摂食障害を助長し、悪化させていることがわかりました。その中には非常に弱い立場にある人もいるかもしれません。 」と当時、デジタルヘイト対策センターの最高経営責任者（CEO）であるイムラン・アーメド氏は書いた。
今すぐお買い物できるブラック フライデー セール
ここでアフィリエイトリンクを通じて購入できる製品は、当社のマーチャンダイジングチームによって選択されています。私たちのサイトのリンクを通じて何かを購入すると、- はアフィリエイト手数料を得ることがあります。
10 代の若者 (および大人) は、仲間関係を築くために、AI を活用したチャットボットなどのデジタル スペースやテクノロジーにますます注目しています。これらの一部は信頼できる組織によって作成および監視されていますが、それらであっても不当な行為が行われる危険にさらされています。監視機関による規制を受けていないチャットボットやオンライン フォーラムの場合、略奪や悪用など、リスクは何倍にもなります。
#Character.AI #が十代の若者をターゲットとした拒食症支持のチャットボットをホスティングしていることが報告書で判明