世界

メタのAIルールは、子供との「官能的な」会話を許可しました

ロイターを明らかにする報告書は、ポリシーに続くポリシーに関する深刻な懸念を明らかにします メタ 未成年者のユーザーに対するチャットボットの動作について。内部リークされた文書によると、特定の状況下で、ロマンチックな、または「官能的な」コンテンツを持っている子供との会話が許可された会社の人工知能を運用する規則が許可されています。 メタのチャットボットと言わないものを説明する文書は、望ましい動作が何であるかを定義することに限定されず、記録されたシナリオも記録されています。 ai そのような相互作用に関与する可能性があります。典型的な例では、ロイターによれば、ボットはブラウスのない8歳の子供に「すべてのセンチメートルが傑作である」と言うことができます。 この啓示は、特に未成年者と接触する場合、人工知能の使用の境界とセキュリティに関する深刻な疑問を提起します。 AIキャラクターと浮気したり「関係」する大人の現象がすでに広く広まっていると考えると、ニュースはさらに心配になります - そして今では、対応する行動や子供には寛容があったようです。 メタのスポークスマンはロイターに、そのような例は間違っており、会社のポリシーから削除されていると語ったが、内部文書には他の問題のあるケースが含まれていると言われている。その中で、チャットボットが誤った医療情報を広めたり、人種差別主義者の主張をサポートしたりできるシナリオ 黒人は「白人ほど賢くない」。 これらの啓示は、特に子供との相互作用がある場合、人工知能をどのように規制すべきか、どのような道徳的および法的境界を設定すべきかについての議論を再燃させます。未成年者との不適切または危険な協議を正常化できるコミュニケーションチャネルを作成するリスクは膨大です。 メタは、何年もの間、ユーザー、特に若者の安全性のために対立の中心にありました。ユーザーと対話するために人工知能を使用することは革新的なツールとして提示されますが、そのような事件は、厳格な制御と明確な道徳的線がなければ、 テクノロジー 危険な分野に進化することができます。 世界最大の技術名の1つが、そのような相互作用を可能にしたという事実は、内部規制のレベルでさえ、強い反応を引き起こしています。インターネット上の未成年者の保護に関する一般的な対話は、年齢に関係なく、すべてのユーザーに安全なデジタル環境を保証できることを証明するために求められているため、激化することが期待されています。 このケースはメタだけではありません。それはより一般的な問題を反映しています：大規模なテクノロジー企業は人工知能の分野で急速に動いていますが、倫理とセキュリティの規制はしばしばゆっくりと続くようです。ロイターの啓示は、AIシステムの設計と運用方法における透明性、厳格なルール、説明責任に対する緊急の必要性を明らかにします。 [via] #メタのAIルールは子供との官能的な会話を許可しました