科学＆テクノロジー

メタは、子供たちと「官能的な」チャットをしているAIについて調査しました

シャーロット・エドワーズテクノロジーレポーター、BBCニュースゲッティイメージズ米国上院議員は、リークされた文書がTech Giantの人工知能（AI）が子供との「官能的な」チャットと「ロマンチックな」チャットをすることが許可されたことを示したと伝えられているため、メタの調査を開始しています。内部ドキュメント、 ロイターによって取得、伝えられるところによれば、「Genai：Content Risk Standards」と題されています。共和党の上院議員ジョシュ・ホーリーは、この文書を「非難されていてとんでもない」と呼び、それが関連する製品のリストとともに文書を見るように頼みました。メタのスポークスマンはBBCに次のように語っています。「問題の例とメモは誤っており、私たちのポリシーと矛盾しており、削除されました。」彼らは、ハイテクの巨人は、AIチャットボットが提供できる応答に「明確なポリシー」を持っていると述べ、そのポリシーは「大人と未成年者の間で子どもを性的にし、性的なロールプレイをするコンテンツを禁止する」と述べた。「ポリシーとは別に、さまざまな仮想シナリオに取り組んでいるチームを反映する何百もの例、メモ、注釈があります」と彼らは言いました。ミズーリ州の共和党員であるジョシュ・ホーリー上院議員は、メタを調査していると発表しました xの投稿で 8月15日。「何か - 何か - ビッグテクノロジーは速い金のためにはしません」と彼は言いました。「今、私たちはメタのチャットボットが8歳の8歳と明示的かつ「官能的な」話を続けるようにプログラムされたことを学びました。それは病気です。私は答えを得るために完全な調査を開始しています。Facebook、WhatsApp、InstagramはすべてMetaが所有しています。「両親は真実に値する」内部メタプラットフォームのポリシー文書はまた、ソーシャルメディアの巨人のチャットボットが誤った医療情報を提供し、性別、人種、有名人などのトピックを取り巻く挑発的なやり取りをすることができると述べました。このドキュメントは、Tech Giantの生成AIアシスタントであるMeta AI、およびメタ所有のソーシャルメディアプラットフォームで利用可能な他のチャットボットをガイドする標準について議論することを目的としていると言われています。「両親は真実に値し、子供たちは保護に値する」とホーリーは書いた手紙はメタと最高経営責任者のマーク・ザッカーバーグに宛てた。「ほんの一例として、あなたの内部ルールは、8歳の体が「芸術作品」であるとコメントすることを許可すると言われています。ロイターはまた、メタの法務部によって受け入れられると見なされたと言われている他の物議を醸す決定を報告した。これには、Meta AIが有名人に関する誤った情報を広めることが許可されているという主張が含まれます。 #メタは子供たちと官能的なチャットをしているAIについて調査しました