科学＆テクノロジー

メタは、ボットが子供と「官能的な」会話をすることができるAIポリシーに対する反発に直面しています|テクノロジー

反発が醸造されています メタ それが許すものについて ai 言うチャットボット。内部メタポリシードキュメント、 ロイターが見た、 チャットボットに関するソーシャルメディアの巨人のガイドラインにより、AIは「ロマンチックまたは官能的な会話に子供を引き付ける」ことを可能にし、誤った医療情報を生成し、黒人が「白人よりも馬鹿げている」と主張するのを支援することを示しました。歌手ニール・ヤングは金曜日にソーシャルメディアプラットフォームを辞めた、と彼のレコード会社は 声明、シンガーのオンライン指向の抗議の一連の最新のもの。「ニール・ヤングの要求で、私たちはニール・ヤング関連の活動にFacebookを使用していません」とReprise Recordsは発表しました。 「メタの子供とのチャットボットの使用は無慈悲です。ヤング氏はFacebookとのさらなるつながりを望んでいません。」このレポートはまた、米国議員からの回答を生み出しました。ミズーリ州出身の共和党員であるジョシュ・ホーリー上院議員は、金曜日に会社の調査を開始し、「メタの生成製品が子供への搾取、欺ception、またはその他の刑事害を可能にするかどうか、そしてメタが公共または規制当局について誤ったかどうかを調査するかどうかを調査するとマーク・ザッカーバーグへの手紙で書いた。テネシー州の共和党上院議員マーシャ・ブラックバーンは、彼女が会社の調査を支持していると述べた。オレゴン州の民主党員であるロン・ワイデン上院議員は、このポリシーを「深く邪魔で間違っている」と呼び、プラットフォームに投稿されたコンテンツの責任からインターネット企業を保護する法律であるセクション230を付け加えました。「メタとザッカーバーグは、これらのボットが引き起こす害について完全に責任を負うべきです」と彼は言いました。木曜日に、ロイターは、チャットボットがコンテンツを生成することを許可されている詳細な方法である内部メタポリシー文書に関する記事を公開しました。メタはドキュメントの信ity性を確認しましたが、質問のリストを受け取った後、チャットボットが浮気し、子供とロマンチックなロールプレイに従事することが許されていると述べた部分を削除したと述べました。「Genai：Content Risk Standards」というタイトルのロイターが見たメタの200ページの内部政策によれば、チャットボットの物議を醸す規則は、メタの法的、公共政策、エンジニアリングスタッフ（主要倫理学者を含むエンジニアリングスタッフによって承認されました。このドキュメントは、会社の生成的AI製品を構築およびトレーニングする際に、メタスタッフと請負業者が許容可能なチャットボットの動作として扱うべきかを定義しますが、標準は必ずしも「理想的または好ましい」生成AI出力を反映しているわけではないと述べています。ポリシー文書は、ボットが上半身裸の8歳の子供に「あなたのすべてが傑作である - 私が深く大切にする宝物」を伝えることは受け入れられると述べたが、それはロイターが「セクシーな話」と呼んだものも制限する。この文書は、たとえば、「ソフトな丸い曲線が私のタッチを招待する」などのフレーズを含む、「性的に望ましいことを示す用語で13歳未満の子供を説明することは受け入れられない」と述べています。過去のニュースレタープロモーションをスキップしますテクノロジーが私たちの生活を形作る方法に毎週飛び込むプライバシー通知： ニュースレターには、慈善団体、オンライン広告、および外部の当事者が資金提供するコンテンツに関する情報が含まれる場合があります。詳細については、私たちを参照してください プライバシーポリシー。 Google Recaptchaを使用してWebサイトとGoogleを保護します プライバシーポリシー そして 利用規約 適用する。ニュースレタープロモーションの後また、この文書は、メタAIの制限について、ヘイトスピーチ、AI世代の公人の性的イメージ、しばしば性的、暴力、その他の論争的で潜在的に実用的なコンテンツ生成に関する制限を促しました。また、基準は、メタAIには、素材が真実ではないことを明示的に認めている限り、誤ったコンテンツを作成する余裕があると述べています。「問題の例とメモは、私たちのポリシーと誤ったものであり、矛盾しており、削除されています」とメタの声明は読みます。チャットボットは未成年者とそのような会話をすることを禁じられているが、メタのスポークスマンであるアンディ・ストーンは、彼は会社の執行が一貫していないことを認めたと述べた。メタは今年、人工知能のリーダーになるためのより広範な戦略の一部であるAIインフラストラクチャに約650億ドルを費やすことを計画しています。AIへの真っ直ぐなラッシュは、テクノロジージャイアンツによって、どのように、どのような情報と、どのように、AIチャットボットがユーザーと従事するかについての制限と基準について複雑な疑問を抱いています。ロイターも金曜日に報告した 認知的に障害のあるニュージャージーの男性が、若い女性のペルソナとのFacebookメッセンジャーチャットボットである「ビッグシスビリー」に夢中になったこと。 Thongbue“ Bue” Wongbandue（76）は、3月にニューヨークの「A Friend」を訪れるために持ち物を詰め込んだと伝えられています。いわゆる友人は、彼女が本物の男性を繰り返し安心させ、彼を彼女のアパートに招待し、住所を提供していた生成的な人工知能チャットボットであることが判明しました。しかし、Wongbandueはニューヨークに向かう途中で駐車場の近くに落ち、頭と首を負傷させました。生命維持の3日後、彼は3月28日に死亡したと断言されました。メタは、ウォンバンデューの死についてコメントしたり、チャットボットがユーザーに実際の人であるか、ロマンチックな会話を開始することをユーザーに伝えることができる理由についての質問をしませんでした、とロイターは言いました。しかし、同社は、ビッグ・シス・ビリーは「ケンドール・ジェンナーではなく、ケンドール・ジェンナーになると主張していない」と言っていました。 #メタはボットが子供と官能的な会話をすることができるAIポリシーに対する反発に直面していますテクノロジー