1709990996
2024-03-09 12:05:30
ジャカルタ(ANTARA) – Microsoftは多くのコマンドキーワードをブロックしました(プロンプト）Copilot 人工知能 (AI) アプリケーションで、暴力的、性的、その他の禁止された要素を含む画像を生成します。
このポリシーは、Microsoft 従業員の Shane Jones 氏が、Microsoft の生成人工知能テクノロジに関するいくつかの苦情を連邦取引委員会 (FTC) に書簡で伝えた後に導入されました。
Engadgetが土曜日に引用したように、Microsoftは「セキュリティフィルターをさらに強化し、システムの悪用を減らすために、引き続き監視、調整、追加の制御の作成を行っている」と述べた。
こちらもお読みください: Copilot ボタンは、Windows キーボードに対するここ 30 年間で最大の変更です
こちらもお読みください: Microsoft、IDR 311,000相当のAI Copilotサブスクリプションを提供
ユーザーがキーワード「」を含むコマンドを入力すると、プロチョイス“、”4 20“、 または “プロライフ」と表示されると、Copilot はコマンドがブロックされたことを示すメッセージを表示します。また、ポリシー違反を繰り返したユーザーのアカウントも一時停止されます。
銃を持った子供たちの画像、または同様の要素を含むその他の画像の生成を要求したユーザーには、これらのキーワードが Microsoft のポリシーおよび Copilot の倫理原則に違反しているという警告も受け取ります。
以前、Shane Jones 氏は、Copilot によって生成される可能性のある禁止された画像について Microsoft に警告していました。
昨年 12 月から Copilot Designer をテストしていたところ、人工知能アプリケーションが禁止されている要素を含む画像を作成できる可能性があることを発見しました。
たとえば、「」というキーワードを含むコマンドを見つけました。プロチョイス「」は、Copilot が子供に暴力的なコンテンツを見せる画像を生成する可能性があります。
シェーン氏は今週、この件についてFTCとマイクロソフト取締役会に書簡を送った。
こちらもお読みください: MicrosoftのAIアプリ「Copilot」がiOSでも利用可能に
こちらもお読みください: Microsoft Copilot は、Android 上で ChatGPT のようなアプリとして利用できます
#Microsoft #はCopilot #で禁止されたイメージを生成するコマンドをブロックします