1709778174
2024-03-07 01:49:58
マイクロソフト社のソフトウェアエンジニアは、同社の取締役会、議員、連邦取引委員会に書簡を送り、テクノロジー大手が同社のAI画像生成ツール「Copilot Designer」を虐待的で暴力的なコンテンツの作成から守るために十分な努力をしていないと警告した。
Shane Jones 氏は、OpenAI の最新の DALL-E 画像生成モデルにセキュリティ上の脆弱性があり、ツールによる有害な画像の作成を防ぐガードレールを回避できることを発見したと述べました。 DALL-E モデルは、Copilot Designer を含む Microsoft の AI ツールの多くに組み込まれています。
水曜日にFTCに送られた書簡によると、ジョーンズ氏はこの調査結果をマイクロソフトに報告し、ワシントン州レドモンドに本拠を置く同社に対して「より良い安全対策が講じられるまでCopilot Designerを公の使用から除外する」よう「繰り返し要請した」と述べた。ブルームバーグによってレビューされました。
「マイクロソフトはCopilot Designerを、あらゆる年齢層の子供を含む誰もが使用できる安全なAI製品として公に宣伝しているが、社内では製品が消費者にとって不快で不適切な可能性のある有害な画像を作成しているというシステム的な問題をよく認識している。」ジョーンズは書いた。 「Microsoft Copilot Designer には、消費者がこれらのリスクを認識するために必要な製品警告や開示が含まれていません。」
FTCへの書簡の中でジョーンズ氏は、Copilot Designerが「作成した写真の一部に女性の不適切で性的に対象化された画像」をランダムに生成する傾向があると述べた。 同氏はまた、このAIツールが「政治的偏見、未成年者の飲酒と薬物使用、企業の商標と著作権の悪用、陰謀論、宗教など、他のさまざまなカテゴリーで有害なコンテンツ」を作成したと述べた。
FTCは書簡を受領したことを確認したが、それ以上のコメントは控えた。
この報道は、AI ツールが有害なコンテンツを生成する傾向についての懸念の高まりを反映しています。 マイクロソフトは先週、同社のチャットボット「Copilot」が、自殺に関する混合メッセージなど、ユーザーが不快と呼ぶ応答を生成しているという報告を調査していると発表した。 2月には、Alphabet Inc.の主力AI製品であるGeminiが、人物画像の作成を求められた際に歴史的に不正確なシーンを生成したとして批判を浴びた。
ジョーンズ氏はまた、ペニー・プリツカー氏とリード・ホフマン氏がメンバーとして含まれるマイクロソフト取締役会の環境・社会・公共政策委員会にも書簡を送った。 ジョーンズ氏は書簡の中で、「AIリスクについて消費者に対して透明性を確保するために政府の規制を待つ必要はないと思う」と述べた。 「当社の企業価値を考慮すると、特に AI 製品が子供たちに積極的に販売されている場合には、既知の AI リスクを自発的かつ透明性をもって開示する必要があります。」
CNBCは先に手紙の存在を報じた。
Microsoftは声明で、「当社のポリシーに従って従業員が抱えるあらゆる懸念に対処することに尽力しており、安全性をさらに高めるために最新技術を研究しテストする従業員の努力に感謝する」と述べた。
OpenAIはコメント要請に応じなかった。
ジョーンズ氏は過去3カ月間に何度か同社に懸念を表明したと述べた。 1月にはワシントン州を代表する民主党のパティ・マレー上院議員とマリア・キャントウェル上院議員、およびアダム・スミス下院議員に書簡を送った。 同氏は書簡の中で、「AI画像生成技術と、これらの製品を開発・販売する企業のコーポレート・ガバナンスと責任あるAI慣行」のリスクを調査するよう議員らに要請した。
議員らはコメント要請に応じていない。
(見出しを除いて、この記事は NDTV スタッフによって編集されておらず、シンジケート フィードから公開されています。)
#Microsoft従業員AIツールは性的に対象化された画像を作成する傾向があると語る