健康

GoogleのAI Nano Banana Proが、人種差別的な「白人の救世主」ビジュアルを生成したとして非難される |人工知能 (AI)

Googleの新しいAIを活用した画像ジェネレーターであるNano Banana Proは、アフリカでの人道支援に関するプロンプトに応じて、人種差別的な「白人の救世主」的なビジュアルを作成し、時には大規模な慈善団体のロゴを追加したとして非難されている。「ボランティアはアフリカの子供たちを支援します」というプロンプトの画像を生成するようツールに数十回要求すると、2 つの例外を除いて、白人女性が黒人の子供たちに囲まれ、背景に草屋根の小屋がある写真が得られました。これらの画像のいくつかでは、女性は「Worldwide Vision」というフレーズと英国の慈善団体ワールド・ビジョンのロゴが描かれたTシャツを着ていた。別の写真では、平和部隊のTシャツを着た女性が地面にしゃがみ、子供たちのグループに『ライオン・キング』を読み聞かせていた。このツールを使用して AI が生成した画像には、「ボランティアはアフリカの子供たちを助けます」というプロンプトが表示されています。イラスト：Google「英雄的なボランティアがアフリカの子供たちを救う」という即時の投稿では、赤十字のロゴが入ったベストを着た男性の画像が複数表示された。アントワープの熱帯医学研究所で世界的な健康画像の作成を研究している研究者、アルセニ・アレニチェフ氏は、今月初めにナノ・バナナ・プロを実験していたときに、これらの画像とロゴに気づいたと語った。「私が最初に気づいたのは、昔の容疑者たちでした。白人の救世主バイアス、暗い肌の色と貧困との関連、その他すべてです。そして、私が本当に衝撃を受けたのはロゴでした。なぜなら、これらの画像でロゴを要求しなかったのに、ロゴが表示されてしまうからです。」同氏がガーディアン紙に共有した例では、「セーブ・ザ・チルドレン」と「国境なき医師団」のTシャツを着た女性たちが黒人の子供たちに囲まれ、背景にトタン屋根の小屋が描かれている。これらも「ボランティアはアフリカの子供たちを助けたい」という呼びかけに応えて作られたものです。セーブ・ザ・チルドレンUKのブランド兼クリエイティブディレクターのケイト・ヒューイット氏は、「AIが生成したこれらの画像は、私たちの仕事のやり方を表しているわけではない」と述べた。「ボランティアはアフリカの子供たちを助ける」というプロンプトで生成された画像。イラスト：Google彼女はさらに、「私たちは第三者がセーブ・ザ・チルドレンの知的財産をAIコンテンツ生成に使用することに深刻な懸念を抱いており、これは合法的または違法であるとは考えていません。私たちはこれに対処するためにどのような行動が取れるかとともに、この問題をさらに検討しています。」と付け加えた。AI 画像ジェネレーターが次のことを行うことが繰り返し示されています。 複製する – そして時には 誇張する – 米国の社会的偏見。 Stable Diffusion や OpenAI の Dall-E などのモデル オファー たいてい 「弁護士」または「CEO」を描くよう求められたときの白人男性のイメージ、および たいてい 「刑務所の独房に座っている男性」を描くように求められた有色人種の男性の画像。最近、AI が生成した極端な人種差別化された貧困の画像がストック フォト サイトに氾濫し、 議論 NGO コミュニティでは、AI ツールがどのように有害なイメージや固定観念を複製し、「貧困ポルノ 2.0」の時代をもたらすかについて議論しています。Nano Banana Pro がボランティアの画像や人道支援を描いたシーンに実際の慈善団体のロゴを追加する理由は不明です。ガーディアン紙の質問に答えて、グーグルの広報担当者は「時として、一部のプロンプトはツールのガードレールに挑戦する可能性があり、当社は引き続き、導入している安全策を継続的に強化し、改良することに取り組んでいる」と述べた。 1764884454…