消費者擁護団体は、プライバシーと誤った情報の懸念を理由に、OpenAIにビデオアプリSoraの提供を中止するよう要請

非営利の消費者擁護団体パブリック・シチズンは、火曜日の書簡の中で、OpenAIに対し、ビデオ生成ソフトウェア「Sora 2」が誤った情報の蔓延やプライバシー侵害に対する懸念を引き起こしたことを受け、同アプリケーションを撤回するよう要求した。

同社と最高経営責任者（CEO）のサム・アルトマンに宛てたこの書簡は、OpenAIが競合他社に先駆けてアプリをリリースするために急いでアプリをリリースしたと非難した。

これは「本質的に安全でない製品、または必要なガードレールが欠如している製品をOpenAIが市場に投入しようとする一貫した危険なパターン」を示していると監視団体は述べた。

書簡には、Sora 2は製品の安全性と人々の肖像権に対する「無謀な無視」を示していると書かれている。それはまた、オンラインコンテンツの信頼性に対する国民の信頼を広範に損なうことにもつながると主張した。

同団体は米国議会にも書簡を送った。

OpenAIは火曜日にコメントの要請に応じなかった。

有名人のコンテンツに関する苦情に対するより適切な対応

典型的な Sora ビデオは、クリックして TikTok、Instagram、X、Facebook などのプラットフォームで共有できるほど面白いように設計されています。

それは故エリザベス2世女王のラップかもしれないし、もっと普通で信じられるものかもしれない。人気のあるソラのジャンルの 1 つは、少し不気味なもの (たとえば、ポーチにいるボアコンストリクターや、動じない子供に近づくワニなど) を捉えた偽のドアベルカメラの映像を描写し、ほうきで動物を殴りながら叫ぶおばあちゃんなどの、やや衝撃的な画像で終わります。

Public Citizen は、増え続ける擁護団体、学者、専門家の大合唱に加わり、人々がプロンプトに入力できるほぼすべてのものに基づいて AI ビデオを作成させ、害の少ない「AI スロップ」の海の中で同意のない画像やリアルなディープフェイクの蔓延につながる危険性について警鐘を鳴らしています。

OpenAIは、マイケル・ジャクソン、マーティン・ルーサー・キング・ジュニア、ミスター・ロジャースなど、突飛な行動をとっている公人を人工知能で制作したものを取り締まってきたが、これは遺族や俳優組合からの抗議を受けてのことだった。

「私たちの最大の懸念は、民主主義への潜在的な脅威だ」とパブリック・シチズンのテクノロジー政策擁護者のJBブランチ氏はインタビューで語った。

「私たちは、人々が自分が見ているものを本当に信頼できない世界に入りつつあると思います。そして、最初に公開された画像や最初のビデオが人々の記憶に残るという政治の戦略が見え始めています。」

ガードレールがあっても嫌がらせは止まらない

火曜日の書簡を執筆したブランチ氏はまた、人々のプライバシーに対する広範な脅威を認識しており、それらは特定のグループに不当に影響を与える可能性があると述べている。

見る |デンマークはどのようにして無許可のディープフェイクを阻止しようとしているのか:

デンマークはどのようにして無許可のディープフェイクを阻止しようとしているのか

AI によって生成されたビデオはオンラインのいたるところにありますが、あなたの画像や音声が許可なく複製されたらどうなりますか? CBC のアシュリー フレイザー氏が、デンマークがデジタル ID 保護をどのように再構築しようとしているのか、そしてカナダの法律はどうなのかを詳しく解説します。

OpenAIはヌードをブロックしているが、ブランチ氏は「女性たちはオンラインで別の方法で嫌がらせを受けているのを目撃している」と述べた。

フェティッシュなニッチなコンテンツがアプリの制限を突破してきました。報道機関404メディア・オン・フライデーが報じた。 ソラが作った女性の首を絞めている動画が氾濫している。

OpenAI は 1 か月以上前に iPhone に新しい Sora アプリを導入しました。このサービスは先週、米国、カナダ、および日本や韓国を含むアジアの数カ国で Android スマートフォン向けにリリースされました。

これに対する最も強い反発の多くは、ハリウッドや日本のマンガ業界を含むその他のエンターテイメント業界からのものである。

OpenAIは、リリースからわずか数日後に最初の大きな変更を発表し、ユーザーにとって「過剰なモデレーションは非常にイライラする」が、「世界がまだこの新しいテクノロジーに適応している間は」保守的であることが重要だと述べた。

続いて公表されたのは、 マーティン・ルーサー・キング・ジュニアの家族との合意 10月16日には、同社がより良い安全対策に取り組んでいる間、公民権運動指導者の「失礼な描写」を防止し、10月20日には別の措置を講じた。 『ブレイキング・バッド』の俳優ブライアン・クランストン、SAG AFTRA労働組合、芸能事務所。

「有名であればそれはそれでいいことだ」とブランチ氏は語った。 「これは、OpenAI が非常に少数の人々の怒りに積極的に対応するパターンのようなものです。彼らは何かをリリースし、その後謝罪することをいとわないのです。しかし、これらの問題の多くは、リリース前に行うことができる設計上の選択です。」

見る | AIが生み出した「女優」ティリー・ノーウッドが反発を招く：

AIが生み出した「女優」ティリー・ノーウッドがハリウッドの反発を招く

ヨーロッパのAI制作会社パーティクル6は、自社のAI作品ティリー・ノーウッドが多くの関心を呼んでいると述べているが、エミリー・ブラント、メリッサ・バレラ、ウーピー・ゴールドバーグなどのハリウッド俳優やSAG-AFTRA組合がこのAIキャラクターに反対していると表明している。

ChatGPTに対する訴訟が進行中

OpenAIは、同社の主力製品であるChatGPTに関して同様の苦情に直面している。先週カリフォルニアの裁判所で新たに7件の訴訟が起こされた チャットボットが人々を自殺や有害な妄想に駆り立てたと主張する 以前に精神的健康上の問題がなかった場合でも。

ソーシャルメディア被害者法センターとテック・ジャスティス・ロー・プロジェクトが成人6人、10代の若者1人を代表して起こしたこの訴訟は、OpenAIが危険なほどおべっかで心理操作的であるという内部警告にもかかわらず、昨年意図的にGPT-4oを時期尚早にリリースしたと主張している。被害者のうち4人は自殺で死亡した。

パブリック・シチズンは訴訟には関与していないが、ブランチ氏はソラさんが釈放された経緯と類似点があると考えていると述べた。

「こうしたことの多くは予見可能だと思われる」と彼は言った。 「しかし彼らは、正しいことをして事前にストレステストをしたり、日常のユーザーの窮状を心配したりするよりも、製品を世に送り出して人々にダウンロードさせ、人々に中毒になってもらうことを望んでいるのです。」

OpenAI がアニメクリエイター、ビデオゲームメーカーに応える

OpenAIは先週、宮崎駿監督のスタジオジブリやビデオゲームメーカーのバンダイナムコ、スクウェア・エニックスなどの著名なアニメーターを代表する日本の業界団体からのソラに関する苦情に対応した。

OpenAIは、多くのアニメファンがお気に入りのキャラクターと交流したいと考えているとし、人気キャラクターに基づいたフェイクビデオを作成するアプリの幅広い機能を擁護した。

しかし同社はまた、著作権を所有する人々の同意なしに有名なキャラクターが生成されることを防ぐためにガードレールを設置したとも述べた。

OpenAIは先週の業界団体の書簡に関する声明で、「私たちはスタジオや権利保有者と直接連携し、フィードバックを聞き、文化的・クリエイティブ産業が深く評価されている日本を含め、人々がSora 2をどのように利用しているかから学んでいる」と述べた。