1710667371
2024-03-17 09:00:00
あなたが抱いている素敵な夢やアイデアのビデオ再生がすぐに現実になるかもしれません。 OpenAI のテキストからビデオへの AI ジェネレーター、Sora、 は 一般に公開される予定です 同社最高技術責任者のミラ・ムラティ氏は「間違いなく今年だ」とウォール・ストリート・ジャーナルに語った。 同報道機関には、ソラの代々続いたスマートフォンを持った人魚と陶器店の雄牛の例が提供された。
サム・アルトマンは取締役会メンバーをどのように怖がらせたのでしょうか? | OpenAI の次は何でしょうか?
しかし、Soraでのヌードについて尋ねられたとき、 Murati氏は、ビデオ世代でそれが許可されるかどうかはわからないと述べた、アーティストがクリエイティブな環境でヌードジェネレーションを使用する可能性があると付け加えました。 Murati氏は、OpenAIは「さまざまな分野のアーティストやクリエイターと協力して、何が役立つのかを正確に把握している」とSoraが「どのレベルの柔軟性」を持つべきであるかを述べた。
しかし、生成されるコンテンツの種類にガードレールを実装するモデルに取り組んでいる新興企業や企業の努力にもかかわらず、次のような機密性の高い素材は、 ディープフェイクヌード そして ディープフェイクポルノ 主要な生成 AI ツールによって定期的に量産されます。 そして専門家らは、OpenAIや同様の技術に取り組む他のハイテク企業、さらには米国政府ももっと対応すべきだと主張している。 Sora のようなツールが広くリリースされる前に規制することに積極的です。
ガードレールに乗る
AI Policy Institute (AIPI) が米国の有権者を対象に行った 2 月の世論調査では、回答者の 77% が、Sora のような AI ビデオ ジェネレーターに関しては、誤用を防ぐためのガードレールや安全装置が必要であると回答しました。 モデルを広く利用できるようにすることよりも重要です。 回答者の 3 分の 2 以上が、AI モデルの開発者はあらゆる問題について法的責任を負うべきだと回答しました。 誹謗中傷やリベンジポルノを目的としたフェイクビデオの作成など、モデルによる違法行為。
AIPIの創設者兼エグゼクティブディレクターのダニエル・コルソン氏は、「これは、一般の人々がこの技術をいかに真剣に受け止めているかを示している」と述べた。 「彼らはそれが強力だと考えています。 彼らは、テクノロジー企業がこれらのモデル、アルゴリズム、テクノロジーを導入し、それが社会を完全に変える結果につながる方法を見てきました。」
しかしコルソン氏は、国民も「ハイテク企業が責任あるやり方でそれを行うとは信じていない」と述べた。
「OpenAI は、これに関して難しい決断を迫られています」と彼は言いました。「良くも悪くも、現実には、AI が生成したビデオの需要のおそらく 90% がポルノ向けであり、それが不快な力関係を生み出します。これらのモデルを作成している集中企業がそのサービスを提供していない場合、グレーマーケットがそのサービスを提供するという非常に強力なインセンティブが生まれます。」
コルソン氏は、コンテンツの制限や監視があまりないオープンソースの AI 画像モデルでは、このようなことがすでに起こっていると述べた。
ソラは 現在レッドチームによってテスト中、 または 「誤った情報、憎悪に満ちたコンテンツ、偏見などの分野の専門家」OpenAI は、 このモデルを利用可能にする準備を進めていると述べた。 同社はまた、Sora が生成したビデオを含む「誤解を招くコンテンツを検出する」ツールの開発にも取り組んでいると述べた。 OpenAIはこの件についてのコメント要請に応じなかった。
後 AIが生成したテイラー・スウィフトのポルノ画像 AIPIの世論調査では、1月にソーシャルメディアが氾濫し、回答者の84％が 同意のないディープフェイクポルノを違法とする法案を支持した。 一方、回答者の86％は、AIモデルを開発する企業に対し、ディープフェイクポルノの作成にAIモデルが使用されることを防ぐよう義務付ける法案を支持した。 回答者の90％以上が、AIモデルを使用してディープフェイクポルノを作成する人々は法に基づいて責任を問われるべきだと考えていると回答し、回答者の87％はモデルを開発している企業が法的責任を問われるべきだと考えていると回答した。 現在、 米国の法律や規制はありません このあたり。 （欧州連合では、新たに可決された 人工知能法AI ソフトウェアのリスクを評価し規制するものですが、まだ正式に制定されていません)。
「 [U.S.] インターネットの黎明期以来、過去 25 年間、政府はこれらの組織を実質的に規制するための目立った措置を講じてきませんでしたが、アメリカ社会のますます多くがこれらの非政府組織によって真に支配されている度合いを考慮すると、これは注目に値します。民主的に選ばれた団体だ」とコルソン氏は語った。
Sora のようなビデオ ジェネレーターは、サイバー犯罪者が影響力を行使したり、身代金を要求したりするために、危険な状況にある経営者、俳優、政治家のディープフェイクを作成するために使用される可能性もあります。 2月に連邦通信委員会は、 ロボコールでAIが生成した音声を禁止 1月に出回った、AIが生成したジョー・バイデン大統領の偽電話が、ニューハンプシャー州の有権者に州の予備選挙に投票せずに家に留まるよう促す偽電話を含む、複数の事件の後だった。 フロリダ州知事ロン・デサンティスは、共和党大統領候補指名獲得に向けたキャンペーンが不成功に終わった際に、 6月にAI生成動画を公開 ドナルド・トランプ元大統領が元ホワイトハウス医療顧問アンソニー・ファウチ博士とハグしている写真だが、それが本物ではなかったとは明らかにしていない。
しかし、ユーザー認証、コンテンツのタグ付け、リスク評価などのガードレールを義務化し、AI で生成されたコンテンツをエクスポートする方法と場所に制限を設けることは、サイバー犯罪の回避に役立つ可能性があります。
グレート・ヒル・パートナーズの常駐エグゼクティブであり、サイバーセキュリティ企業エーオン・サイバーの元グローバル最高経営責任者であるジェイソン・ホッグ氏は、AIモデルに対する米国の規制について、「我々は事後対応の姿勢からプロアクティブな姿勢に移行する必要がある」と語った。 (Great Hill Partners は > の親会社 G/O Media の投資家です。)
ホッグ氏は、「我が国の海岸に向かって押し寄せるサイバー犯罪の津波」に対処するための規制と罰則を導入する必要があると述べた。
#OpenAIのビデオジェネレーターSoraはヌードを許可するかもしれない #専門家は懸念している