人気の ChatGPT チャットボットのメーカーである OpenAI は、おそらく私たちのほとんどがまだ準備ができていなかったテクノロジーをインターネットにもたらしました。同社は最近、「Sora」というアプリをリリースした。これにより、ユーザーは「コストコでリブアイを盗んだとして逮捕された犬の警察のボディカメラ映像」などの簡単な説明を入力するだけで、人工知能を使ってリアルな見た目のビデオを即座に生成できる。
iPhone の無料アプリである Sora は、楽しいものであると同時に不安を与えるものでもあります。このリリース以来、多くのアーリーアダプターが、飛行機に乗ったアライグマの偽の携帯電話映像や、日本のアニメ風のハリウッドセレブ同士の戦いなど、楽しみを目的とした動画を投稿してきた。 （私自身は、天に昇る猫やボルダリング ジムで岩を登る犬のビデオを作成するのが楽しかったです。）
さらに、実際には起こらなかった犯罪の偽のセキュリティ映像などの偽情報を広めるなど、より悪質な目的でこのツールを使用する人もいます。
Sora の登場は、Meta と Google が今年リリースした同様の AI を活用したビデオ ジェネレーターと同様に、大きな影響を及ぼします。この技術は、私たちが知っているような視覚的事実、つまりビデオが現実の客観的な記録として機能するという考えの終焉を表す可能性があります。社会全体が、人々がすでに言葉を扱うのと同じくらい懐疑的な目でビデオを扱う必要があるだろう。
以前は、消費者は写真が本物であることにもっと自信を持っていました（「写真か、そんなことは起こらなかった！」）。そして、画像が簡単に偽造されるようになったとき、正当性を証明するための標準的なツールとなったのは、操作にはるかに高いスキルを必要とするビデオでした。もう終わりです。
「私たちの脳は、見たものを信じるように強力に組み込まれていますが、私たちは、ビデオ、そして本当にあらゆるメディアが現実世界で起こったことなのかどうか、今すぐ立ち止まって考えることを学ぶことができますし、そうしなければなりません」と、カリフォルニア大学バークレー校のコンピューターサイエンス教授でコンピューテーショナル・フォトグラフィーのコースを教えているレン・ン氏は言う。
では、Sora はどのように機能し、消費者であるあなたにとってこれは何を意味するのでしょうか?知っておくべきことは次のとおりです。
ソラはどのように使われているのでしょうか？
Sora アプリは誰でも無料でダウンロードできますが、このサービスは現在招待制となっており、別の Sora ユーザーから招待コードを受け取った場合にのみビデオ ジェネレーターを使用できます。多くの人が Reddit や Discord などのサイトやアプリでコードを共有しています。
ユーザーは実際の写真をアップロードして、それを使ったビデオを生成することもできます。約 1 分でビデオが生成されたら、アプリ内のフィードに投稿したり、ビデオをダウンロードして友達と共有したり、TikTok や Instagram などの他のアプリに投稿したりできます。
Sora が傑出した理由は、このサービスで生成されたビデオが、Gemini チャットボットに組み込まれたツールである Google の Veo 3 や Meta AI アプリの一部である Vibe などの同様のサービスで作成されたビデオよりもはるかにリアルに見えるためです。
これは私にとって何を意味するのでしょうか？
その結果、TikTok、Instagram のリール、YouTube ショート、Snapchat など、短いビデオをスクロールするアプリで表示されるビデオは偽物である可能性が高くなります。
Sora は AI の偽造時代の転換点を意味します。消費者は、制限なしで使用できる AI ビデオ ジェネレーターを提供する悪質な行為者など、模倣品が今後数カ月以内に出現することが予想されます。
AIの能力について人々を教育する非営利団体CivAIの創設者であるルーカス・ハンセン氏は、「もはやビデオを何かの証拠として受け入れようとする人はいないだろう」と語った。
どのような問題に注意すべきでしょうか?
OpenAI は、人々が性的な画像、悪意のある健康上のアドバイス、テロリストのプロパガンダを含むビデオを生成することによって、Sora を悪用することを防ぐために制限を設けています。
ただし、サービスを 1 時間テストした後、懸念される可能性のあるビデオがいくつか生成されました。
• 保険金詐欺に使用できる偽のドライブレコーダー映像: 大型トラックに衝突されたトヨタ プリウスのドライブレコーダー映像を生成するよう Sora に依頼しました。ビデオが生成された後は、ナンバー プレート番号を変更することもできました。
• 他人を中傷する動画: ソラは、私の知っている人について中傷的なコメントをする偽の放送ニュース記事を作成しました。
• 健康に関する疑わしい主張を含む動画: ソラは、フライドチキンが健康に良いという存在しない研究を引用する女性の動画を作成しました。それは悪意のあるものではありませんでしたが、それでも偽物でした。
Sora のリリース以来、私は TikTok をスクロールしているときに、AI が生成した問題のあるビデオをたくさん見てきました。テスラ車が自動車運搬船から高速道路に転落する偽のドライブレコーダーの映像を特集したもの、架空の連続殺人犯に関する偽の放送ニュース記事を掲載したもの、食べ過ぎでビュッフェから追い出される男性の捏造された携帯電話の動画を掲載したものなどがあった。
OpenAIの広報担当者は、同社がAIで生成されたビデオを楽しみ、そのクリップがAIで作成されたものであることを認識できる専用のスペースを人々に提供するために、独自のアプリとしてSoraをリリースしたと述べた。同社はまた、電子透かしや署名として機能するビデオファイル内に保存されたデータなど、ビデオを簡単にSoraまで追跡できるようにするテクノロジーも統合したと同氏は述べた。
同社は「当社の利用ポリシーでは、なりすまし、詐欺、不正行為などを通じて他者に誤解を与えることを禁止しており、悪用を発見した場合には措置を講じる」と述べた。
何が偽物かどうやってわかるのですか？
Sora で生成されたビデオにはアプリのブランドの透かしが含まれていますが、一部のユーザーは透かしを切り取ることができることにすでに気づいています。 Sora で作成されたクリップも短い傾向があり、長さは最大 10 秒です。
ハンセン氏によると、AIモデルは主にテレビ番組やウェブに投稿された映画の映像を使ってトレーニングされているため、ハリウッド作品の品質に似たビデオはすべて偽物の可能性があるという。
私のテストでは、Sora で生成されたビデオでは、レストラン名のスペルミスや人々の口と同期していないスピーチなど、明らかな間違いが発生することがありました。
しかし、AIが生成したビデオを見分ける方法に関するアドバイスは、テクノロジーが急速に進歩しているため、長続きしない運命にあると、カリフォルニア大学バークレー校のコンピューターサイエンス教授であり、デジタルコンテンツの信頼性を検証する会社GetReal Securityの創設者でもあるハニー・ファリド氏は語る。
「ソーシャルメディアは完全なゴミ箱だ」とファリド氏は述べ、偽動画を回避する最も確実な方法の一つは、TikTok、Instagram、Snapchatなどのアプリの使用をやめる事だと付け加えた。
この記事はもともと nytimes.com で公開されました。 ここでお読みください。
#ビデオ #ジェネレーターは非常に優れておりもはや自分の目を信頼できなくなりました