先週、私はTikTokで、エベレスト山の過酷なトレッキング中に犬が亡くなった後、雪の中に犬を埋める女性の姿を見ました。コメント投稿者は動物虐待で女性を非難したが、これは実際には犬が死ぬ悲しい物語ではない。女性、子犬、山はすべて AI によって生成され、おそらく OpenAI のビデオ ジェネレーター Sora 2 によって生成されました (ビデオの透かしは削除されていましたが、アカウントのハンドル名は Soralice です)。おそらく、ほんの数行のプロンプトから、シーン全体が生まれました。
研究者らは、犯罪者が凶悪な目的でこれまで以上にリアルなディープフェイクを作成するのを支援する、リアルな生成 AI 画像やビデオについて警鐘を鳴らしています。しかし、大衆がこの革新的なテクノロジーを手に入れると、多くの人がそれをいじり、いたずらや怒りの餌という最も愚かな使用例にたどり着きます。
十代の若者たちは、「ホームレス男性」のいたずらを行っており、通常は、汚れた服や着古した服を着て、生い茂ったひげを生やした男性が家にやって来た画像を生成する。その後、十代の若者たちは親に写真を送り、パニックになった親とのテキストのやりとりと一緒に画像を投稿します。このいたずらはあまりに蔓延しており、一部の地元警察は「愚かで潜在的に危険」との警察当局からのPSAを発行している。マーティン・ルーサー・キング・ジュニアなど、亡くなった著名人の子供たち。 ロビン・ウィリアムズ、亡くなった両親のビデオの生成をやめるよう人々に懇願している（OpenAIはMLKビデオを一時停止し、遺産管理団体は故人の画像の使用についてオプトアウトを要求できるとしている）。 TikTokには、トランポリンで飛び跳ねるウイルスの偽ウサギから、シャンデリアを壊したりケーキに飛び込むことで結婚式を台無しにする犬まで、AIが生成した動物の動画が豊富にある。女性たちはAIが生成した上半身裸のセクシーな配管工の画像を彼氏や夫に送っている。その多くは、見ているものが本物なのかどうか、視聴者に疑問を抱かせるほど本物そっくりに見えます。
ほんの 2 年前、AI が生成したビデオは厄介な思春期を迎えていました。まともなスキルといくつかのツールがあれば、悪者はウラジーミル・プーチンやドナルド・トランプのような世界指導者の説得力のあるディープフェイクを作成したり、彼らになりすましたり文書を偽造したりして人々を詐欺することができます。しかし、プロンプトによるインスタントビデオ生成のような機能は欠けていました。ソラが市場に出る前にモデルスコープが作成した、ウィル・スミスがスパゲッティを口に押し込むというウイルスのクリップは、騙すというよりもはるかに不安を抱かせるものだった――俳優の顔は認識できるが超現実的で、動きは震えて不気味で、指は多本だった。当時のビデオは、ライブ録画というよりもパラパラ漫画のように見え、訓練された目であれば、ほとんどの合成画像を見つけることができました。私が 2023 年の AI 動画について書いたとき、専門家は、このテクノロジーは拡張するのが難しく、一貫性の欠如により動画の特有の不安定な品質が生じ、スムーズで説得力のあるリアルな結果を提供するにはより多くのコンピューティング能力が必要になるだろうと言いました。
しかし、テクノロジーへの投資により急速な変化が起こり、今では誰でも視覚的に印象的で欺瞞的なコンテンツを作成して投稿できるようになりました。今年の時点で、AI ビデオ生成は急速に進化しており、もはやスミス スパゲッティの時代とは区別できません。ビデオや画像は簡単に作成でき、人々がコンテンツを広く共有することでソーシャル メディア アルゴリズムがコンテンツに報酬を与えます。このコンテンツの多くは、OpenAI の Sora フィードや Meta の Vibes フィードなどの AI ファーストのプラットフォーム、または xAI の Grok を使用した X 上にありますが、常にそこに留まるわけではなく、人々が見ているものが本物である可能性があると期待するようになったプラットフォームに移動します。 「これはミームの新時代に最適なエンジンです」と、Meta のような企業にアドバイスを行ってきた AI とディープフェイクの専門家であるヘンリー・アジダー氏は言う。 Gen AI の画像は、「ある種のスタイルを維持しながら、何かをカスタマイズできることと、自分専用のものを作ることができることを兼ね備えています。」これが迅速に行われるため、人々はより早くトレンドに飛びつくことができます。
AI は偉大な身体的妙技やかわいい犬を模倣することはできますが、そのビデオが常に感情的なつながりを築くとは限りません。
その一部は、長年にわたるソーシャルメディア問題の最新の進化であり、非常に党派的で衝撃的な偽情報や、怒りを煽る搾取的なコンテンツが上位に浮上する可能性があります。 「ある意味、これはアルゴリズムの問題ではなく、人間の問題です」とカリフォルニア大学バークレー校のハニー・ファリド教授は言う。人々は、スロップを作成したり、スロップを監視したりして、ユーザーにスロップをさらに提供するようにアルゴリズムをトレーニングしています。アルゴリズムが実際に役割を果たすのは、下ネタやいたずら、トレンドをより多くの人々に迅速に伝達することです。そして、TikTok のダンスがフィードを通じて急速に変化し、X がニュース記事を急速に拡散させる可能性がある一方で、AI が生成したコンテンツを作成する力は著しく低下しており、動画の作成は悪いツイートを投稿するのと同じくらいの速さで行われています。 「AI のスロップでは、自分は何も作っていないため、非常に迅速に適応できます。そのため、これらのアルゴリズムの操作、およびそのアルゴリズムの向こう側にいる人間の操作は、はるかに劇的になる可能性があります。」
このような非常識なビデオトレンドは、世代 AI のより大きな根本的な問題を示しています。それは、AI の意図が理解されていないことです。AI 倫理学者であり、書籍『責任ある AI』の著者であるオリビア ガンベリン氏は言います。 AI 企業はこれらのビデオを公開し、そのビデオが何を得意とし、どのような価値があるのかを一般の人々に判断させています。ガンベリン氏は、彼らは皆に「『あなたはこれで何かやるべきことを見つけなさい』と言っているようなものだ。むしろ、私たちがあなたの人生を変えたり、人生を根本的に改善するために使える実際の実用的で根本的な使い方を考え出すつもりだ」と言っているのだと言う。 OpenAIのサム・アルトマン氏は、一定の範囲内でAIの使い方を人間が決定すべきだと自ら語っている。 「社会はこれらのツールに対してユーザーを信頼するのに対して、どの程度境界線を定義しているのでしょうか?」アルトマン氏は講演中にこう語った。 MITで話す 去年。 「誰もが私たちの好みに合わせてツールを使用するわけではありませんが、ツールの場合はそういうものです。」
一部のアーティストは、AI 画像を自分の作品に組み込んで、単独または限られた予算でできることの限界を押し上げる魅力的な方法を見つけましたが、ほとんどの人にはそうするための時間やアイデアがありません。これは、ソーシャル メディアのトレンドを簡単に模倣するために Gen AI を使用することにつながります。作るのに数秒かかり、注目を集め、短時間楽しませることができます。 「それらの愚かな使用法が、私たちの心を包み込みやすいということです」とガンベリン氏は言うが、テクノロジーに関するより哲学的な質問は、「AIが生成したビデオで私たちがここで解決しようとしている問題は何ですか?」というものである。
この種の AI ビデオは現在ソーシャル メディアのいたるところで公開されていますが、その著名性は薄れる可能性があります。 「今、私たちは目新しさの影響を受けているのかもしれません」とファリド氏は言う。生成された AI ビデオは、これまでに見たことのないシナリオを生み出すことができるため、注目を集めています。 「また、目新しさが薄れると、すぐに『わかった、これは本当にばかばかしい』と思うようになるのがわかりました。」 AI は素晴らしい身体的妙技やかわいい犬を模倣することはできますが、ビデオが常に感情的なつながりを築くとは限りません。私たちが人々が踊ったりバク転をしたり、愚かな動物を見たりしたいのは、それらの画像が私たちが体験できなかった人生の現実の一部だからです。それが写真の背後にある精神であり、そうでなかったか、何か素晴らしいものを見たときに携帯電話を取り出したくなる衝動の背後にある衝動です。 「本物ではなく、派手なものに注目を集められる時間は限られています」とガンブラン氏は言う。しかし、オンラインで目を離そうとすると、コンテンツはさらに悪化する可能性があります。 「目新しさという点では最下位争いだ。」
アマンダ・フーバー Business Insider の上級特派員としてテクノロジー業界を担当しています。彼女は最大のテクノロジー企業とトレンドについて書いています。
Business Insider の談話記事は、分析、レポート、専門知識に基づいて、その日の最も差し迫った問題についての視点を提供します。
#ビデオの最大の使用例 #愚かないたずら