Facebook が卵、スパゲッティ、カリフラワーで作られたイエス キリストで満たされている理由 | テクノロジー

「私の芸術作品は誰も好きではありません」、「私は自分の手で作りました！」、「2024 年 5 月が最高の年です」など、Facebook に付随するテキストの一部です。 イエス・キリストの何千もの奇妙な画像 人工知能によって生成されます。 ネットワークアルゴリズムがそれらを促進し、一部はバイラルになります そして、彼らはページに大量の視聴者を引き付けることに成功し、その成功を利用してユーザーを収益化したり、さらには詐欺を行ったりします。

スタンフォード大学の研究者で、この画像に関する3月の論文の共著者であるレネー・ディレスタ氏は、「画像は魅力的です。美しいものもあれば、センセーショナルなものもあれば、ただ奇妙なものもあります」と語る。 「どうやって」と題された現象 スパマー そして詐欺師は視聴者を増やすために Facebook 上で AI が生成した画像を使用します。」 何千人ものユーザーがこれらの画像を操作しますが、その多くは単純な「アーメン」という言葉で反応しますが、これはボットである可能性があります。

Facebook は長年にわたってコンテンツを共有するネットワークとなり、基本的な目的は視聴者を増やすことです。 イエス キリストも、作成が簡単で注目を集めるリソースです。「ページ作成者間で注目を集める競争は、効果がありそうなあらゆる戦術を使用することを意味します。現在、それには、推奨システムを宣伝していると思われる AI が生成したコンテンツを投稿することも含まれます。 」とディレスタは続ける。

著者によって追加されたテキストは、このバイラル性を促進するのに役立ちます。 いくつかの画像では、黒人の子供がスパゲッティで作られたイエス・キリストの隣に立っており、「私の芸術を評価してくれるすべての人に感謝します」というテキストが書かれています。 これらの画像はどれも、人工的に作成されたものではありません。

この学術論文では、それぞれ少なくとも 50 枚の AI 生成画像を公開している 120 の Facebook ページを調査しました。 成功の証拠は、ページに平均約 130,000 人のフォロワーがいることです。 これらの写真を見た直後、Facebook のアルゴリズムはさらに多くの例と新しい亜種を提供しました。 EL PAÍSが確認したものは、ラテンアメリカのユーザーのページからのもので、これらの宗教的な画像と、同様にAIで作られたミーム、動物、静物画を組み合わせ、「おはよう」や面白いビデオを上書きしたものだった。 そのうちの一人、メキシコ在住のハイチ人は本紙に対し、自分がそうした画像を実際に作成したこと、人々はそれらの画像を本当に気に入っていること、そしてそれらを使って何かを得ることができることを認めたと手短に答えた。方法を説明したいと思います。 。 このユーザーには 7,000 人以上のフォロワーがいました。

Facebook 内での不正行為を超えて、根本的な議論は次のとおりです。人々がこれらのばかばかしい画像を本物の芸術と混同した場合、AI によって生成されたものが本当に現実的になったら何が起こるでしょうか? 誰もが混乱しているわけではありませんが、確実なことはありません。 これらの写真の 1 つの下で、ユーザーは次のように述べています。「これは何と素晴らしい彫刻でしょう、神に祝福された手です、愛しい人、あなたは天才です。今日明日は神のご加護がありますように、そしてコロンビアからいつもおめでとうございます。」 別の人はこう答えました。「お嬢さん、どうしてこんなことを信じられるの、自分はなんて簡単にだまされるの、それが偽りのイメージだということが分からないのですか？」 「ネットワーク上で公開されているものをすべて信じる必要はありません。」

だまされやすい女性は、詐欺の一種を示す別の応答を受け取りました。 これらの偽の画像が本物であると信じている人は、おそらくもっと単純で詐欺にかかりやすいでしょう。「私はフランス人で、夫が成人してから 13 年以上経ちます。」 [sic] 自動車事故で。 夫の死後、私は夫の財産を相続しました。 私の高齢と健康を考慮し、私には相続財産の恩恵を受ける子供がいないことと、政府が私の死後財産を凍結することを望まないため、必要に応じて経済的支援を受けたい人たちを経済的に援助することにしました。 したがって、経済活動に興味がある場合は、メッセージを送ってください」と実際の WhatsApp 番号へのリンクを追加しました。

「詐欺アカウントは、ページ上でもグループ内でも、投稿上でだまされやすいコメント投稿者とやり取りすることがあり、そのコメント投稿者に関する個人情報を要求したり、存在しない商品の販売を持ちかけたりすることがあります」と記事では説明されています。 グループまたはページに視聴者が作成されると、メリットを引き出そうとする方法はさまざまです。「次の場合、ページを「詐欺」としてマークします。1 つは、ページの制御を盗んだり、購入したり、変更したりしてフォロワーをだます。 2 つ目は、名前、住所、その他の識別特徴を虚偽に述べる。 そして/または、その 3 に、彼らは偽物の製品を販売しています」と学術論文は詳しく述べています。

このような戦術を使用するページの中には、名前を変更してフォロワーを別のことをさせたり、視聴者を売りつけたりすることがよくあります。 スパム ページは、注意を利用して、広告が満載された Facebook 以外のページにユーザーを誘導します。

イエス・キリストは主要な主張の 1 つにすぎません。 2023 年の第 3 四半期、世界中で Facebook で最も閲覧された画像 20 件のうちの 1 つが、このガラス床のキッチンでした。 最も視聴されたコンテンツに関する同プラットフォームの四半期報告書によると、視聴回数は4,000万回、インタラクションは190万回に達した。 この罠を試すページの中には、動物、子供、小屋、風景など、Facebook で注目を集めそうなものなら何でも試しているものもあります。 数十個のスイカの彫刻。 数十の木彫り。 芸術的に配置された数十枚の寿司皿は、どれも非常に似たスタイルだった」と記事は述べている。

ディレスタ氏と彼の共著者であるジョージタウン大学のジョシュ・A・ゴールドスタイン氏は論文の中で、「こうした高いレベルのエンゲージメントは、フェイスブックの推奨アルゴリズムによってもたらされているのではないかと疑っている」と述べている。 2年前、Metaから流出した文書によると、ソーシャルネットワークはアルゴリズムをTikTokに似たものに変更した。 文書によると、その目的は「つながりのある人が制作したものであるかどうかに関係なく、人々が興味深いコンテンツを見つけて楽しめるようにすること」だという。 著者らは、この「あなたにおすすめ」コンテンツが閲覧数の割合として、2021 年の 8% から 2023 年の 24% にどのように増加したかを示しています。

これらすべてのバイラル画像のハブは Facebook ですが、Instagram も存在します。「AI が生成した画像は Instagram でも人気です」とディレスタ氏は言います。 「それらは Twitter やどこにでもありますが、Facebook と Instagram のデザインにより、人々は特定の種類のビジュアル コンテンツを作成し、時間をかけて視聴者を構築することができます。」

2月にMetaはAI生成コンテンツにラベルを付けると発表した Facebook、Instagram、スレッドの両方で。 現時点では、これらのいずれの場合でも問題は発生しません。 潜在的な危険性を評価するには、この詳細が重要です。 場合によっては、AI が生成した画像を簡単に検出できることもありますが、常にそうとは限りません。「明らかな兆候がある場合でも、それらを識別するには多大な認知的努力が必要であり、その兆候を期待するのは非現実的かもしれません。」平均的な Facebook ユーザーは単に閲覧しているだけです。」 あなたの年表を見てください。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取ることができます ニュースレターセマナル。