7月4日に7万1000人のフォロワーを持つFacebookページ「Love Shares 3.0」に投稿されたこの写真は、広場に集まった人々とともにバチカンのサン・ピエトロ大聖堂を空から撮影したものと思われる。頭上には巨大な黒いヘリコプターからぶら下がっているのは巨大な聖書に違いないが、本の文字は文字化けしており、表紙の十字架には余分な腕がある。飛行機がこの大冊を眼下の群衆に落として平らげようとしているかのようだ。キャプションは完全に意味不明だ。「目を70%閉じて魔法を見よう／今日は私の卒業式／2024年5月はあなたの最高の年」。追加のハッシュタグは、この画像が「アート」や「絵画」であることを示す。
これは明らかに AI によって生成されたものだが、コメントでは誰もそのことに言及していない。「主を讃える」とあるユーザーが書き、他の多くのユーザーは「アーメン」とだけ返信している。この画像には 6,000 件近くの「いいね！」と「ハート」のエンゲージメントが寄せられている。
2010 年代初頭、Facebook は私たちが知っているデジタル ライフを一変させました。しかし、ここ数年、さまざまなトレンドが重なり、Facebook は AI が作成したジャンク コンテンツを大量に生み出すクリック ファーミング ページに対して特に脆弱な状態になりました。オンライン クリエイターが物議を醸す AI 技術を個人ブランドに組み込むメリットを検討している重要な時期に、スパム「クリエイター」の影の軍隊がすでに AI 技術を利用して、インターネット セレブがほとんど見捨てたプラットフォームに侵入し、残された社会的価値を食いつぶしています。最悪なのは、Facebook の構造そのものがこの腐敗を助長しているように見えることです。
もちろん、その要因の1つは、Midjourney、Stable Diffusion、DALL-Eなどのテキストプロンプト画像ジェネレーターの台頭です。これにより、「オリジナル」作品を驚くほどの速さで簡単に作成できます。一方、FacebookはCEOのマーク・ザッカーバーグの「メタバース」の無駄遣いに数十億ドルを投資しましたが、その成果を示す実際のユーザーベースはまだありません。Z世代はよく知られています。 軽蔑する ソーシャルネットワークをクールではないとみなし、TikTokやMetaが所有するInstagramを好んで、Facebookは 高齢化人口。
AI に頼ったスパム ページが何らかの指標であるならば、Facebook をスクロールし続けている人の多くは、画像が偽物だとは見分けがつかなかったり、気にしなかったりしており、聖書、赤ちゃん、アメリカ国旗、兵士、動物、豪華な家、風景、イエス キリストといった、特定の慰めとなるものを特に好んでいる。また、病院のベッドにいる患者、泣いている子供や危険にさらされている子供、手足を失った人、家のない人、飢えている人など、同情を喚起するための画像もある。時には、想像上の人物が、誕生日のお祝いをお願いする看板を持っているか、退役軍人であることを説明している。そして、場合によっては、見ているものが何なのかまったく説明がつかない。たとえば、この軍用トラックは巨大なニンジンを運んでいるように見えるが、実はニンジンでできている。
編集者のおすすめ
パリ在住の19歳のセオドアは、彼が「非常識なFacebook AIの雑多な画像」と呼ぶ画像のトップキュレーターとなり、10万人以上のフォロワーがいる専用Twitterアカウントでお気に入りの例を共有している。そのサイトでは、そのコンテンツと、それをむさぼっていると思われる騙されやすいベビーブーマー世代を揶揄するのが通例となっている。AI雑多な画像ビンゴカードのミームもあり、フォロワーはこれを使って、画像に最も頻繁に付けられる一般的なキャプションなど、いくつかの一般的な表現を追跡できる。「なぜこのような写真は流行らないのか」「この写真を気に入って後悔することは絶対にない」など。（なぜか、スカーレット・ヨハンソンの名前もよく登場する。）
「私はフェイスブックをあまり使わないが、ツイッターでそのような投稿のスクリーンショットをたくさん見てきた。そして、その大量の「いいね！」がこの現象を面白くしていた」とセオドアは語る。 ローリングストーン「だから、それを記録しておこうと思ったんです」。現時点では、彼は DM で受け取ったコンテンツをほぼ独占的に共有している。
MetaはAIから生成された画像や動画に対してかなり穏やかなアプローチを取っており、「業界標準のAI画像インジケーターを検出した場合、または人々がAI生成コンテンツをアップロードしていることを明らかにした場合」に「AI情報」ラベルを追加することを選択しています。 言った このラベルは、12以上のエンゲージメントファーミングページで共有されたAI画像のいずれにも表示されていませんでした。 ローリングストーンより厳格なモデレーションに関しては、Metaの監視委員会は「コミュニティ規定に違反していない操作されたメディアを削除すると、表現の自由を不必要に制限するリスクが生じる」と主張している。
つまり、典型的なAIの戯言は厳密には誤情報ではない（ヘイトスピーチや露骨なヌードなどでもない）ので、Metaがスパムとみなさない限り、削除する明白な理由はない。同社の ポリシー Facebook はスパムを許可しないと宣言しており、スパムとは「欺瞞的で迷惑な方法で共有されるように設計されたコンテンツ、またはエンゲージメントを高めるためにユーザーを誤解させようとするコンテンツ」と定義されています。AI のスロップ ページは確かに欺瞞的で、反復的で、エンゲージメントのためにシステムを操作しています。また、大量の反応やコメントから収益を得て利益を得ているページがいくつあるかはわかりません。
メタは語る ローリングストーン 「スパムを根絶するのはほぼ不可能な作業」である一方、この種のコンテンツは「人々がオンラインコミュニティに真摯に参加する能力を損なう」ため、同社はスパムに対して相当の対策を講じている。2024年第1四半期にMetaは「Facebookから4億3600万件のスパムコンテンツを削除」し、そのうち98.2パーセントは「報告される前に対処」されたと報告されている。
メタがAI生成画像をポリシー違反のスパムとみなすのか、それとも単にそのエンゲージメントをユーザーに同じものをもっと提供するためのサインと受け取るのかという疑問が残る。匿名のデータ研究者でソフトウェア開発者のコンスピラドール・ノルテーニョは6月にサブスタックの記事を公開した。 調査 後者を示唆した。Facebookの推奨アルゴリズムは 好意的な AI が本物のコンテンツを台無しにする。
コンスピラドールは、これまで音楽機材の購入にしか使ったことのないダミーアカウントでログインし、フィード上の1000件以上の投稿を30分以上スクロールして、コンテンツとそれを共有しているページの両方に関する情報を収集した。その結果、彼が過去に閲覧した音楽機材に該当するものは5%未満、12.7%はスポンサー広告、残りは「フォロワー数の多いコンテンツアグリゲーターアカウントが投稿したAI生成画像と盗作写真のミックスがほとんど」であることがわかった。AI生成コンテンツは、彼が閲覧した投稿全体の22%、つまりほぼ4分の1を占めた。
「多くの人は、写真のように見える画像は本物の写真だと思い込んでいて、本当に明らかな問題がない限り、実際に AI 画像を見ていることに気付いていないと思います」とコンスピラドール氏は言う。彼は、「ログキャビン リビング」、「マウンテンキャビン」、「バーンドミニウム ギャラリー」などのページが普及していることを指摘した。これらのページには、緑豊かな自然の風景の中にある贅沢に装飾された田舎の邸宅の画像が掲載される傾向があり、これらの写真は偽物であることがすぐにはわからないことが多い。これらのページは、確実にいいね、コメント、登録者を獲得する。「変わった外観の家や美しい屋外の風景は、アカウントが基本的に同じものを何十、何百も投稿していても、うまくいく傾向があります」とコンスピラドール氏は言う。典型的な「ログキャビン リビング」の投稿には、人工の水域と自然の水域の区別が曖昧な不思議なプールのある途方もなく大きな家が掲載されている。
オックスフォード大学AI倫理研究所の哲学准教授カリッサ・ベリズ氏は、この粗悪品の台頭はFacebookの仕組みから当然の結果だと考えている。「この現象は、ソーシャルメディアがエンゲージメントを重視していることの副次的影響のようです」と同氏は言う。「健全な関係を育むことや信頼できる情報源になることに重点を置く代わりに、ソーシャルメディアは人々の注目を集めることに重点を置いてきました。そして、私たちの注目を最も引き付けるものはジャンクフードに似ていることが判明しました。」
トレンド
「生成AIは、人々を魅了するために設計されました」とベリズ氏は言う。「人々が魅了される画像を作り出すのが得意です」。同氏は、Facebookは人々をアプリに釘付けにするコンテンツを必要としており、「ユーザーが以前ほど個人的なストーリーを共有しなくなった」ことを懸念しているため、クリックベイトを容認している可能性があると指摘する。さらに、ベリズ氏は、Metaのような企業は、制御不能なフランケンシュタインの怪物を作り出す動機があると主張している。「現在の不十分な規制では、ソーシャルメディア企業に負担が大きすぎるものは何も要求されていない」ためだ。したがって、システムが暴走していて、それを修正するのが難しすぎる場合、「魔法のようにその影響から解放される」のだ。
その間、セオドアや彼の観客のような観客は、 足のある魚 に 超人ハルクのポルノ 偽りの白黒「歴史」 写真彼はまた、YouTube や X/Twitter から素材を抜き出し始めたが、これらも同じような傾向から逃れることはほとんどできない。しかし、まだすべてが失われたわけではない。セオドアは、Facebook の AI の投稿に対するコメントを通常は見ない。「アーメン」を 100 回続けて読む必要はないからだ。しかし、見てみると、時折「誰かが AI が投稿したと非難している」という驚きのコメントが寄せられる。
#生成のゴミが #Facebook #を席巻