1735440831
2024-12-28 15:55:00
のオフィスではビジョンが具体化されています。 メタ彼がCEOを務める会社 マーク・ザッカーバーグ: 現実のユーザーと人工知能によって生成された生き物との間の境界がますます曖昧になっているソーシャル ネットワーク。
どうやらソーシャルプラットフォームらしい 合成された「人々」が住んでいます。 それはますます近づいています。
友人のためのディープフェイク
コナー・ヘイズMeta の生成 AI 製品の責任者、 彼は明らかにした アル フィナンシャル・タイムズ AIによって作成されたディープフェイクは「実際のユーザーアカウントが現在存在しているのと同じように」ソーシャルメディア上に存在するだろう。
言い換えれば、これらの人工キャラクターは「名前、プロフィール写真、経歴を持ち、コンテンツを生成して共有できるようになり」、膨大な数のキャラクターと自律的に対話します。 30億人 メタによって制御されるプラットフォーム上でアクティブになります。つまり、 Facebook、Instagram、スレッド。
Meta の今後 2 年間の目標は、アプリを、特に若いユーザーにとって「より楽しく、魅力的な」ものにすることです。
生成型人工知能を搭載した合成キャラクター 人間の創造性を模倣することができるザッカーバーグ率いる多国籍企業の戦略において重要な役割を果たす可能性がある。
ヘイズ氏はこう語った。 フィナンシャル・タイムズ 昨年7月に米国で発売された人工知能に基づく新しいツールを使用して、メタが管理するソーシャルネットワーク上ですでに何十万ものディープフェイクが作成されているという。
しかし、ほとんどのユーザーはこれまでのところ、これらの合成文字を非公開にしていたとヘイズ氏は付け加えた。
ディストピア的な色合いの未来
のようなプラットフォームでも、 スナップチャットとTikTokZ 世代の征服を目指して競争している企業は、クリエイターや広告主が AI を通じてコンテンツや広告キャンペーンを生成できるようにするツールをプラットフォーム上で実験しています。
したがって、それがどのような影響を与える可能性があるかを尋ねる価値があります チャットボットの軍隊人間のプロフィールの中にうまくカモフラージュされ、 虚偽または誤解を招く情報。
適切な管理手段がなければ、これらのツールが悪用されて誤解を招く説明が増幅されるリスクがあります。
さらに、AI が生成したコンテンツの流入により、プラットフォームが飽和状態になる可能性があります。 「スロップ」などの低品質の素材一つの終わり 2024年の言葉に含まれる からオックスフォード辞書。
スロップの台頭
技術的な文脈における「スロップ」とは、 人工知能によって生成された低品質のコンテンツ 多くの場合、独創性、一貫性、深みが欠けています。
スロップの象徴的な例は次のとおりです。 「シュリンプ・ジーザス」の画像 — イエスとエビを組み合わせた超現実的な描写 — これは、特に Facebook で急速に広まりました。
これらの奇妙な画像は、AI ツールがどのようにして大量のコンテンツを生成できるかを証明しています。 最小限の労力で多くの場合、無意味な物質の流れが生じます。
ソーシャル ネットワーク上での「スロップ」の増加は、まさに次のようなアクセスによって促進されました。 生成型人工知能これにより、ユーザーは簡単な操作でコンテンツを作成および配布できます。 プロンプトこれはテキストによる指示です。
チャットボットは人間ですか?
アルゴリズムを次のように変換する 自律ユーザー対話し、コメントし、議論に影響を与える能力を備えた Meta は、単にリアルな写真やビデオを作成するだけではないシナリオを描きます。
現実とデジタルフィクションの間のこのクロス 重要な倫理的問題を引き起こす オンラインコミュニケーションの性質について。
2022年末に発表された研究「ディープラーニングで生成されたソーシャルメディアプロフィールは実際のプロフィールと区別がつかないのでしょうか?“、 分析された ソーシャルメディア上の本物のプロフィールとAIが生成したプロフィールを人間が区別できる能力。
実験では、375 人の参加者が暴露されました。 模擬フィード 実際のプロフィールと AI によって生成されたプロフィールと投稿の両方が含まれます。
結果は、参加者が正確に認識することが困難であることを示しています。 AIが生成したコンテンツ。そこで研究者らは、AI がプロフィールとその結果としての投稿を作成できるという結論に達しました。 本物と見分けるのが難しい。
ソーシャル AI の例: すべての偽のフォロワー
「人工ユーザー」によって支配される未来の具体的な例は、次のように表されます。 プラットフォーム 電話 ソーシャルAIメンバーはどこにいるのか 唯一の本物の人間。
彼らと対話するフォロワー、コメント投稿者、批評家はすべて、人工知能によって作成されたプロフィールです。ユーザーは好みに応じて、熱狂的な支持者、議論好きの反対派、あるいはさらには大勢の人々に囲まれることを選択できます。 激しい嫌悪者。
アイデアはプログラマーのものです マイケル・セイマンFacebook、Google、Roblox の元協力者: Social AI は X (旧 Twitter) に似たインターフェースを提供しますが、その中で誰もが、完全に合成的ではありますが、もっともらしい方法で応答するエンティティとディスカッションに参加できます。
「ソーシャル AI はディストピア的な悪夢ではありません」とセイマン氏は説明しました。本当の問題は、今日私たちは何が人間で何が人間でないかを理解できなくなっていることです。」
永遠の独り言のリスク
ソーシャルAIのような文脈では、 対話と独白の境界線 薄くなります。
一方で、従来のチャットボットの機能（ チャットグループ またはジェミニ)、特定の質問に対して「最良の」回答のみを提供するように設計されています。
一方で、偽のフォロワーのグループが常に本物のユーザーの視点を称賛し、支持する用意があるため、従来のソーシャル ネットワークにすでに存在するバブル効果を増幅させるリスクがあります。
実際に、会話を始める前から対話者を「形作る」ことができるとしたら、この比較にはどのような価値があるのでしょうか?
ソーシャルメディアに適用されたAIは私たちに次のことをもたらします 不穏なパラドックス：人間関係を簡素化し、つながりを促進するために作られたテクノロジーは、最終的にはそれを完全に排除してしまう可能性がある 本物の人間関係。
#メタがソーシャルメディアを再設計 #本当に反対側にいるのは誰でしょうか