「死んだインターネット」の陰謀は、AIによって生成されたコンテンツの破産により強さになります|テクノロジー

「私はそれを節度を大きく超えた熱意で望んでいました。しかし、今ではそれを達成した今、睡眠の美しさが衰退し、嫌悪感と恐怖が圧倒されました。」 1818年に出版され、科学者の性格の性格で知られるメアリーシェリーの作品におけるフランケンシュタイン博士の創造に対する反応です 現代のプロメテウス。同様のめまいが、OpenaiのエグゼクティブディレクターであるSam Altmanに苦しんでいます。人工知能の最も洗練された開発の1つ（AI）の創造的な会社の長 「死んだインターネット」の理論を信じ始めます生成されたコンテンツが自動的に生成された人間を超えることを擁護するため、行動の操作、誤った情報、条件付けの危険性が意図的に増殖することを擁護します。

Altmanの簡単なメッセージは懸念を呼び起こしました。 [ahora X y propiedad de Elon Musk] AIの言語モデルであるLLMによって管理されています。

グローバルテクノロジーディレクター（CTO）のアーロンハリス AIアプリケーションに特化した多国籍企業であるSage現象の宗派という点では慎重ですが、「「死んだインターネット」と呼ぶかどうかはわかりませんが、確かに急速に変化しています。 ボット [programas informáticos que imitan el comportamiento humano] 本物のノイズを分離することがますます難しくなります。問題は、このノイズが圧倒されるか、信頼を回復するテクノロジーの設計に集中できるかどうかです。現在重要なのは、人々が信頼できる情報をフィルタリング、検証、表示する方法です。 」

ソーシャルネットワークへのAltmanの具体的な参照は無料ではありません。 「ソーシャルネットワークは現在、世界中の多くのユーザーの主な情報源になっているため、これは非常に重要です」と、コンピューターサイエンスのディレクターであるジェイクレンツェラと、自動学習研究者のヴラダロゾバは、それぞれヌエバゲールズデルサル（UNSWシドニー）とメルボルンの大学の大学に書いています。 会話。

「AIによって宣伝されているこれらのアカウントは、フォロワーで成長しているため（多くの虚偽、一部は真）、高い数は実際のユーザーのアカウントを正当化します。これは、アカウントの軍隊が作成されていることを意味します。ソーシャルネットワークがこれらによって操作されているという確かな証拠がすでにあります。 ボット Altmanの警告に沿ってオーストラリアの研究者は、次のように述べています。 研究 2年前に公開された不浸透性セキュリティ会社のうち、「すべてのインターネットトラフィックのほぼ半分が作成された」とすでに計算しました。 ボット」

ソーシャルネットワークが操作されているという確かな証拠がすでにあります ボット [programas informáticos que imitan el comportamiento humano] 誤った情報を伴う世論に影響を与え、何年も起こっている」

ジェイク・レンゼラとヴラダ・ロゾバ、シドニーとメルボルン大学の研究者

そしてそれら ボット それらは、特異なコンテンツを作成できるだけでなく、式を模倣して、拡散が大規模でウイルスになるようにします。に公開された新しい研究によると 物理的なレビューレター バーモント大学とサンタフェ研究所の研究者が監督した「伝播するもの、信念、冗談、ウイルスであろうと、リアルタイムで進化し、分布するにつれて力を獲得します」「自己参照カスケードの数学的モデルに続いて [Self-Reinforcing Cascades]」。

この調査によると、それが広がるにつれて普及しているものと、その変化は第6世代の火災と同様のモデルでそれを悪化させるのに役立ち、従来の手段でオフにすることは不可能です。 「私たちは森林火災で自分自身を刺激します。開いたギャップが交差すると、密集した弱い森林を燃やすと強くなります。その同じ原則は、情報、ジョーク、または病気に当てはまります。条件に応じて強化または弱体化することができます。

ジュニパーロヴァート、 コンピューター科学者 この研究の共著者は、この仕事により、信念の形成、誤った情報、社会感染がどのように生成されるかをよりよく理解することができると考えています。 「これは、ネットワークを通じて物語や物語がどのように進化し、広がるかを探るための理論的根拠を与えてくれます」と彼は言います。

研究者は、操作や誤った情報をサポートするコンテンツのウイルス化のリスクには、人工知能ツールが掛けられ、参加者とAIエージェントの危険性をより強く認識しているユーザーが必要であると警告しています。

これらの新しいAIツールは、コンテンツを詳しく説明してバイラル化する方法を知っているだけでなく、ユーザーインタラクションから収集する情報に個人的かつ効果的に影響を与える方法を知っているからです。

仕事で ¿偉大な助けや偉大な兄弟？生成アシスタントの監視、プロファイルの作成、カスタマイズで提示されます Usenix Safety Symposium シアトルで祝われるユーザーの脆弱性は、影響を受けるように分析されます。

「ソーシャルネットワークへの影響に対する感受性に関しては、それはあなたが誰であるかではなく、あなたがネットワークにいる場所とあなたが誰であるかということです」と南カリフォルニア大学の研究者であり、仕事の共著者であるルカ・ルセリは説明します。

「感受性パラドックス」

この意味で、研究は「感受性パラドックス」と呼ばれる現象を反映しています。これは、「アカウントのアカウント所有者よりも平均してユーザーがより影響を受けるパターン」です。仕事によると、この行動は「行動、トレンド、アイデアがどのように普及しているか、そしていくつかのインターネットコーナーが他のものよりも影響に対して脆弱である理由を説明することができます」。

他の人がしばしば同様の行動に非常に近いサークルの一部であるために公開する人々は、研究によると、「社会的影響は個人間の直接交換だけでなく、ネットワークの構造によって成形され、制限されている」と示唆しています。

このようにして、AIによって収集された個人データからの自動ウイルス化のための鉱山であるコンテンツを共有する可能性が高い人を予測することができます。 「多くの場合、ユーザーの友人がどのように振る舞うかを知ることは、ユーザーがどのように振る舞うかを推定するのに十分です」と調査は警告しています。

この人工知能が人間によって作成されたインターネットでの効果の解決策は、支配し始めているため、規範的であるだけではありません。によると AIの上級アシスタントの倫理約20人の研究者と大学を抱えるGoogleの深いマインドの複雑で徹底的な仕事であるため、課題は四面体の関係にある必要があります AIの中で、ユーザー、開発者、社会は「適切な価値または指示のセットを開発し、世界で安全に機能し、広く有益な結果を生み出す」。

研究者の仕事は、ロボット工学のためのアシモフの法則によって、次のように要約できる道徳的原則の外国人を避けるための一連の戒めを発展させます：AIの利益を支持するようにユーザーを操作したり、社会的コストを生み出したり、社会的コストを生み出したり（誤った情報をもたらしません）。ユーザーの自由。

問題は、コンテンツが人間またはAIから来る場合ではなく、誰かがそれに対して責任を負っている場合ではありません」

アーロン・ハリス、CTO de Sega

セガのCto De SegaであるAaron Harrisは、可能な限り倫理的なインターネットを作成しますが、「偶然には起こりません」と彼は言います。 「透明性と責任はIAの設計方法を決定する必要があります。それを開発する企業は、結果がどこから来たのか、なぜ推奨されるのかを人々が理解できるように、結果を監査可能かつ説明できるようにする必要があります。たとえば、財務では、精度は実際の結果をもたらします。同じ原則が適用されます。 オンライン：責任ある形成、明確なラベル付け、および結果に疑問を呈する能力により、AIがより倫理的で信頼できるインターネットの一部になる可能性があります。 」

ハリスは、「人間のインターネット」の保護を擁護します。 ボット」、しかし、達成された進歩を分配する犠牲を払っていない。」私は、解決策がAIの前に世界に戻り、生成したコンテンツを完全に制限または排除しようとすることであるとは思わない。それはすでに私たちの生き方と働きの一部であり、責任ある方法で使用されると本当の価値を提供できます。問題は、誰かがコンテンツに責任があるかどうかです。それがすべての企業が従わなければならない原則です。AIは、それを置き換えるのではなく、人間の能力を改善する必要があります。それはまだより人間のインターネットである可能性がありますが、中心部の人々のニーズを維持し、無視される責任を負う場合にのみです。 」