私たちは誤った情報の根本原因をターゲットにしなければなりません。 この状況から抜け出す方法を事実確認することはできません | サマンサ・フロレアーニとリジー・オシェア

T最近の刺傷事件を受けて、政府に対しオンライン上の誤った情報について何らかの措置を講じるよう改めて求める声が上がっている。 ボンダイジャンクション そしてすぐに広がるのは ソーシャルメディア上の憶測と虚偽の主張。

の 以前捨てた 誤った情報の請求が再びカードに載っているようです。 ピーター・ダットンでさえ 指示されたサポート 昨年の法案に対する連合からの激しい批判にもかかわらず。 皮肉なことに、当初の法案自体は、 誤解を招くコメントに巻き込まれる （そうしたいなら、誤った情報）。 修正された法案に何が含まれるかはまだ分からない。

問題は、オーストラリアにおける誤報や偽情報への取り組みが表面レベルの介入に固執していることだ。 コンテンツの削除、ファクトチェック、コンテンツの自動モデレーションなど、この症状を対象とした法的取り組みは、たとえ善意であっても、より広範な問題に対処できないままになっています。 オンライン上の誤った情報や偽情報をこれほど蔓延させている根本的な緊急課題に対処しなければ、私たちはただモグラたたきを続けるだけになってしまいます。

新聞、テレビ、ラジオ、パンフレットなどを通じて、情報技術を介して広められる、ある程度の疑わしい情報、捏造、プロパガンダ、嘘が常にありました。 しかし、デジタル時代において誤った情報や偽情報が非常に強力になっているのは、そのスピードと規模だけでなく、その正確さにもあります。

なぜなら、それはただ何が見えるかだけではなく、なぜそれを見るのかが重要だからです。 増幅、関与、推奨アルゴリズムは、誤った情報の火に油を注ぐことになります。

今では、ソーシャル メディア プラットフォームが、人々をスクロールさせ続けるコンテンツに報酬を与えることはよく知られています。 プラットフォームで費やす時間が増えるほど、より多くのデータが生成され、より多くの広告が販売されることになります。 二極化し、物議を醸し、センセーショナルな素材は好成績を収め、それに応じてブーストされます。 これは、「パーソナライゼーション」の名の下にエクスペリエンスを厳選するために使用されるコンテンツ推奨システムによってさらに悪化し、人々を失望させる可能性があります。 アルゴリズムのウサギの穴 そこでは、同じような、そしてますます過激なコンテンツが提供されます。 研究 誤った情報はおそらく効果が低いことを示唆している 変化 人々の信念は想像よりも正確ですが、すでに確立されている政治的信念と一致する場合、むしろ正確であるとみなされる可能性が高くなります。 推奨システムが確証バイアスを強化する可能性が懸念されます。

これらのアルゴリズムは、数十年にわたる緩いプライバシー保護によって生成および収集された膨大な量のデータに基づいて構築されているためにのみ可能です。 あ 国連報告書 偽情報の拡散と、オンライン広告業界で使用される横行するデータ収集およびプロファイリング技術を結びつけます。 私たちが現在経験している誤った情報は、多くの点で、エンゲージメントを何よりも優先するデジタル プラットフォームのデータ抽出ビジネス モデルの症状です。

それに加えて、収益分配スキームは、バイラルに合わせた魅力的なコンテンツを作成して共有するための、コンテンツ作成者 (または X Premium アカウントを持つ人) に直接的な金銭的インセンティブを生み出します。 それは、人々がボンダイ・ジャンクション襲撃事件の後、イスラム嫌悪と反ユダヤ主義の思惑を広めて金儲けをしたことを意味する。

パーソナライズされた偽情報の影響は、生成 AI の開発によって将来さらに悪化する可能性があります。生成 AI は、これまで大規模に達成することが不可能であった、より詳細な形式のカスタマイズを提供すると予想されています。

これがすべて悲惨な混乱のように聞こえるかもしれませんが、それは実際にそうなっているからです。 公益、人権、地域社会の責任などの集団的な関心事は利益動機と競合することができず、実際にはデジタル プラットフォームによって優先されることはありません。

重要なのは、これらのシステムが機能するためには、大量の自由に流れるデータに依存しているということです。 個人データの商業利用は、意見の対立を招くコンテンツ、物議を醸すコンテンツ、または虚偽のコンテンツの制作と拡散を促進し、その恩恵を受けるプラットフォームのビジネス モデルの主要な推進力です。 目前の問題の原因を評価して、有意義な介入への道筋を特定することが重要です。 この状況から抜け出す方法を事実確認することはできません。

しかし、ここに良いニュースがあります。私たちは、この問題の根源を突き止める能力を持っています。 資本主義を解体し、利益動機を完全に取り除く代わりに、誤った情報を含むデジタル プラットフォームの多くの有害な結果を促進するデータの流れにストッパーをかけるために、私たちが手元にある最良のツールの 1 つは、そして強力なプライバシー保護を実施します。 プライバシー 改革が課題となっており、大胆な変化はデータ抽出のビジネスモデルを最小限に抑え、結果としてオンラインメディアスペースを改善する可能性を秘めています。

検証ツールとコンテンツの管理が役割を果たします。 しかし、このようなアプローチには、表現の自由などの権利の行き過ぎや侵害のリスクなど、重大な欠点があります。 根底にあるビジネスモデルは腐っていて、そこに我々は注目すべきだ。