何千もの偽アカウントがどのようにあなたを操作して、彼らの望むことを考えさせるか

「従来のボットを操り人形と考えてください。ボットは同じスクリプトを厳密にコピーして貼り付けます。これにより、すべてが同じように動作するため、検出が容易になります」と、この記事の署名者であり、ヨーロッパ最大の応用研究機関の 1 つであるノルウェー シンテフのインテリジェント データ グループのメンバーであるダニエル シュローダー氏は ABC に説明しました。

専門家は、AIの群れは「むしろ蜂の巣に似ている」と強調する。彼らは独立して組織し、協力して行動することができるため、命令を受ける必要はなく、 あたかも何千人もの実際のユーザーがスマートフォンの画面に入力し、X でパブリッシュしているかのように: «スローガンを繰り返す代わりに、人間が作成したようなユニークな投稿を書きます。彼らは地元のスラングを使用してこれを行い、相互に統合し調整します。さらに、何千もの戦略を瞬時にテストして、特定の状況で人々を説得するものを見つけることができます。」

専門家は、この種のテクノロジーが選挙プロセスの開発中に及ぼす影響を懸念しています。なぜなら、インテリジェントなマシンによって自律的に作成されたネットワーク ポストを検出するのは非常に難しいからです。 «それは人間にはほぼ不可能なことだ«BIノルウェービジネススクールのコミュニケーション教授であり、この記事の著者でもあるジョナス・クント氏は言う。クンスト氏は、「古いコピーアンドペーストボットとは異なり」、AIベースのエージェントは「しばしば本物の人間よりも人間的であると考えられる投稿」を書くことができると指摘する。

運用について専門家は「長期的に遊べる技術」と説明する。たとえば、複数のアカウントが Facebook グループに参加し、他のメンバーと同様に動作する可能性があります。中に入ると、彼らは趣味や地元のニュースに関するコンテンツを共有して、他のメンバー間の信頼を築きました。 「これを達成した後、彼らはプロパガンダに頼って、完全に自然であるように見える誤った合意を作り出すために調整することができます」と教師は結論付けています。

人よりも説得力がある

生成人工知能は非常に説得力があります。昨年 12 月に Nature と Science に掲載された 2 つの関連研究は、ChatGPT のようなマシンが 選挙広告よりも、政治候補者に対する有権者の見方を変える可能性が高い。 5 月に出版された別の論文では、AI が次のように述べています。 誰かの考えを変えるのに人よりも効果的である可能性がある。これを行うために、研究者らは ChatGPT を導入して、中絶や麻薬の合法化などのデリケートなトピックについてユーザーと話し合った。

シュローダー氏にとって、ビデオや画像を通じてユーザーに誤解を与えるための最近の生成 AI の使用は、次に起こる可能性のあるものの始まりにすぎません。同氏は、AIの群れがすでに社会に影響を与えるために行動している可能性を否定はしていないが、「連携は検出しにくいように設計されており、プラットフォームは連携した行動を追跡するために必要なデータの共有に消極的なことが多いため、連携した複数のアカウントに影響を与える操作がどこまで広がっているかを正確に知ることは非常に難しい」と述べた。

しかし、同専門家は、「未来は不透明である」ため、比較的楽観的な見方をしている。「次の重要な政治的出来事の前に、安全対策を講じるチャンスはまだある」としている。

ただし、問題の解決策は簡単ではありません。クンスト氏は、ソーシャルネットワーク上の本物でないアカウントはインスタグラムやXなどのサイトの「エンゲージメント指標を水増しすることが多い」と指摘し、「これにより収入や財務上の評価が高まり、自主的な自主規制が不十分になる」と専門家は言う。このため、同氏は政府が「さらなる透明性と監査」を要求することが重要だと考えている。同様に、「」の作成を提案しています。AIシールド‘: “これらは、ユーザーが高リスクのコンテンツをフィルタリングしたり、ラベルを付けたりする機能を提供するツールです。”また、「市民社会が脅威を追跡できるようにする」ため、世界規模のAI影響観測所の創設も提案している。