世界

イランのグループがChatGPTを利用して米国大統領選挙に影響を与えた方法

これまでのストーリー: OpenAIは木曜日（2024年8月16日）、チャットボットを使用して米国大統領選挙に影響を与えるコンテンツを生成したイランの影響力活動に関連するChatGPTアカウントを禁止したと発表した。マイクロソフトが支援する同社は、「ChatGPTアカウントのクラスター」を特定して削除し、状況を監視していると述べた。 Storm-2035とは何ですか?OpenAIはこのグループに「Storm-2035」という名称を付け、この作戦はニュース組織として活動する4つのウェブサイトで構成されていると述べた。これらのニュースサイトはLGBTQの権利やイスラエルとハマスの対立といった問題を利用して米国の有権者をターゲットにしていた。また、8月9日に発表されたマイクロソフト脅威分析センター（MTAC）の報告書によると、これらのサイトはAIツールを使用して記事を盗用し、ウェブトラフィックをキャプチャしていた。名前が挙がったサイトには、EvenPolitics、Nio Thinker、Westland Sun、Teorator、Savannah Timeなどがある。この作戦は米国のリベラル派と保守派の両方の有権者をターゲットにしていたとされる。 グループは ChatGPT をどのように使用しましたか?OpenAIによると、工作員らはChatGPTを使用して長文の記事やソーシャルメディアのコメントを作成し、それを複数のXアカウントやInstagramアカウントに投稿したという。 (その日のトップテクノロジーニュースについては、当社のテクノロジーニュースレター「Today's Cache」を購読してください)ChatGPTのようなAIチャットボットは、アメリカのユーザーの言語パターンを模倣したり、既存のコメントやプロパガンダを再利用したり、有権者を動かすための盗作コンテンツの作成と流通にかかる時間を短縮したりすることで、外国の工作員が騙されやすいインターネットユーザーを騙すのを支援する可能性がある。 ストーム2035作戦は、来たる米国大統領選挙以外にも、ベネズエラの政治、米国におけるラテン系の権利、パレスチナの破壊、スコットランドの独立、イスラエルのオリンピック参加といった世界の問題を取り上げていた。同ネットワークはファッションや美容といった人気の話題も取り上げていた。 OpenAIは、この作戦によるものとされるニュース記事やソーシャルメディア投稿のスクリーンショットをいくつか共有した。ある記事では、Xがドナルド・トランプ前大統領のツイートを検閲していると主張し、別のソーシャルメディア投稿では、ユーザーにトランプ氏またはカマラ・ハリス副大統領を「排除」するよう求めていた。 ストーム2035の影響はどれほど深刻ですか? OpenAIは事件の重大性を軽視し、ソーシャルメディアにアップロードされたコンテンツに視聴者があまり関心を示さなかったと主張している。 ブルッキングスのブレイクアウトを利用する報告書は、秘密作戦の影響を1（最低）から6（最高）のスケールで測定する「スケール」について、今回の作戦はカテゴリー2の下限に当たる、つまり複数のプラットフォームに投稿されたものの、実際の人々がそのコンテンツを拾い上げたり、広く共有したという証拠はなかったと報告している。 しかし、OpenAIは脅威情報を「政府、キャンペーン、業界の利害関係者」と共有したことを強調した。 OpenAIはイランと関係のある影響力工作の発見と阻止を前向きな展開として発表したが、米国の有権者に対する外国工作員による生成AIツールの使用は、OpenAI、X、Instagram、およびサイトをランク付けする検索エンジンの複数の欠陥を浮き彫りにする、深刻で緊急な問題である。 OpenAI が過去に直面した同様の問題は他にもありましたか? 5月に、このAI企業は、ソーシャルメディア上のコメント、多言語での記事、ソーシャルメディアアカウントの偽名や経歴、テキストの翻訳や校正を生成するために自社のツールを使用した秘密の影響力操作を解体するために3か月以上取り組んできたことを明らかにする報告書を発表した。 OpenAIが「文法違反」と呼んだロシアの組織は、テレグラムを利用してウクライナ、モルドバ、バルト諸国、米国を標的にした。 これとは別に、ロシアを拠点とする「Doppelganger」という別の組織、OpenAIが「Zeno Zeno」と名付けたイスラエルの組織、「Spamouflage」という中国のネットワーク、そして「International Union of Virtual Media」（IUVM）と呼ばれるイランのグループが、ChatGPTを使用してXや9GAGなどのソーシャルメディアプラットフォームにコメントを書き込んだり、記事やニュース記事を投稿したりしていた。 調査の結果、コンテンツにはロシアのウクライナ侵攻、ガザ紛争、インドと欧州の選挙、中国の反体制派や外国政府による中国政府批判といった問題が含まれていたことが判明した。 OpenAI は、影響力のあるネットワークを追跡するだけでなく、国家の支援を受けた脅威アクターが AI を悪用して敵を攻撃する事件も発見しました。 オープンAIの脆弱性を露呈する深刻な事件が続いた。マイクロソフトが支援する同社は7月、昨年初めにハッカーがオープンAIの社内メッセージングシステムにアクセスし、同社のAI技術に関連する情報を盗んだことを明らかにした。ハッカーは個人であることが判明したが、この事件は中国の敵対勢力が簡単に同じことを行えるという警戒を呼び起こした。 OpenAI は自社の技術を守るために何をしているのでしょうか? OpenAI はこれらの事例を研究する中で、ありがたいことに、同社の…