OpenAI が初めてロシア、中国、イスラエルに関連する影響力操作を削除 : –

ロシアを拠点とするオンライン影響力活動、 中国OpenAIの新しい報告によると、ロシア、イラン、イスラエルは国民を操作するために人工知能を利用している。

悪意のある人物は、ChatGPTを含むOpenAIのツールを使用して、複数の言語でソーシャルメディアのコメントを生成したり、偽のアカウントの名前や経歴をでっち上げたり、漫画やその他の画像を作成したり、コードをデバッグしたりしています。

OpenAIの 報告 は、AI の主要プレーヤーの 1 つに急速に成長した同社による初の試みです。ChatGPT は、2022 年 11 月の一般公開以来、1 億人を超えるユーザーを獲得しています。

しかし、AIツールは、影響力工作の背後にいる人々がより多くのコンテンツを作成し、間違いを減らし、投稿への関与を装うのに役立っているにもかかわらず、OpenAIは、発見した工作は実際の人々から大きな支持を得たり、大勢の聴衆に届いたりすることはなかったと述べている。場合によっては、彼らの投稿が得たほんのわずかな本物の関与は、彼らが偽物だと非難するユーザーからの反応だった。

「こうした作戦では新しい技術が使われているかもしれないが、人々を騙す方法という古くからの問題にまだ取り組んでいる」と、オープンAIの情報・調査チームの主任研究員ベン・ニモ氏は語った。

これはフェイスブックのオーナーであるメタ氏の 四半期脅威レポート 水曜日に発表された。Metaの報告書によると、同社が最近摘発した秘密作戦のいくつかは、画像、動画、テキストを生成するためにAIを使用していたが、最先端技術の使用は、人々を操作しようとする取り組みを阻止する同社の能力に影響を与えていないという。

リアルな音声、動画、画像、テキストを素早く簡単に生成できる生成型人工知能のブームは、詐欺や詐欺行為の新たな手段を生み出している。 操作特に、AIが偽造する可能性は 選挙を妨害する 世界中の何十億もの人々が恐怖を募らせている 投票所へ向かう 今年は、 私たち、インド、欧州連合。

過去3か月間に、OpenAIは5つの秘密の影響力作戦に関連するアカウントを禁止した。これは「[s] 背後にいる主体の真の身元や意図を明らかにすることなく世論を操作したり、政治的結果に影響を与えたりする。」

これにはソーシャルメディア企業や研究者によく知られている2つの活動が含まれています。ロシアのドッペルゲンガーと、 スパモフラージュ。

ドッペルゲンガーは クレムリンと関連 米国財務省によって運営されており、 正規のニュースサイトを偽装する ウクライナへの支持を弱めるためだ。スパムフラージュは幅広いソーシャルメディアプラットフォームやインターネットフォーラムで活動し、親中メッセージを広め、北京批判者を攻撃している。昨年、フェイスブックの所有者であるメタは、スパムフラージュは同社がこれまでに阻止した最大の秘密の影響力行使活動であり、中国の法執行機関との関連があると述べた。

Doppelganger と Spamouflage はどちらも OpenAI ツールを使用して、複数の言語でコメントを生成し、ソーシャル メディア サイトに投稿しました。ロシアのネットワークは、AI を使用して記事をロシア語から英語とフランス語に翻訳し、Web サイトの記事を Facebook の投稿に変換しました。

Spamouflage アカウントは AI を使って、中国の反体制派をターゲットにしたウェブサイトのコードをデバッグし、ソーシャル メディアの投稿を分析し、ニュースや時事問題を調査していました。偽の Spamouflage アカウントからの投稿には、同じネットワーク内の他の偽アカウントからの返信しか返ってきませんでした。

OpenAIによって禁止された、これまで報告されていなかった別のロシアのネットワークは、スパム行為に重点を置いていた。 メッセージングアプリTelegramこの活動は、テレグラムに自動投稿するプログラムのコードをデバッグするためにOpenAIのツールを使用し、アプリにアカウントが投稿するコメントをAIで生成した。ドッペルゲンガーと同様に、この活動の狙いは、米国とモルドバの政治に影響を及ぼす投稿を通じて、ウクライナへの支持を弱めることに広くあった。

OpenAIとMetaの両社がここ数カ月で阻止したとされる別のキャンペーンは、テルアビブの政治マーケティング会社Stoicにまで遡る。Metaによると、偽アカウントはユダヤ人の学生、アフリカ系アメリカ人、関心のある市民を装っていた。彼らはガザでの戦争について投稿し、イスラエル軍を称賛し、大学の反ユダヤ主義やガザ地区のパレスチナ難民のための国連救援機関を批判していた。投稿は米国、カナダ、イスラエルの視聴者に向けられていた。MetaはStoicを自社のプラットフォームから締め出し、同社に停止命令書を送った。

OpenAIによると、イスラエルの活動はAIを使ってインスタグラム、フェイスブック、Xに投稿された記事やコメントを生成、編集し、偽アカウント用の架空の人物像や経歴を作成していたという。また、インドの選挙を標的としたネットワークの活動も発見された。

OpenAI が妨害した業務はどれも、AI 生成コンテンツのみを使用していたわけではない。「これは、人間による生成をあきらめて AI に移行するというケースではなく、両者を混合するケースでした」と Nimmo 氏は言う。

同氏は、AIは脅威の主体に、作成できる情報の量を増やしたり、言語間の翻訳を改善したりするなど、いくつかの利点を提供するが、配布という主な課題を克服する助けにはならないと述べた。

「コンテンツを作成することはできますが、それを人々の前に信頼性のある方法で届けるための配信システムがなければ、それを広めるのは困難になるでしょう」とニモ氏は語った。「そして、私たちがここで目にしているのは、まさにその力学が展開しているということです。」

しかし、オープンAIのような企業は警戒を怠ってはならない、と同氏は付け加えた。「今は油断している場合ではない。歴史が示しているように、何年もかけて何の成果も上げられなかった影響力工作も、誰も監視していなければ突然勃発する可能性がある」