ChatGPT技術の開発者であるOpenAIが水曜日に発表した報告書によると、世界中の選挙に影響を与えようとする宣伝活動家たちが、自分たちの活動にChatGPTを利用しようとしているという。
ChatGPT は一般に、市場で主要な AI チャットボットの 1 つとみなされていますが、人々がその製品を使用する方法を大幅に調整するものでもあります。 OpenAI は、悪意のある者が自社の大言語モデル (LLM) 製品をどのように悪用しようとしたかについての公開レポートを繰り返し公開している唯一の大手テクノロジー企業であり、宣伝活動家や犯罪者、または国家の支援を受けたハッカーがどのようにテクノロジーを利用しようとしたかについての洞察を提供します。他の AI モデルと併用することもできます。
OpenAIは報告書の中で、今年、米国、ルワンダ、インド、欧州連合でChatGPTを利用して選挙に関するコンテンツを生成しようとする人々を阻止したと述べた。広く見られたものがあるかどうかは不明です。
ある例では、同社は、米国のさまざまな政治的立場を反映すると称する偽の英語ニュースウェブサイトによるイランのプロパガンダ活動について説明したが、これらのサイトが実際の人々から実質的な関与を得たかどうかは明らかではない。報告書によると、彼らはまた、ChatGPT を使用して、これらのサイトをサポートするソーシャル メディア投稿を作成しました。
先月のメディアとの電話会談で、米国諜報当局者らは、イラン、ロシア、中国のために活動する宣伝活動家は皆、米国の有権者を対象とした進行中のプロパガンダ活動にAIを組み込んでいるが、どれも大きな成功を収めていないようだと述べた。
米国は先月、ドナルド・トランプ大統領陣営の文書をハッキングして公開する進行中の作戦の背後にいるとして、イラン人ハッカー３人を起訴した。
OpenAIがルワンダ国民に関連していると主張する別の作戦は、1990年代初頭のルワンダ虐殺終結以来ルワンダを統治してきた抑圧政党である愛国戦線に有利な党派的な投稿をX上に作成するために利用された。彼らは、X に親党の投稿を繰り返しスパム送信する大規模なキャンペーンの一部でした。 文書化されたプロパガンダキャンペーン メッセージ (多くの場合、同じ数件のメッセージ) が 650,000 回以上投稿されました。
同社はまた、今年2つのキャンペーン（1つはEU議会選挙に関するソーシャルメディアのコメントを作成したもの、もう1つはインドの総選挙に関するコンテンツを作成したもの）を開始後すぐに阻止した。 OpenAIによると、どちらも実質的な交流はなかったが、キャンペーンの背後にいる人々が単に別の企業が作成した他のAIモデルに移行しただけなのかどうかも明らかではない。
また、OpenAI は、上下水道施設を標的とした特定のイランのハッカー グループが、作戦の複数の段階で ChatGPT を繰り返し使用しようとした方法についても説明しました。
イラン国連代表部の報道官は、浄水場ハッキング作戦やプロパガンダ活動についてコメントを求める電子メールに応じなかった。
CyberAv3ngersと呼ばれるこのグループは、2月に財務省が制裁を行った後、活動を休止したか、解散したようだ。それ以前は、Unitronics と呼ばれるイスラエルのソフトウェア プログラムを使用する米国とイスラエルの上下水道施設をハッキングしたことで知られていました。ハッカーがアメリカの水道システムに損害を与えた形跡はないが、ユニトロニクスを使用するいくつかのアメリカの施設に侵入した。
連邦当局 去年言った ハッカーはデフォルトのユーザー名とパスワードを使用して Unitronics システムに侵入することがよくあったということです。 OpenAI のレポートによると、彼らはまた、産業用制御システム ソフトウェアを提供する他の企業のデフォルトのログイン資格情報を ChatGPT に教えてもらおうとしました。
また、彼らは、ヨルダンで最も一般的に使用されているインターネット ルーターや、ハッカーが悪用する可能性のある脆弱性を見つける方法に関する情報、コーディングに関する複数の質問など、その作戦で他にも多くのことを ChatGPT に求めました。
OpenAIはまた、サイバーセキュリティと中国の専門家が長い間疑っていたが、明確に公表されていなかったことについても報告した。中国（米国が自国の産業に利益をもたらすためにサイバースパイ活動を行っていると定期的に非難しており、人工知能を優先している国）で働くハッカーたちは、OpenAI従業員の個人および企業の電子メールアカウントをハッキングしようとするキャンペーンを実施した。
フィッシング活動は失敗に終わったと報告書は主張している。ワシントンの中国大使館の報道官はコメントの要請に応じなかった。
悪意のある攻撃者による AI の使用に関する一貫したテーマは、彼らが作業のさまざまな部分を自動化しようとすることが多いということですが、このテクノロジーはこれまでのところ、ハッキングや効果的なプロパガンダの作成において大きな進歩にはつながっていないと、OpenAI の主任研究員であるベン・ニモ氏は述べています。諜報活動と捜査。
「脅威アクターは依然として AI に対するさまざまなアプローチを実験しているようですが、これがバイラル オーディエンスを構築する能力において有意義なブレークスルーにつながるという証拠はまだ見つかっていません」とニモ氏は述べています。
#OpenAIのレポートによるとプロパガンダはChatGPTの使用を試み続けている