サイバー攻撃者による ChatGPT の使用が裏目に出て検出を支援

OpenAI は、悪意のある者が同社の AI ツール ChatGPT を悪用することで、当局による秘密のサイバー活動の検出と妨害が意図せず容易になってしまったことを明らかにしました。

OpenAIは詳細なレポートの中で、サイバー犯罪者が違法行為を支援するためにそのツールを使用する新たな傾向について論じたが、こうした試みは手口を暴露することで裏目に出ることが多いと指摘した。

レポートによると、ChatGPT プロンプトは、OpenAI が悪意のある攻撃者がターゲットにしているプラットフォームやツールを特定するのに役立っています。ある例では、ChatGPT の悪用により、OpenAI がソーシャル メディア プラットフォーム X (旧 Twitter) と Instagram にわたる秘密の影響力キャンペーンをリンクできるようになりました。

このレポートでは、オンラインでの欺瞞活動を強化するためにサイバー犯罪者がテストしている新しいツールについて、ChatGPT プロンプトがどのように洞察を与えたかも明らかにしました。

AIが偽情報の拡散をエスカレートさせる可能性についての懸念が高まっているにもかかわらず、OpenAIは、そのモデルが、公開されている情報源からは得られない機能を脅威アクターに提供していないと強調した。

報告書は、「SweetSpecter」として知られる中国を拠点とする疑いのある敵が関与した事件を含む、いくつかの注目すべき事件を取り上げた。

このグループは ChatGPT を使用して、政府職員と OpenAI 従業員の両方を対象としたスピア フィッシング キャンペーンを調査し、実行しました。

SweetSpecter は、問題のトラブルシューティングを行うユーザーを装い、電子メールの添付ファイルを通じてマルウェアを拡散させようとしました。幸いなことに、OpenAI のスパム フィルターは、従業員に脅威が届く前に脅威をブロックしました。

OpenAI は、SweetSpecter の ChatGPT プロンプトを監視することで、大手自動車メーカーのシステムを含むさまざまなアプリやインフラストラクチャの脆弱性を悪用するこのグループの意図を発見しました。

これに加えて、OpenAI は、SweetSpecter が検出を避けるために電子メールの添付ファイルに名前を付ける際にも協力を求めていたことを指摘しました。

もう 1 つの重要な事件には、イラン軍と関係があると伝えられているグループ、CyberAv3ngers が関与していました。 CyberAv3ngers は、米国、アイルランド、イスラエルなどの国の公共インフラに対する破壊的なサイバー攻撃で知られています。

OpenAI は、このグループが調査とコードのデバッグを行うために ChatGPT を使用していることを特定し、グループが将来の攻撃で悪用することを目的としている可能性のあるテクノロジーに関する貴重な洞察を提供しました。

OpenAIの報告書では、政府に批判的なイラン人ジャーナリストをターゲットにAIツールを使用して捕らえられた別のイランの脅威アクターであるSTORM-0817をどのように妨害したかも明らかになった。

STORM-0817 は ChatGPT を使用して Instagram プロフィールをスクレイピングし、コードをデバッグしていましたが、OpenAI は広範な監視活動の一環としてフラグを立てました。

AI ツールは悪意のある攻撃者によって実験されていますが、OpenAI は、脅威攻撃者の能力に大きな進歩は見られないと明言しました。

一部のキャンペーンはオンラインで実際の人々を巻き込むことに成功しましたが、全体的な影響は依然として限られています。

OpenAI は、サイバー犯罪者が使用している AI ツールの大部分は、非 AI リソースですでに実現可能な追加機能のみを提供していると指摘しました。

同社の報告書は、サイバー脅威に対する堅牢な防御を構築するために、テクノロジー業界全体での連携を強化する必要性を強調した。 OpenAI は、モデルが悪用される可能性がある方法に対処する際に、継続的な透明性を確保することに取り組んでいます。

しかし、彼らは、AI企業が単独でこれらの戦いに戦うことはできず、他の機関と協力して、国家と結びついたサイバー攻撃者やオンラインでの秘密の影響力活動に対する多層的な保護を開発する必要があるという見解を持っていた。

#サイバー攻撃者による #ChatGPT #の使用が裏目に出て検出を支援