ChatGPT の邪悪な「兄弟」と生成型人工知能に対するその他の脅威 | テクノロジー

FraudGPT は、 兄弟 ChatGPT の悪。 で推進されています ダークウェブ 銀行を装ったメッセージを書いて、 マルウェア データ分析プラットフォームによると、詐欺に遭いやすいウェブサイトを表示することもできます ネテンリヒ。 その他のツール ワームGPTのような また、サイバー犯罪者の活動を容易にすることも約束しています。 生成人工知能は、高度な詐欺の生成から、同意のないポルノ、偽情報キャンペーン、さらには生物化学兵器の作成に至るまで、悪意のある目的に使用される可能性があります。

「比較的新しいものであるにもかかわらず、犯罪者は目的を達成するために生成型人工知能の機能を遅々と利用してきました」とスペインのコンピューターセキュリティ会社ESETの研究・啓発担当ディレクター、ジョセップ・アルバース氏は言う。 専門家はいくつかの例を挙げています: フィッシング 誤った情報の生成に対して、非常に適切に分割され、指示されていることに加えて、スペルミスがなく、ますます完成度が高まっています。 ディープフェイク。 つまり、人工知能を使って操作され、人の顔、体、声が変更または置き換えられるビデオです。

フェルナンド・アナヤの場合、 カントリーマネージャー Proofpoint によれば、生成人工知能は「革命的なステップではなく、進化的なステップ」であることが証明されています。 「悪意のある電子メールを検出するために、明らかな文法的、文脈的、構文的なエラーを探すようユーザーに勧められた時代は終わりました」と彼は言います。 これで攻撃者は楽になりました。 これらのツールのいずれかに依頼するだけで、アカウントとルーティング情報の更新に関する緊急かつ説得力のある電子メールを生成できます。

さらに、多くの言語で電子メールを簡単に作成できます。 「LLM（巨大な言語モデル、 ディープラーニング 大量のデータに基づいてトレーニングされています)、まず組織の LinkedIn プロフィールをすべて読み、次に各従業員に非常に具体的な電子メールを作成します。 これらはすべて、受信者の特定の興味に合わせて、完璧な英語またはオランダ語で書かれています。」 オランダサイバーセキュリティセンターが警告。

フィリップ・ハッカーNew European School of Digital Studies のデジタル社会の法と倫理の教授は、生成人工知能を使用して マルウェア より効果的で、検出が困難で、特定のシステムや脆弱性を攻撃することができます。「高度なウイルスを開発するには、人間の広範な専門知識が依然として必要とされる可能性がありますが、人工知能はウイルスの作成の初期段階で役立ちます。」 マルウェア”。

アルバーズ氏によれば、この種の技術の導入は「普及にはまだ程遠い」という。 しかし、FraudGPT や WormGPT のようなツールは、「将来にとって深刻な問題」を引き起こす可能性があります。 「その助けを借りて、事前の技術知識がほとんどない犯罪者は、かなりの確率で成功するあらゆる種類の悪意のあるキャンペーンを準備することができます。これは、ユーザーや企業にとって、さらに多くの脅威に対処しなければならないことを意味します。」

オーディオ、画像、ビデオを生成する

詐欺の説得力が強ければ強いほど、誰かが被害者になる可能性が高くなります。 人工知能を使って音声を合成する人たちがいます。 「詐欺」 豚の解体のように「いつかメッセージから通話に移行し、この手法の説得力がさらに高まるかもしれません」とアナヤ氏は言います。 スペイン語では「豚の屠殺場」と訳されるこの詐欺は、攻撃者が被害者を「太らせ」て信頼を勝ち取り、被害者が持っているものをすべて奪うことからそう呼ばれています。 通常は暗号通貨に関連しますが、他の金融取引所が関係する場合もあります。

Proofpoint の研究者らは、サイバー犯罪者がこのテクノロジーを利用して政府関係者を欺いていることをすでに確認しています。 TA499 グループに関するあなたの研究が示していること、政治家、ビジネスマン、または有名人に対してこのテクニックを使用します。 「彼らは、人工知能やその他の技術を使ってなりすました人物にできるだけ似せようとするビデオ通話を行い、被害者が情報を共有したり嘲笑したりし、後でその録画をソーシャルネットワークにアップロードします」とアナヤ氏は説明する。

生成人工知能は、変更された画像やビデオを使用したキャンペーンの実行にも使用されます。 テレビの司会者や、アナ・ボティン、イーロン・マスク、さらにはアルベルト・ヌニェス・フェイジョーなどの重要人物の音声がクローン化されています。 アルバーズ氏は次のように説明しています。「これらのディープフェイクは主に、仮想通貨への投資を促進するために使用されており、通常は投資資金の損失で終わります。」

ポルノから生物化学兵器まで

ハッカーは、ポルノを作成するための生成人工知能の使用が特に「憂慮すべき」ことだと考えています。 「この形態の虐待はほぼ女性のみをターゲットにしており、個人的にも職業的にも深刻な危害を引き起こします」と彼は言う。 数ヶ月前 エストレマドゥーラ州の数十人の未成年者が、人工知能によって作成された偽のヌード写真が出回っていると報告した。 一部の有名人が好む ロザリアまたはローラ・エスカネス 同様の攻撃を受けています。

ハッカーが強調しているように、同じテクノロジーは「世論と選挙結果に影響を与えることを目的として、脅迫的な移民を描写する虚偽の画像を作成し、より洗練された説得力のある偽情報キャンペーンを大規模に作成するために」使用されてきた。 T8月にマウイ島を襲った山火事を受けて、いくつかの出版物は、それらが米国によって実験された秘密の「気候兵器」によって引き起こされたことを何の証拠もなしに示しました。 報道によれば、これらのメッセージは中国主導のキャンペーンの一部であり、明らかに人工知能で作成された画像が含まれていたという。 ニューヨークタイムズ。

生成人工知能の使用の可能性はこれで終わりではありません。 雑誌に掲載された記事 ネイチャーマシンインテリジェンス 高度な人工知能モデルが生化学兵器の作成に役立つ可能性があることを示しています。 ハッカーにとって、それは世界的な危険を意味します。 さらに、アルゴリズムは重要なインフラストラクチャ ソフトウェアに侵入する可能性があると専門家は述べています。「これらのハイブリッド脅威は、従来の攻撃シナリオ間の境界線を曖昧にし、予測し、既存の法律や規制で対抗することを困難にしています。」

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。