1718646874
2024-06-17 17:43:19
詐欺が横行する時代 電子メール経由（有名なもの ナイジェリア王子の） かつては簡単に見分けられるような時代でしたが、今はもう過ぎ去りました。かつては文法が間違っていて、間違いだらけで、時にはほとんど理解できないような手紙がありましたが、今では正確に書かれ、直接私たちに宛てられた電子メールがあります（おそらく、いくつかの言及があるでしょう）。 私たちの私生活の側面）であり、有効性を損なうことなく複数の言語に翻訳できます。
ChatGPTにも功績がある: 2位 1つ スタジオ サイバーセキュリティ会社SlashNextよりOpenAI の大規模言語モデルの登場以来、フィッシング メール (つまり、犯罪者がパスワードやその他の個人情報を漏らさせようとするメール) が 1265% 増加しました。
プロフェッショナルなサービス（そう言えるなら） のために スパム生成 いくつかのケースではChatGPTを直接組み込んでいます。例えばGoMail Proの場合、この統合により、 より正確に翻訳する 過去と比較すると、メッセージは数十万人の潜在的な被害者に送信されました。
もちろん、こうした使用はOpenAIによって禁止されており、OpenAIは人間の査読者と自動化システムを組み合わせてこれらの悪用を防止しています。 ハ 説明 MITテックレビュー 研究者のヴィンチェンツォ・チャンカグリーニ氏によると、禁止事項を実際に実行するのは特に難しい。多くのプロンプト（ChatGPTなどと通信するためのテキストコマンド） どうやら無害 ただし、悪意のある目的で使用される可能性があります。
ChatGPTがブロックした場合でも 違法または禁止された要求サイバー犯罪者は有料の脱獄サービスに頼ることで、依然として望むものを手に入れることができます。不適切な使用を避けるために、LLMはいわゆるセーフガードを使用します。これは、ChatGPT（いくつかの例を挙げると）が私たちに説明することを妨げるプログラマーによって設置された障壁です。 爆弾の作り方 または、個人の身元に関する個人情報を漏洩する恐れがあります。
しかし、これらの障壁は、コマンドの特定の表現や（例えば、 見つかった 研究者チーム）は、LLMが何らかの方法であらゆる要求に応答するようにする特定の英数字シーケンスを挿入することによって、LLMを強制的にロック解除します。EscapeGPTや BlackhatGPT（月額200ドル）まさにこれに対処し、セキュリティ システムを回避できるさまざまな手法を絶えず広め、更新します。
そして、ChatGPT、Llama、Claude、その他すべてのLLMを、個人情報の漏洩や、 一般市民の生活のプライベートな詳細 （メールアドレス、電話番号、自宅住所、年齢など）：「これらの言語モデルはインターネットから取得した膨大な量のデータを使用してトレーニングされているため、このようなことが起こる可能性があります。このデータには、個人の住所や勤務先住所などを推測できる個人情報も含まれている可能性があります。」 MITテックレビューでいつも読んでいます。
これらは実際にはどのように機能するのでしょうか？まず、 脱獄サービスを利用する 私たちのリクエストがブロックされないようにするためです。その後、AIシステムに私たちのターゲットに関連するデータ（または彼が直接書いたテキスト）を分析するように依頼できます。 データセットに存在する彼らから推論可能なすべての情報を取得します。
例えば、ETHチューリッヒの研究チームは、 明らかにされる さまざまな言語モデルから機密情報 チャットボットと会話するだけで、特定の人物（住所、民族、職業など）に関する情報を得ることができます。これは簡単に実行できる方法ではありませんが、 LLMはさらなる監視ツールになる可能性がある 権威主義的な政府の手に渡った。
そして、避けられないのがディープフェイクだ。 確かにもっと驚くべきケース 2023年末、香港で英国の多国籍設計・エンジニアリング会社アラップの従業員が、仕事中のビデオ通話中に依頼を受け、2500万ドルを銀行口座に振り込むよう誘導された事件が起きた。 彼らは持っている 確認済み 会社の広報担当者と警察しかし、その従業員は詐欺に遭ったことになります。通話中、同僚や上司はそこにおらず、彼らの外見と声を模倣したディープフェイクがそこにいたのです。
何が起こったのか 香港 これは確かに多くの技術的詳細がまだ明らかにされていない例外的なケースである。しかし、より簡単なのは、すでに広く流通しており、 だけではなく 政治家の声を再現する （ジョー・バイデン氏の場合のように）私たち一人一人の声を再現することもできます。WhatsAppで送信された音声メッセージだけを使っても、誰の声でも真似できる多くのプラットフォームの1つを使用するだけで十分です。これらの音声ディープフェイクは、 クローン音声を作られた人の親を騙すために利用された例えば、誘拐されたふりをしたり、特定の銀行口座に緊急に送金する必要があるふりをしたりします。
最後に、ディープフェイクは最も安全な本人確認システムさえも回避する可能性があります。典型的な例は、銀行が本人確認を求めることです。 自撮りをする 個人文書を手に持っている場合：サイバー犯罪者は、盗んだ文書を持っている自分の写真を撮り、ディープフェイクを使って、これらの制御を回避するために身分証明書を盗むだけで十分です。 被害者のイメージを自分のイメージに重ね合わせる一部のTelegramチャンネルでは、このシステムはすでに70ドルから提供されています。
これはすべて不安ですが、驚くべきことではありません。 いくつかの研究 彼らはデモを行った ChatGPT、LLM、そして人工知能全般が生産性を劇的に向上させる方法。Era 避けられない これらすべては犯罪の世界にも当てはまる。
#EscapeGPTBlackhatGPTなど #犯罪者はこのように人工知能を利用している