世界

ダウンロード: 犯罪者による AI の使用方法と OpenAI の中国データに関する大失敗

人工知能は、犯罪組織の生産性を大幅に向上させました。Generative AI は、悪意のある攻撃者がこれまでよりもはるかに効率的かつ国際的に活動できるようにする、新しい強力なツール キットを提供します。 過去 1 年間、サイバー犯罪者は独自の AI モデルの開発をほとんどやめてきました。 代わりに、確実に動作する既存のツールを使ったトリックを選択しています。それは、犯罪者が楽な生活と手っ取り早い利益を望んでいるからです。 新しいテクノロジーが、その導入に伴う未知のリスク（たとえば、捕まるリスクが高い）を考慮する価値があるためには、現在使用されているテクノロジーよりも優れており、より高い見返りをもたらす必要があります。 当社の上級 AI レポーター、メリッサ ヘイキラが、犯罪者が現在 AI を使用している 5 つの方法をまとめました。 OpenAIの最新の失敗は中国のAIモデルが直面する課題を示している先週の新しいAI「オムニモデル」であるGPT-4oのリリースは、OpenAIにとって大きな瞬間となるはずだった。 しかし、数日後、会社は大きな問題に直面しているように感じられました。 安全チームのほとんどが辞任し、同意に反してモデルの声を再現したというスカーレット・ヨハンソンの告発に至るまで、同社は現在、ダメージコントロールモードに入っている。さらに、GPT-4o のトークナイザー (モデルがテキストをより効率的に解析して処理するのに役立つツール) のトレーニングに使用されたデータは、中国のスパム Web サイトによって汚染されています。 その結果、モデルの中国語トークン ライブラリには、ポルノやギャンブルに関連するフレーズが満載です。 これにより、AI モデルによく見られる幻覚、パフォーマンスの低下、誤用などの問題が悪化する可能性があります。 しかし、この問題に苦しんでいるのは OpenAI だけではありません。大規模な言語モデルを中国語で話すようにトレーニングすることには、いくつかの厳しい課題があります。 詳細については、ストーリーをお読みください。 —ヤン・ゼイ この記事は、中国のテクノロジーに関する内部情報を提供する週刊ニュースレター、チャイナ レポートからのものです。…