世界

GenerationAlphaのコード化された言語は、オンラインいじめを検出するのを難しくします

ティーンエイジャーの言語は、オンラインいじめを検出しにくくするかもしれませんVitapix/Getty Images Generation Alphaのインターネット用語は、教師、両親、AIモデルよりも速く変異しています。 カリフォルニア州クパチーノのウォーレンEハイドミドルスクールとイタリアのトレント大学のファウストジュンチリアの14歳の学生であるマニシャメタは、一般的なアルファ（2010年から2025年の間に生まれた100の表現とフレーズ）を、人気のあるゲーム、アーミーメディア、ビデオプラットフォームから照合しました。 その後、このペアは、メータのクラスメートである11歳から14歳までの24人のボランティアに、コンテキスト固有のスクリーンショットとともにフレーズを分析するよう依頼しました。ボランティアは、フレーズを理解しているかどうか、どのような文脈で使用されているのか、その使用が潜在的な安全上の懸念や有害な解釈を抱えているかどうかを説明しました。彼らはまた、両親、プロのモデレーター、および4つのAIモデル（GPT-4、Claude、Gemini、Llama 3）に同じことをするように頼みました。 「私はいつもGen Alpha Languageに魅了されてきました。それは非常にユニークであり、物事が関連性が高まり、関連性を非常に速く失い、非常に迅速であるからです」とMehta氏は言います。 Alphaの世代ボランティアのうち、98％が条件の基本的な意味を理解しており、96％が使用されたコンテキストを理解し、92％が害を引き起こすために展開されていることを検出できました。しかし、AIモデルは、10症例で約4で有害使用のみを認識していました。これは、Llama 3から42.3％の32.5％からClaudeによる32.5％から42.3％です。保護者とプロのモデレーターは良くなく、有害な用途の3分の1だけを見つけました。 「私たちが見つけたよりも少し理解を期待していました」とMehtaは言います。 「それは主に両親の側での単なる推測でした。」 Generation Alphaが一般的に使用するフレーズには、コンテキストに応じて二重の意味を持つものが含まれていました。 「彼の料理をしましょう」はゲームのストリームで本物の賞賛になる可能性があります。あるいは、誰かがナンセンスを話していることを意味するmock笑されます。 「Kys」は、かつて「自分自身を知る」の速記でしたが、今では「自分で殺す」と書かれています。虐待的な意図を隠すかもしれない別のフレーズは、「それはアコースティックですか」です。 「アルファ将軍はオンラインで非常に脆弱です」とメタは言います。 「AIはコンテンツモデレートの分野でますます普及しているため、LLMSが少なくとも何を言われているかを理解できることは本当に重要だと思います。」 「LLMが世界を変えていることは非常に明確です」とGiunchiglia氏は言います。 「これは本当にパラダイム的です。尋ねる必要がある基本的な質問があると思います。」 調査結果は今週、ギリシャのアテネでの公平性、説明責任、透明性に関するコンピューティング機械会議協会で発表されました。 「経験的には、この研究は、特に若い人たちを分析および保護するためのコンテンツモデレートシステムの大きな欠陥があるものを示しています」と、ロンドンユニバーシティカレッジのマイケル・ヴェールは言います。 「企業と規制当局は、若い人を保護することを目的としたプラットフォーム法を備えた司法管轄区域の増加において、法律を超えているために、これに細心の注意を払い、これに反応する必要があるでしょう。」 トピック： #GenerationAlphaのコード化された言語はオンラインいじめを検出するのを難しくします