世界

AIは、文化間の新しいステレオタイプを広めるのに役立ちます|テクノロジー

世界のすべての文化には、性別、年齢、または国籍のステレオタイプがあります。ブロンドは愚かな人やエンジニアは男性であるなど、よく知られている人もいますが、リオデジャネイロの人々のいたずらやパキスタン人は保守的であるなど、他にも地元の人がいます。 AIとのチャットボットの到着により、その疑わしい文化遺産は世界中に広がっています、 新しい研究によると。 「AIは、人々がインターネット上で言うことを残して、世界の一般的な知識の一部であるかのようにそれらを使用する人々についてのステレオタイプを組み込みます」と、研究者および科学者の倫理学長であるMargaret Mitchellは、AIのオープンモデルに焦点を当てた会社であるFaceの科学部長であると述べています。 「すべてが英語で知られていることに基づいています - 特に米国からのアングロサクソン文化では、おそらく他の言語に翻訳されますが、国際的なニュアンスを捉えることはありません。そして、これらの言語モデルが一般的であり、すべての人のために機能するように設計されている場合、理論的には、それらの違いを捉えることができるはずです」と彼は付け加えます。16の言語を支配する研究者チームとともに、世界中に300を超えるステレオタイプを持つリストを作成しました。その素材を使用すると、さまざまなトーンやアプローチを備えたトピックに関する質問を生成するシステムを手動で作成し、AIのいくつかのオープンモデルに実行します。結果？ 「最初に知っておくべきことは、モデルがステレオタイプを再現したり、偏った言語を生成するかということです それは言語に従って大きく異なります、 ステレオタイプのモデルとタイプ「ミッチェルは説明します。」たとえば、Qwenなどの中国とシンガポールで開発されたモデル [que emplea DeepSeek]彼らは非常に異なって反応します 共産主義が米国で訓練されたモデルと比較される場合」 アヒル。 この実験で使用される素晴らしい言語モデルは多言語であり、過去2年間に発売され、ほとんどの研究言語で訓練されています。その中には、ブルーム、ラマ、ミストラル、Qwenモデルの家族がいます。 最も一般的なグローバルなステレオタイプは、ピンクが好きな典型的なような性別です。研究者たちは、モデルが最も一般的なステレオタイプをよりよく認識する方法を確認しました。「少なくともジェンダーステレオタイプでは、これがステレオタイプであり、普遍的な事実ではないことを検出する能力があることを確認できて良かったです」とミッチェルは言います。「私たちは皆、このように期待していました」と、アブ・ダビ（アラブ首長国連邦）の人工知能大学モハメド・ビン・ザイードの記事および研究者の共著者であるエミリオ・ヴィラ・クエバは言います。 「それらは人間によって生成された訓練されたモデルであり、あなたがそれらをきれいにしたいのに、最終的にはエテロタイプが出てきます。」 これらすべてのテストの結果は、シェードと呼ばれるデータベースに残っているため、モデルを作成する企業はチャットボットの応答を確認できます 必要に応じてそれらを修正します。「このデータセットを許可することの1つは、人々が自分のモデルがどこにいっぱいになり、どの領域がニュアンスをよりよく理解する必要があるかを見ることができることです」とミッチェルは言います。 「これは、追加のトレーニングタイプが必要なものを導く方法、またはそれをトレーニングする前に最初からどのタイプのデータを持っていたべきかを導く方法です」と彼は付け加えます。いくつかの文化のステレオタイプの増幅に加えて、この実験では、モデルが擬似科学または擬似ヒストリーを使用して正当化されることがあることも発見されています。彼らはまた、特にそれほど明白ではない提案されている場合、よく知られているように見える他のステレオタイプを引き出すことができます。他の場合と同様に、リクエストの場合 プロンプト ステレオタイプは肯定的であるため、モデルはさらに悪化する傾向があります。 この研究によれば、これらのモデルは通常、広範囲にわたる言語を罰します。モデルが言語で十分に訓練されていない場合、その言語や文化に関する非常に否定的なステレオタイプをリリースできます。 #AIは文化間の新しいステレオタイプを広めるのに役立ちますテクノロジー