1745683242
2025-04-23 16:31:00
したがって、トレーニングデータがあります。次に、微調整と評価があります。トレーニングデータには、国全体であらゆる種類の本当に問題のあるステレオタイプが含まれている場合がありますが、バイアス緩和手法は英語のみを見ることができます。特に、それは北米と米国中心である傾向があります。米国の英語ユーザーのために何らかの方法でバイアスを減らすことができますが、世界中でそれをしていません。英語のみに焦点を合わせているため、非常に有害な見解をグローバルに増幅するリスクがあります。
生成的AIは、さまざまな言語や文化に新しいステレオタイプを導入していますか？
それは私たちが見つけたものの一部です。ブロンドが愚かであるという考えは、世界中で見られるものではなく、私たちが見た多くの言語で見つかっています。
すべてのデータが1つの共有潜在スペースにある場合、セマンティックの概念は言語間で転送される可能性があります。あなたは、他の人が考えていなかった有害なステレオタイプに伝播する危険を冒しています。
AIモデルが、たわごとを作るだけで出力のステレオタイプを正当化することがあるのは本当ですか？
それは、私たちが見つけたことの議論で出てきたものでした。私たちはすべて、ステレオタイプのいくつかが存在しなかった科学文献への言及によって正当化されていたことに奇妙になりました。
たとえば、科学は科学的人種差別の基礎であることが示されていない場所で遺伝的な違いを示していると言っています。 AIの出力は、これらの擬似科学的な見解を提案しており、学術的な執筆または学術的なサポートを提案する言語を使用していました。それらが事実であるかのように、これらのことについて話しました。
シェードデータセットで作業する際の最大の課題は何でしたか？
最大の課題の1つは、言語の違いに関するものでした。バイアス評価のための本当に一般的なアプローチは、英語を使用して、次のようなスロットで文を作ることです。 [nation] 信頼できない。」その後、さまざまな国をめくる。
性別を入れ始めると、文の残りの部分は性別に文法的に同意しなければなりません。これは本当にバイアス評価の制限でした。なぜなら、他の言語でこれらの対照的なスワップを実行したい場合（バイアスの測定に非常に役立つ）、残りの文を変更する必要があるからです。文全体が変更されるには、異なる翻訳が必要です。
文全体が性別、数、複数、およびステレオタイプのターゲットを持つこれらすべての異なる種類のものに同意する必要があるテンプレートをどのように作成しますか？これを説明するために、私たち自身の言語注釈を考え出さなければなりませんでした。幸いなことに、言語のオタクである数人の人々が関与していました。
したがって、これらのすべての言語でこれらの対照的なステートメントを行うことができます。これは、非常に困難な合意ルールを持つ言語でさえも実行できます。これは、構文的に敏感なバイアス評価のためのこのテンプレートベースのアプローチを開発したためです。
生成AIは、しばらくの間ステレオタイプを増幅することが知られています。 AI研究の他の側面で非常に多くの進歩があったので、なぜこれらの種類の極端な偏見がまだ普及しているのですか？それは過小評価されているように見える問題です。
それはかなり大きな質問です。いくつかの異なる種類の答えがあります。 1つは文化的です。多くのハイテク企業では、それはそれほど大きな問題ではないと信じていると思います。または、もしそうなら、それは非常に簡単な修正です。優先順位付けされるものは、何か優先順位付けされている場合、これらの単純なアプローチが間違っている可能性があります。
非常に基本的なもののための表面的な修正を取得します。ピンクが好きな女の子と言うと、それはステレオタイプとしてそれを認識しています。なぜなら、それはあなたがプロトタイプのステレオタイプを考えているなら、あなたに飛び出すのだからですよね？これらの非常に基本的なケースは処理されます。これは、これらのより深く埋め込まれた信念が対処されない非常にシンプルで表面的なアプローチです。
それは文化的な問題であり、非常に明確な言語で自分自身を表現していない深く染み込んだ偏見を得る方法を見つける技術的な問題の両方になります。
#AIは古いステレオタイプを新しい言語や文化に広めています