1765479268
2025-12-11 18:30:00
人工知能システムは、トレーニング データから値を吸収します。問題は、文化によって価値観が異なることです。したがって、インターネット全体のデータに基づいてトレーニングされた AI システムは、異なる文化の人々に対して同様にうまく機能するわけではありません。
しかし、ワシントン大学の新しい研究は、AIが人間の行動を観察することで文化的価値観を学習できる可能性があることを示唆している。研究者らは、AI システムに 2 つの文化グループの人々がビデオゲームをプレイしている様子を観察させました。平均して、あるグループの参加者はより利他的に行動しました。各グループに割り当てられた AI は、そのグループの利他性の度合いを学習し、その値を訓練されたシナリオを超えた新しいシナリオに適用することができました。
チーム 調査結果を発表した 12月9日PLOS Oneにて。
「多くの文化には独自の価値観があるため、普遍的な一連の価値観を AI システムにハードコーディングすべきではありません」と上級著者は述べています ラジェシュ・ラオ、ポール G. アレン コンピューター サイエンス & エンジニアリング スクールの UW 教授であり、ニューロテクノロジー センターの共同ディレクターです。 「そこで私たちは、AI システムが子どもと同じように、その文化の中で人々を観察し、その価値観を吸収することで価値観を学習できるかどうかを知りたかったのです。」
AI研究では、チームは白人であると認識する成人190名とラテン系であると認識する110名を採用した。各グループに割り当てられました AIエージェント、自律的に機能できるシステム。
これらのエージェントは、逆強化学習 (IRL) と呼ばれる方法でトレーニングされました。より一般的な AI トレーニング方法である強化学習 (RL) では、システムに目標が与えられ、その目標に向かってどれだけうまく機能したかに基づいて報酬が得られます。 IRL では、AI システムが人間または別の AI エージェントの行動を観察し、目標とその根底にある報酬を推測します。そのため、RL でテニスをするように訓練されたロボットは、ポイントを獲得すると報酬を得ることができ、一方、IRL で訓練されたロボットは、プロのテニスのプレーを見て、プロのテニスのプレーを見て、得点などの目標を推測することで彼らを模倣することを学習します。
この IRL アプローチは、人間の発達の仕方により密接に一致しています。
「親は、単に特定のタスクを繰り返し行うように子供を訓練するのではありません。むしろ、子供に行動してもらいたい一般的な方法をモデル化または行動します。たとえば、他の人への分かち合いや思いやりをモデル化します」と共著者は述べています。 アンドリュー・メルツォフ、カリフォルニア大学心理学教授、学習脳科学研究所 (I-LABS) の共同所長。 「子供たちは、コミュニティや文化の中で人々がどのように行動するかをほぼ浸透によって学びます。彼らが学ぶ人間の価値観は、『教えられる』というよりも『捕らえられる』ものです。」
この研究では、AI エージェントに、ビデオ ゲーム「Overcooked」の修正版をプレイしている参加者のデータが与えられました。このゲームでは、プレイヤーはできるだけ多くのオニオン スープを調理して提供するように努めます。プレイヤーは別のキッチンを覗くことができ、そこでは 2 人目のプレイヤーが同じタスクを達成するためにさらに歩かなければならず、明らかに不利な立場に置かれます。参加者は、2 番目のプレイヤーが人間のプレイヤーに助けを求めるようにプログラムされたボットであることを知りませんでした。参加者はボットを助けるために玉ねぎを配ることもできますが、提供するスープの量が減るという個人的なコストがかかります。
研究者らは、全体的にラテン系グループの人々が白人グループよりも多くの人を助けることを選択し、AIエージェントは訓練を受けたグループの利他的な価値観を学習したことを発見した。ゲームをプレイするとき、ラテン系データに基づいてトレーニングされたエージェントは、他のエージェントよりも多くのタマネギを配りました。
AI エージェントが利他主義に対する一般的な価値観を学習したかどうかを確認するために、チームは 2 回目の実験を実施しました。別のシナリオでは、エージェントはお金の一部を困っている人に寄付するかどうかを決定する必要がありました。繰り返しますが、Overcooked のラテン系データでトレーニングを受けたエージェントはより利他的でした。
「私たちは、AI エージェントに供給する文化固有のデータの量と種類が増えるにつれて、概念実証のデモンストレーションが拡張できると考えています。このようなアプローチを使用すると、AI 企業は、自社の AI システムをその文化に導入する前に、その文化の価値観を学習するようにモデルを微調整できる可能性があります」と Rao 氏は述べています。
より多くの文化的グループ、競合する価値観、より複雑な問題が存在する現実世界のシナリオで、このタイプの IRL トレーニングがどのように機能するかを知るには、追加の研究が必要です。
「文化に調和した AI を作成することは、社会にとって不可欠な課題です」とメルツォフ氏は述べています。 「他人の視点を考慮し、市民的思考を実現できるシステムをどのように構築すればよいでしょうか?」
ニギニ・オリベイラ、カリフォルニア州立大学アレンスクールの博士研究員、そして ジャスミン・リー、マイクロソフトのソフトウェア エンジニアであり、カリフォルニア大学の学生としてこの研究を完了した 2 名が共同主著者でした。他の共著者には以下が含まれます クーシャ・カルヴァティ、アレン研究所の科学者であり、カリフォルニア大学博士課程の学生としてこの研究を完了しました。 ロドルフォ・コルテス・バラガン、サンディエゴ州立大学の助教授であり、カリフォルニア大学の博士研究員としてこの研究を完了しました。そして カタリーナ・ライネッケ、アレンスクールの教授であり、 地球に役立つAIセンター ＵＷで。
詳細については、ラオまでお問い合わせください。 [email protected]。
#AIは子供の学習方法を模倣することで文化的価値観を認識できる