1769454890
2026-01-26 18:55:00
人工知能システムが日常生活に浸透するにつれて、研究者は価値観の不一致という重大な問題にますます注目しています。 Anne Arzberger 氏、Enrico Liscio 氏、Maria Luce Lupetti 氏 (デルフト工科大学およびトリノ工科大学) は、Íñigo Martínez de Rituerto de Troya 氏、Jie Yang 氏らとともに、AI の価値に関する従来のモデル中心の見方に挑戦する新しいアプローチを提示します。彼らの研究では、アライメントを固定されたルールセットとしてではなく、人間の相互作用を通じて共同作成される動的な実践として再構築し、AI の動作の不一致をユーザーがどのように認識し、対応するかを調査しています。
研究チームは、ずれ日記とジェネレーティブ デザイン ワークショップを組み合わせることで、特に研究アシスタントとして大規模言語モデル (LLM) を採用しているユーザーに焦点を当て、ずれが倫理的な欠陥としてではなく、実際的な混乱として現れることを発見しました。こうした混乱は、行動の調整から意図的な離脱まで、さまざまなユーザーの反応を引き起こしました。この研究により、AI システムが継続的で共有された、コンテキストに関連した調整プロセスをどのようにサポートできるかについての理解が深まりました。
この研究では、人間の価値観が深く位置し、状況に依存していることを認識し、アライメントをユーザーと AI の間で共同作成されるインタラクションの実践として枠組み化しています。不一致は、抽象的な倫理違反としてではなく、課題や社会的崩壊を引き起こす予期せぬモデル反応として経験されることが多く、実際的な相互作用の課題に焦点を当てた介入を設計することの重要性が強調されています。
チームは、位置ずれ日記とジェネレーティブ デザイン活動を組み合わせた参加型ワークショップ方法論を採用しました。さまざまな研究分野からの 12 人の参加者が、現実世界の不整合な相互作用を文書化し、リスクにさらされている特定の値を特定し、進行中の整合性の共同構築をサポートするアクションとインターフェース機能を共同で設計しました。このアプローチは、受動的フィードバック収集を超えて、参加者が将来の AI インタラクションを積極的に形成できるようにします。ユーザーは、モデル出力の微調整から、ずれがひどい場合の意図的な離脱まで、さまざまなエンゲージメント戦略を明確にしました。
参加者は、モデルの動作を監視および調整するための「マップ」や「スライダー」などのインターフェイス メカニズムを提案し、AI 出力の積極的な理解と変更を可能にするツールの必要性を強調しました。この研究では、ユーザーを事前に定義された値の受動的受信者ではなく認識主体として再構成し、状況に応じた価値観とユーザー主体性の間に重要なつながりを確立します。
この研究では、ユーザーの再帰性についても前面に打ち出しました。参加者は、特注のミスアライメントダイアリーを使用して、不適切な、誤解を招く、または有害な行動の事例をリアルタイムでキャプチャし、ミスアライメントの AI 出力を注意深く文書化しました。その後、ジェネレーティブ デザイン ワークショップでは、参加者に、継続的な調整をサポートするための新しいインタラクション メカニズムを含むソリューションを構想するよう促しました。参加者は、モデルの動作の調整と解釈から、戦略的対応としての非関与まで、望ましい役割を明確に述べました。研究者はこれらのセッションを注意深く文書化し、ユーザー定義の調整戦略の豊富なデータセットを作成しました。
重要なのは、この方法論では状況に応じた価値観が優先され、事前定義されたオプションを回避し、参加者がニーズや好みを自由に表現できるようになったということです。データ分析では、タスクの破綻、社会的困難、予期しない AI の出力など、不整合の具体的な事例に焦点を当てました。たとえば、参加者は、LLM が理論的な詳細を捏造したり、存在しない情報源を引用したり、不正確なマルチモーダル出力を生成したりしていると報告しました。その他のずれとしては、一次文献の根拠の欠如、歴史的プロンプトにおける過度にアメリカ中心の要約、倫理的に問題のある指導などが挙げられます。モデルが自信過剰を示したり、最小限の利益を得るために過剰なプロンプトを要求したりするなど、相互作用の破綻も発生しました。
対処戦略を理解するために、ユーザーの介入が測定されました。技術的に熟練した参加者は、汚染を避けるためにプロンプトを繰り返し調整したり、具体的な例を提供したり、新しいセッションを開始したりすることがよくありました。一部の参加者は明示的に非介入を選択し、迅速なエンジニアリングに無関心を表明し、共建設的な調整におけるオプションのサポートの必要性を強調しました。全体として、調査結果は、人間と AI の相互作用から不整合が生じ、抽象的な危害ではなく具体的な故障に基づいて発生し、ユーザーの反応が積極的な調整から意図的な離脱にまで及ぶことを示しています。
この研究は、AI の調整を継続的、共有、参加型のプロセスとして微妙に理解することを可能にします。この研究は、位置ずれを動的かつ相互作用的な現象として扱うことにより、継続的でユーザー主導の位置合わせの実践をサポートし、より信頼性が高く、協力的で状況に応じた AI と人間のパートナーシップを促進する AI システムを設計するための重要な洞察を提供します。
ユーザーの反応が AI のミスアラインメント エクスペリエンスを形成し、将来に影響を与える
研究者らは、モデル中心のアプローチを超えて、インタラクション中にユーザーがこれらの問題にどのように積極的に反応するかに焦点を当て、埋め込みが進む AI システムにおける価値の不一致を調査しました。彼らは、不整合を単純な倫理的失敗としてではなく、人間と人工知能の間で共同構築された相互作用の実践として枠組み化しました。この研究では、ずれ日記とジェネレーティブ デザインを組み合わせた参加型ワークショップを通じて、特に研究アシスタントとして使用される大規模な言語モデルのコンテキストにおいて、ユーザーがこれらのずれをどのように理解し、対処に貢献したいと考えているかを調査しました。この調査結果は、ユーザーが不整合を経験するのは、抽象的な倫理違反ではなく、主にタスクや社会的交流における予期せぬ反応や破綻としてであることを示しています。
参加者は、モデルの動作の調整と解釈からシステムからの意図的な離脱まで、これらの問題に対処するための多様な役割を明確にしました。この研究では、次の概念が導入されています。 ユーザーと AI による価値の整合性の共同構築ここで、アラインメントは、モデルの最適化だけではなく、実行時のユーザーの参加を通じて積極的にサポートされます。重要なのは、この研究が示唆していることは、この共同構築を可能にするためには必ずしも新しい技術インフラストラクチャが必要ではなく、むしろ継続的で状況に応じた共有された実践をサポートする方向に設計の優先順位を変えることであるということです。著者らは、抽象的な値を実用的なインターフェイス機能に変換する際に非デザイナーが直面する課題に注目しています。
この研究はまた、調整の労力をユーザーに転嫁する潜在的なリスクを強調し、共同建設は個人のニーズと制約を尊重した任意の関与形態であり続けるべきであると強調している。今後の作業では、価値を調整するための展開可能な方法を開発することを目標に、このアプローチをさまざまな状況に拡張し、特定された対話戦略を実装することを検討します。全体として、この研究は、システム設計者と開発者に対する明確な説明責任を維持しながら、ユーザー入力を求める際のタイミング、選択性、比例性に注意を払う、倫理的に責任のある AI システムの必要性を強調しています。
#参加型デザインはユーザーの対話と日記を通じて #の価値の調整を促進します