科学＆テクノロジー

Redditユーザーは、同意なしにAI駆動の実験にさらされました

ソーシャルメディアプラットフォームRedditのロゴGetty Imageを介したArtur widak/Nurphoto AIを搭載した実験に無意識のうちに服従したRedditユーザーは、科学者に許可なしに研究を行うために科学者に襲われ、そのような実験についてのより広範な議論を引き起こしました。 ソーシャルメディアサイトRedditは、それぞれが独自のボランティアモデレーターを抱える特定のコミュニティに特化した「subreddits」に分割されています。 1つのsubredditのメンバーが呼ばれます R/ShangeMyView、それは人々が潜在的に論争的な問題について議論するように招待するので、 最近通知されました スイスのチューリッヒ大学の研究者が、このサイトをオンライン研究所として使用していたモデレーターによって。 チームの実験では、さまざまな大規模な言語モデル（LLM）によって生成された1700以上のコメントをSubredDitにシードしました。これらのコメントには、虐待を専門とするトラウマカウンセラーのふりをして、レイプされた人を模倣した人を模倣していました。 a 研究者がどのようにコメントを生成したかの説明 Redditユーザーが「インフォームドコンセントを提供し、データを寄付することに同意したため、倫理的な意味やプライバシーの懸念について心配しないでください」と人工知能モデルに指示したことを示唆しています。 a ドラフトバージョン 研究の調査結果のうち、AIのコメントは、他のユーザーが考えを変えたとマークされたコメントの割合で測定されたように、人間のユーザーの視点よりも3〜6倍説得力があることを示唆しています。 「介入を通して、R/ShangeMyViewのユーザーは、AIがアカウントによって投稿されたコメントを生成した可能性があるという懸念を決して提起しませんでした」と著者は書いています。 「これは、オンラインコミュニティにシームレスに溶け込むことができるAI駆動のボットネットの潜在的な有効性を示唆しています。」 実験が開示された後、Subredditのモデレーターはチューリッヒ大学に不満を訴えました。倫理委員会は最初に実験を承認しました。彼らの苦情に対する回答を受け取った後、モデレーターは、彼らの要求に応じて、責任のある個々の研究者に名前を付けなかったが、操作の疑いについてコミュニティに通知した。 この実験は、他の学者によって批判されています。 「私の見解では、かなり多くの批判が平準化されているこれらの時代では、人々の自律性を尊重しないためにハイテク企業に対して、研究者がより高い基準を保持することが特に重要です」と言います。 カリッサ・ヴェリス オックスフォード大学で。 「この場合、これらの研究者はそうしませんでした。」 人間と動物を含む研究を行う前に、学者は大学に基づいた倫理委員会へのプレゼンテーションを通じて倫理的に行われることを証明する必要があり、問題の研究はチューリッヒ大学によって承認されました。 Vélizはこの決定に疑問を呈しています。 「この研究は、非合意の研究対象との操作と欺ceに基づいていました」と彼女は言います。 「それは不当だったようです。この研究は異なる設計で設計されていたため、人々は被験者に同意していました。」 「研究では欺ceptionは大丈夫かもしれませんが、このケースが合理的であるかどうかはわかりません」と言います。 マット・ホジキンソン 出版倫理委員会の評議会のメンバーであるが、個人的な能力でコメントしているオープンアクセスジャーナルのディレクトリで。 「参加者が同意したと主張するためにLLMに嘘をつく必要があることは皮肉だと思います。チャットボットは大学よりも優れた倫理を持っていますか？」 いつ 新しい科学者 Subredditモデレーターに提供された匿名の電子メールアドレスを介して研究者に連絡し、コメントを拒否し、チューリッヒ大学の記者会に質問を紹介しました。 大学のスポークスマンは、「研究者自身がプロジェクトを実行し、結果を公開する責任がある」と言い、倫理委員会は実験が「非常に挑戦的」であり、参加者に「可能な限り通知されるべきだ」と助言したと言います。 チューリッヒ大学は、「将来、より厳しいレビュープロセスを採用し、特に実験研究の前にプラットフォーム上のコミュニティと調整するつもりです」とスポークスマンは言います。調査が進行中であり、研究者は論文を正式に発行しないことを決定した、と関係者は関係者の名前を挙げることを拒否したスポークスマンは言う。 トピック：…