1721015003
2024-07-11 16:00:00
今週、OpenAIのCEOサム・アルトマン氏と健康関連企業Thrive Globalの創設者兼CEOアリアナ・ハフィントン氏が、 タイム誌の記事 宣伝する スライブAIThriveとOpenAIのスタートアップファンドが支援するスタートアップ。この記事では、AIが人々に健康的な行動を促すことで公衆衛生に大きなプラスの影響を与える可能性があることを示唆している。
アルトマン氏とハフィントン氏は、Thrive AI は「健康を改善するために日常の行動を改善できる、リアルタイムのアドバイスやあなた独自の推奨事項を提供する、完全に統合されたパーソナル AI コーチ」を目指して取り組んでいると書いている。
彼らのビジョンは、AI の最も鋭い両刃の剣の 1 つとなるであろうものに、前向きな解釈を与えている。AI モデルはすでに人々を説得することに長けており、AI モデルが進化してより多くの個人データにアクセスできるようになると、どれほど強力になるかは分からない。
マサチューセッツ工科大学から長期休暇中の教授、アレクサンダー・マドリー氏は、まさにこの問題に取り組んでいる OpenAI の Preparedness というチームを率いている。
「『備え』における仕事の流れの一つは説得です」とマドリー氏は5月のWIREDのインタビューで語った。「基本的には、これらのモデルをどの程度まで人々を説得する方法として利用できるかを考えるのです」
マドリー氏は、言語モデルの驚くべき可能性と、それがもたらすリスクがほとんど研究されていないことに惹かれてオープンAIに参加したと語る。「文字通り、科学的な研究はほとんどありません」と同氏は言う。「それが『Preparedness』の取り組みの原動力でした」
説得力は ChatGPT のようなプログラムの重要な要素であり、このようなチャットボットを非常に魅力的にする要素の 1 つです。言語モデルは、数え切れないほどの修辞的および説得的なトリックやテクニックを含む人間の文章や会話でトレーニングされます。また、モデルは通常、ユーザーがより説得力があると感じる発言に偏るように微調整されます。
研究 リリース 4月にOpenAIの追放者たちが設立した競合企業Anthropicが発表した研究によると、言語モデルは規模と洗練度が増すにつれ、人々を説得する能力が向上しているとのことだ。この研究では、ボランティアに文章を与え、AIが生成した議論がその文章に対する彼らの意見をどのように変えるかを観察した。
OpenAIの研究は、ユーザーとの会話におけるAIの分析にまで及び、より説得力のあるAIの実現につながる可能性がある。マドリー氏は、この研究は同意を得たボランティアを対象に実施されており、これまでの研究結果を明かすことは控えている。しかし、言語モデルの説得力は根深いと同氏は言う。「人間には、自然言語でコミュニケーションをとると、 [we think of it as if] 「それは人間です」と彼は言い、チャットボットをより生き生きと説得力のあるものにすることができる擬人化をほのめかしている。
タイム誌の記事は、説得力のあるAIの潜在的な健康上の利点には、モデルが大量の個人情報にアクセスする可能性があるため、強力な法的保護策が必要であると主張している。「政策立案者は、プライバシーを保護しながらAIの革新を促進する規制環境を構築する必要がある」とアルトマン氏とハフィントン氏は書いている。
政策立案者が考慮する必要があるのはこれだけではありません。ますます説得力を持つアルゴリズムがどのように悪用される可能性があるかを検討することも重要かもしれません。AI アルゴリズムは、誤情報の反響を強めたり、特に説得力のあるフィッシング詐欺を生み出したりする可能性があります。また、製品の宣伝に使用される可能性もあります。
マドリー氏は、OpenAIや他の研究者がまだ研究していない重要な問題は、長期間にわたってユーザーとやりとりするAIプログラムが、どれほど説得力や強制力を持つようになるかだと言う。すでに多くの企業が、恋人や他のキャラクターのロールプレイングを行うチャットボットを提供している。AIガールフレンドの人気は高まっており、中には、 あなたに怒鳴るしかし、これらのボットがどれほど中毒性があり、説得力があるかはほとんどわかっていません。
2022年11月のリリース後にChatGPTによって生み出された興奮と誇大宣伝により、OpenAI、外部の研究者、そして多くの政策立案者は、AIがいつかその作成者に反抗する可能性があるかどうかというより仮説的な疑問に焦点を当てるようになりました。
マドリー氏は、これは巧みな言葉遣いをするアルゴリズムがもたらすより微妙な危険を無視するリスクがあると語る。「彼らが間違った問題に焦点を当てるのではないかと心配しています」と、これまでの政策立案者の取り組みについてマドリー氏は語る。「ある意味、誰もが『ああ、私たちはそれについて話しているから対処している』と言っているが、実際には正しいことについて話しているわけではないのです」
#OpenAIは説得力を試している