1762903885
2025-11-11 11:30:00
いつ歴史が の AI と書かれているが、安全性に関して言えば、スティーブン・アドラーはそのポール・リビア、あるいは少なくともそのうちの一人になるかもしれない。
先月、アドラー氏は、同社でさまざまな安全上の役割を担って4年間を過ごした。 OpenAI、書きました 一枚 「私は OpenAI で製品安全を主導しました。『エロティカ』に関するその主張を信用しないでください。」その中で彼は、ユーザーがチャットボットとエロティックな会話をできるようにしながら、そのやりとりが精神的健康に与える可能性のある影響からユーザーを保護することに関して OpenAI が直面した問題を説明しました。 「道徳警察になりたい人は誰もいなかったが、エロティックな使用を慎重に測定し管理する方法が欠けていた」と彼は書いた。 「AI を活用したエロティカは待たなければならないと判断しました。」
アドラー氏が論説を書いたのは、OpenAI CEO のサム・アルトマン氏が最近、同社がまもなく「認証済み成人向けのエロティカ」これに対してアドラー氏は、OpenAIが、アルトマン氏の言葉を借りれば、ユーザーが同社のチャットボットとどのようにやりとりするかに関する精神衛生上の懸念を「軽減」するのに十分な措置を講じたかどうかについて「大きな疑問」があると書いた。
アドラーの文章を読んだ後、私は彼と話したいと思いました。彼はサンフランシスコの『WIRED』オフィスに来てほしいという申し出を快く受け入れ、このエピソードでは ビッグインタビューでは、OpenAI での 4 年間に学んだこと、AI の安全性の将来、そしてチャットボットを世界に提供する企業に向けて設定した課題について語ります。
このインタビューは長さと明瞭さのために編集されています。
ケイティ・ドラモンド: 話を始める前に、2 つのことを明確にしておきたいと思います。まず、残念ながら、あなたはガンズ・アンド・ローゼズのドラムを叩いていたスティーブン・アドラーとは違いますよね？
スティーブン・アドラー: まったくそのとおりです。
OK、それはあなたではありません。そして 2 つ目は、あなたはテクノロジー、特に人工知能の分野で非常に長いキャリアを積んできたということです。それでは、すべての内容に入る前に、あなたのキャリア、経歴、そしてこれまで取り組んできたことについて少し教えてください。
私は AI 業界全体で、特に安全性の観点に重点を置いて働いてきました。つい最近まで、私は OpenAI で 4 年間働いていました。私は基本的に、お客様が想像できる安全性の問題のあらゆる側面に取り組みました。つまり、製品を顧客にとってより良いものにし、すでに発生しているリスクを排除するにはどうすればよいでしょうか?そして、もう少し先のことを考えると、AI システムが本当に非常に危険になっているかどうかをどうやって知ることができるでしょうか?
#元スタッフがOpenAIのエロティックな主張を非難