1770722602
2026-02-10 02:09:00
アンスロピックのセーフガード研究チームの責任者、ムリナンク・シャルマ氏が辞任した。ムリナンク氏はX（旧Twitter）で長い辞表をシェアした。ムリナンク氏はメモの中で、今日（2月9日）が最後の日だと述べた。 ムリナンク氏はXポストに「今日がアンソロピックでの最後の日だ。私は辞任した。これが私の決断を説明する同僚と共有した手紙だ」と書いた。 Anthropic は 2025 年 2 月に「セーフガード 研究チーム」を発表しました。ブログ投稿でチームを紹介し、同社は次のように述べています。「Constitutional Classifiers のリリースに続き、Anthropic の新しいセーフガード 研究チームを発表できることを嬉しく思います。我々は、脱獄の堅牢性、自動化されたレッド チーミング、モデルの誤用と不整合の両方に対する効果的な監視手法の開発などのトピックに焦点を当てていきます。」 現在チームはムリナンク・シャルマが率いており、現在のメンバーはエリック・ジョーンズ、メグ・トン、ジェリー・ウェイ、ユアン・オン、アルウィン・ペン、テッド・サマーズ、テソン・リー、ジュリオ・チョウ、スコット・グッドフレンドです。」アンスロピック社の同僚に宛てた長いメモの中で、ムリナンク・シャルマ氏は会社での自身の歩みを語った。 「私は博士号を取得し、AI の安全性に貢献したいと考えて 2 年前にサンフランシスコに来ました」と彼は書いています。手紙には、彼が直面していると思われるジレンマについても触れられており、それが彼の退職決断のきっかけとなった可能性がある。これがムリナンク氏が共有した辞任届だ。親愛なる同僚の皆様アンスロピックを辞めることにしました。私の最後の日は2月9日になります。ありがとう。ここには私にインスピレーションを与え、インスピレーションを与えてくれるものがたくさんあります。そのようなものをいくつか挙げると、このような困難な状況に乗り出し、影響力のある誠実な方法で貢献したいという誠実な願望と意欲です。難しい決断を下し、良いことを支持する意欲。理不尽なほどの知的才能と決断力。そしてもちろん、私たちの文化に浸透しているかなりの優しさ。ここでやりたかったことは達成できました。私は博士号を取得し、AI の安全性に貢献したいと考えて 2 年前にサンフランシスコに来ました。私はここで自分が得たこと、つまりアル・シコファンシーとその原因を理解することに貢献できたことを幸運に感じています。アルが支援するバイオテロのリスクを軽減するための防御策を開発する。これらの防御を実際に運用環境に導入します。そして、最初の AI 安全性ケースの 1 つを執筆しました。私は特に、社内の透明性メカニズムを通じて私たちの価値観を実践できるよう支援する最近の取り組みを誇りに思っています。そして、アルのアシスタントがどのようにして私たちを人間らしさをなくしたり、人間性を歪めたりするのかを理解するという私の最後のプロジェクトでもあります。信頼していただきありがとうございます。それでも、次に進むべき時が来たことは明らかです。私は常に自分たちの状況を考えています。世界は危機に瀕しています。それはアルや生物兵器だけではなく、この瞬間に展開している相互に関連した一連の危機全体によるものだ。」私たちは、その結果に直面しないように、世界に影響を与える能力と同等に知恵を成長させなければならない閾値に近づいているようです。さらに、ここにいる間、自分の価値観に本当に行動を支配させることがいかに難しいかを繰り返し見てきました。私はこれを自分自身の中で、組織内で、最も重要なことを脇に置くよう常にプレッシャーに直面しているのを見てきました。そして、より広い社会全体でも同様です。この状況を保持し、できる限り耳を傾けることによって、私が何をすべきかが明確になります。」私は自分の誠実さを最大限に発揮し、自分の特殊性をより発揮できる方法で貢献したいと考えています。私にとって本当に本質的だと感じる疑問、デヴィッド・ホワイトなら「逃げる権利はない」と言うであろう疑問、リルケが私たちに「生きろ」と懇願するような疑問を探求したいと思っています。私にとって、これは離れることを意味します。次に何が起こるかはわかりません。私は「知らないことが最も親密である」という有名な禅の言葉を懐かしく思います。私の意図は、ここ数年私を拘束してきた構造を脇に置き、それらがなくなったときに何が現れるかを確認するためのスペースを作成することです。私は、私たちが自分自身を見つけている場所に取り組み、それに完全に取り組み、同様に有効な知る方法として科学的真実と並んで詩的真実を位置づける文章を書くことが求められていると感じています。どちらも、新しい技術を開発する際に貢献する重要なものがあると信じています*。 私は詩の学位を取得して、勇気あるスピーチの実践に専念したいと考えています。また、ファシリテーション、コーチング、コミュニティ構築、グループワークの実践を深めていきたいと思っています。何が起こるか見てみましょう。ありがとう、そしてさようなら。私はここに来てとても多くのことを学びました、そしてあなたの幸運を祈っています。私のお気に入りの詩のひとつ、ウィリアム・スタッフォードの『The Way It Is』を紹介します。頑張れ、ムリナンク
#アンスロピック社のトップ研究者であるムリナンクシャルマ氏が辞任し長い辞表をツイッターで共有した発言 #会社にいる間私はそれがどれほど難しいかを繰り返し見てきました..