1717555450
2024-06-04 15:13:40
現役および元 OpenAI 従業員が発行した 公開書簡 同社とそのライバルが建設を進めていると警告 人工知能 過度のリスクを伴い、十分な監督もなく、無責任な活動を目撃する可能性のある従業員の口を封じている。
「これらのリスクは、既存の不平等のさらなる固定化から、操作や誤情報、自律型AIシステムの制御の喪失による人類絶滅の可能性まで多岐にわたります」と、 著作権「これらの企業に対する政府の有効な監督がない限り、現従業員と元従業員は企業に責任を負わせることができる数少ない人々である。」
この書簡は、OpenAIだけでなくすべてのAI企業に対し、活動について声を上げた従業員を処罰しないことを約束するよう求めている。また、企業に対し、従業員が活動について匿名でフィードバックできる「検証可能な」方法を確立するよう求めている。「通常の内部告発者保護は、違法行為に焦点を当てているため不十分である。一方、私たちが懸念しているリスクの多くはまだ規制されていない」と書簡には書かれている。「業界全体でのこうした事例の歴史を考えると、私たちの中にはさまざまな形の報復を恐れる人がいるのも当然だ」
OpenAIは先月、 Voxの記事 同社は、従業員が会社を批判したり、そのような合意の存在に言及したりすることを禁じる非中傷合意に署名しない場合、従業員の株式を剥奪すると脅迫していることを明らかにした。OpenAIのCEO、サム・アルトマン氏は、 最近Xで言った アルトマン氏は、そのような取り決めについては知らなかったし、会社が誰かの株式を奪い返したことは一度もないと述べた。また、この条項は削除され、従業員が自由に発言できるようになると述べた。
ヒントはありますか?
あなたはOpenAIの現従業員または元従業員ですか？私たちはあなたの声を聞きたいと思っています。仕事以外の電話またはコンピューターを使用して、Will Knightまでご連絡ください。 メールアドレス または、wak.01 の Signal で安全に。
OpenAIは最近、安全性の管理に対するアプローチも変更した。先月、同社のより強力なAIモデルがもたらす長期的なリスクの評価と対策を担当するOpenAIの研究グループが、 事実上解散した 何人かの著名な人物がチームを去り、残ったメンバーは他のグループに吸収された。数週間後、 同社は発表した アルトマン氏と他の取締役が率いる安全・セキュリティ委員会を設置した。
昨年11月、 アルトマン氏はOpenAIの取締役会から解雇された 情報を開示せず、故意に誤解を招いたとして、非常に公然とした争いの末、 アルトマンは会社に戻った そして取締役会の大半が解任された。
「当社は最も有能かつ安全なAIシステムを提供してきた実績を誇りに思っており、リスクに対処するための科学的アプローチを信じている」とOpenAIの広報担当者リズ・ブルジョワ氏は声明で述べた。「この技術の重要性を考えると、厳密な議論が不可欠であることには同意しており、今後も世界中の政府、市民社会、その他のコミュニティと連携していくつもりだ」
書簡の署名者には、OpenAIで安全性とガバナンスに携わった人々、匿名で署名した現従業員、ライバルのAI企業で現在働いている研究者などが含まれている。また、以下の著名なAI研究者もこの書簡を支持している。 ジェフリー・ヒントン そして ジョシュア・ベンジオ先駆的なAI研究でチューリング賞を受賞した、 スチュアート・ラッセルAIの安全性に関する第一人者。
#OpenAIの従業員がリスクと報復の文化について警告