OpenAIの内部告発者死亡、会社側の証人として検討中 | OpenAI

スチル・バラジ氏、元 OpenAI 両親とサンフランシスコ当局によると、ChatGPTの背後にある人工知能システムの訓練に貢献し、後にそれらの行為が著作権法に違反していると信じていたと述べたエンジニア兼内部告発者が亡くなったという。彼は26歳でした。

Balaji 氏は 8 月に退職するまで、OpenAI で 4 年近く働いていました。同氏はサンフランシスコの会社の同僚から高く評価されており、今週共同創設者は同氏を、一部の製品の開発に欠かせないOpenAIの最も強力な貢献者の1人と呼んだ。

「私たちはこの信じられないほど悲しいニュースを知り打ちのめされており、この困難な時期にスーチルの愛する人たちに心を痛めています」とOpenAIは声明で述べた。

バラジさんは11月26日にサンフランシスコのアパートで死体で発見され、警察は「自殺とみられる」と発表した。最初の捜査では不正行為の証拠は見つからなかった。」市の主任検視局は死因が自殺であることを確認した。

両親のプールニマ・ラマラオさんとバラジ・ラママーシーさんは、まだ答えを求めていると述べ、息子のことを「幸せで賢くて勇敢な若者」で、ハイキングが好きで最近友人との旅行から戻ってきたところだったと説明した。

Balaji 氏はサンフランシスコのベイエリアで育ち、カリフォルニア大学バークレー校でコンピューター サイエンスを学んでいたときに、2018 年の夏のインターンシップで設立間もない AI 研究ラボに初めて到着しました。数年後、彼は OpenAI に戻り、そこで WebGPT と呼ばれる彼の最初のプロジェクトの 1 つが ChatGPT への道を切り開くのに役立ちました。

「このプロジェクトに対するスチル氏の貢献は不可欠であり、彼なしでは成功しなかったでしょう」とOpenAIの共同創設者ジョン・シュルマン氏はバラジ氏を追悼するソーシャルメディア投稿で述べた。バラジをチームに採用したシュルマン氏は、彼をこれほど優れたエンジニアおよび科学者たらしめたのは、細部への注意力と、微妙なバグや論理的間違いに気づく能力だったと語った。

「彼はシンプルな解決策を見つけ、機能するエレガントなコードを書く才能を持っていました」とシュルマン氏は書いています。 「彼は物事の細部まで注意深く、厳密に考えます。」

その後、Balaji 氏は、OpenAI の主力大規模言語モデルの第 4 世代であり、同社の有名なチャットボットの基礎である GPT-4 のトレーニングに使用されるオンライン書き込みやその他のメディアの巨大なデータセットの整理に移行しました。特に新聞社や小説家などが著作権侵害で OpenAI や他の AI 企業を訴え始めた後、その仕事が最終的にバラジ氏に自身の構築に貢献したテクノロジーに疑問を抱かせるきっかけとなった。

彼は最初に懸念を表明した ニューヨークタイムズ、10月のバラジのプロフィールで彼らを報告した。

その後、同氏はAP通信に対し、最も強力な著作権侵害訴訟で「証言を試みる」つもりだと述べ、昨年ニューヨーク・タイムズが起こした訴訟は「最も深刻」だと考えていると語った。タイムズ紙の弁護士は、11月18日の裁判所への提出書類の中で、OpenAIの意図的な著作権侵害の申し立てを裏付ける「ユニークかつ関連する文書」を持っている可能性のある人物として同氏の名前を挙げた。

裁判所への提出文書によると、同氏の記録は、コメディアンのサラ・シルバーマン氏を含む本の著者らが起こした別の訴訟でも弁護士によって捜索されたという。

「人々のデータを使ってトレーニングし、市場で人々と競争するのは正しくないと感じます」とバラジ氏は10月下旬、AP通信に語った。 「あなたにそんなことができるはずないと思います。法的にそんなことはできないと思いますよ。」

同氏はAPに対し、特に昨年取締役会が解任され、CEOのサム・アルトマン氏が再雇用されるに至った内部混乱の後、OpenAIに対して徐々に幻滅を感じていたと語った。バラジ氏は、同社の商品がどのように展開されているかについて、幻覚として知られる誤った情報を吐き出す傾向を含め、広く懸念していると述べた。

しかし、彼が懸念していた「山積みの問題」のうち、「実際に何かできること」として著作権に焦点を当てていたと同氏は語った。

同氏は、インターネットからデータを取得することに慣れているAI研究コミュニティ内でこれが不評な意見であることを認めたが、「彼らは変わらなければならないだろうし、それは時間の問題だ」と述べた。

同氏はまだ追放されておらず、死後の訴訟において彼の暴露がどの程度証拠として認められるかは不明だ。彼はまた、このトピックに関する自分の意見を記した個人的なブログ投稿も公開しました。

8月にOpenAIを辞任したシュルマン氏は、同氏とバラジ氏が偶然同じ日に退職し、その夜は同僚らとともにサンフランシスコのバーでディナーとドリンクを飲みながら祝ったと語った。 Balaji 氏の指導者のもう 1 人、共同創設者兼主席科学者の Ilya Sutskever 氏は数か月前に OpenAI を退職しており、Balaji 氏はこれが退職の新たなきっかけになると考えた。

シュルマン氏は、バラジ氏が今年初めにOpenAIを辞める計画を伝えたと述べ、バラジ氏は、汎用人工知能として知られる人間より優れたAIが「すぐそこまで来ている」とは会社の他の社員が信じているようには思っていなかった、と語った。 ”。シュルマン氏によると、この若いエンジニアは博士号を取得し、「知性を構築する方法について、さらに人里離れたアイデア」を探求することに興味を示したという。

バラジさんの家族によると、故郷クパチーノからほど近いカリフォルニア州ミルピタスのインディア・コミュニティー・センターで今月下旬に記念碑が計画されているという。

米国では、電話またはテキストメッセージを送信できます。 国家自殺予防ライフライン 988でチャットしてください 988lifeline.org、 または テキストホーム 危機カウンセラーに連絡するには、741741 までお電話ください。イギリスやアイルランドでは、 サマリア人 フリーダイヤル 116 123 または電子メールでご連絡いただけます [email protected] または [email protected]。オーストラリアの危機支援サービス ライフライン は 13 11 14 です。その他の国際ヘルプラインは次の場所にあります。 befrienders.org

AP通信とOpenAIは、OpenAIがAPのテキストアーカイブの一部にアクセスできるようにするライセンスと技術契約を結んでいる。