配置転換と退職の後、OpenAI は新しい「準備マネージャー」を探しています。 AI モデルが急速に進化している現在、サム アルトマン氏はこのポジションを「重要」であると考えています。
人工知能は多くの点で有益ですが、人類に害を及ぼす可能性もあります。 OpenAI はこれを認識しています。これに対処するために、ChatGPT の作成者は、潜在的な壊滅的な AI シナリオを予測することを主な任務とする「準備マネージャー」を雇用します。
OpenAIのCEO、サム・アルトマン氏はXについて、「この立場は極めて重要な時期に重要だ。モデルは急速に進化し、今や目覚ましい偉業を達成できるようになったが、同時に深刻な課題も生じ始めている」と語った。
「私たちは成長する能力を測定するための強力なツールを持っていますが、私たちの製品と世界の両方において、これらの能力の悪用の可能性をより微妙に理解して測定し、その悪影響を制限する方法が不可欠な世界に入りつつあります」と彼は警告しました。
メンタルヘルス、サイバー…AIの多くの危険
OpenAI の責任者が認識しているように、今年 AI の具体的な危険性、つまりメンタルヘルスへの影響が明らかになり始めました。ここ数カ月間、ChatGPT と長時間やり取りしたユーザーが強制収容されたり、自ら命を絶ったりするケースが発生しています。チャットボットが妄想を維持したままのやりとり。この問題は OpenAI の会話ロボットに特有のものではなく、精神科医を心配し始めています。
これに、特にサイバーセキュリティの観点から、他のリスクも加わります。 11月末、新興企業Anthropicは、同社のAI「Claude」が複雑なサイバー攻撃の実行に使用されたことを明らかにした。具体的には、ハッカーはターゲットを監視するためにチャットボットに一連のタスクを実行するよう依頼しました。会話型ロボットが、作成者によって課された制限にもかかわらず実行したタスク。
したがって、「準備マネージャー」は、AI モデルの最先端の機能の評価開発を主導し、主要な危険 (生物学的、サイバーなど) の軽減策が効果的であることを確認する責任を負います。 AIシステムのセキュリティ強化やアップデートも必要となる。 「準備フレームワーク」 OpenAIから。この文書では、深刻な害をもたらす新たなリスクを生み出す可能性のある新たなモデル機能を監視し、予測するための同社のアプローチについて説明します。
サム・アルトマン氏は、「ストレスの多い仕事になるし、真っ先に追い込まれることになるだろう」と警告した。しかし、この役職を担う人は株式に加えて55万ドルの給与を受け取ることになる。
この将来の「準備マネージャー」がこのポジションに留まるのか、それとも社内に長期間留まるのかはまだ分からない。実際、OpenAI のセキュリティ チームは過去 2 年間で多くの変化を遂げてきました。元「準備マネージャー」のアレクサンダー・マドリー氏は2024年7月に再任され、後任にはリリアン・ウェン氏とホアキン・キノネロ・カンデラ氏のコンビが就任した。しかし、1人目は2024年11月に退職し、2人目は2025年7月にスタートアップ社内の採用担当となった。
#OpenAI #は #の危険性を予測して軽減する専門家を雇用したいと考えています