世界

「人工知能はもはや安全ではない」

OpenAIの研究者でキーマンでもあるヤン・ライケ氏は、共同創設者のイリヤ・サツケヴァー氏の退任を受けて辞任した。 金曜日の朝、ライク氏はX（旧Twitter）で憂慮すべきメッセージを公開した。ライク氏によると、人工知能企業ChatGPTでは「販売するためのますます輝く製品の開発に比べ、セキュリティは後回しにされている」という。 ライク氏の声明は、「スーパーアライメントチーム」として知られる長期的なAIリスクの管理に専念するOpenAIの社内チームの解散を明らかにしたWiredの記事の直後に発表された。 ライク氏は、セキュリティプロトコルの実装における「根本的な技術的課題を解決する」ことを目的として昨年7月に結成されたこのチームを率いており、OpenAIは人間と同等かそれ以上の推論ができる人工知能を開発した。 「人間よりも賢い機械を構築するのは大仕事です」とライケ氏は付け加えた。 「OpenAI は全人類の肩に大きな責任を課しています。」 OpenAI は、組織の名前が示すように、そのモデルを一般に公開するという考えのもとに誕生しました。 しかし、そのようなモデルはサブスクリプション製品となっており、同社は、このような強力なモデルに誰でもアクセスできるようにすると潜在的に破壊的になる可能性があると主張している。 「私たちは生成 AI の影響を信じられないほど真剣に受け止めるのが遅れています。 私たちはできる限りこれらの課題に備えることを優先しなければなりません」とライケ氏は辞任に関するさらなる投稿で書き、「そうして初めて、AIが全人類に利益をもたらすことを保証できるのです」と付け加えた。 OpenAi が最近発表されました 独自の生成人工知能モデル GPT-4o の進化、前バージョンとは異なり、速度が低下し、一部の機能が制限されていますが、誰でも無料でアクセスできます。 しかし、ライク氏は依然として批判的である。「限界点に達するまで、私は長い間、会社の中核的優先事項に関してOpenAIのリーダーシップに同意できなかった」と彼はXについて述べた。ライク氏の辞任と彼の言葉は、企業の将来に憂慮すべき光を投げかけた。 AI セキュリティの研究では、このような強力なテクノロジーの開発に伴うリスクを管理する上で、急速なイノベーションと責任の間のバランスの必要性を強調しています。 #人工知能はもはや安全ではない