AIの安全性研究者は、100パーセントに近い非常に高い確率でAIが人類の存亡を脅かす可能性があると警告した。 それにもかかわらず、テクノロジー界の大御所イーロン・マスクはリスクを約20パーセントと推定し、潜在的な危険にもかかわらず研究を継続するよう主張している。
生成 AI は両刃の剣になる可能性があります。 AI が医療、コンピューティング、教育、その他の分野の進歩への道を切り開いたことは周知の事実です。 しかし、このテクノロジーの潜在的なマイナス面についての重大な懸念も提起されています。
Microsoft の Copilot 生成などの最近のインシデント 不適切なコンテンツ そして 研究 ChatGPT の悪意のある使用の可能性を示唆し、AI ツールに関連する危険性を強調しています。 イーロン・マスク氏はAIに関する自身の見解を率直に述べており、このテクノロジーを巡る話題で大きな議論を巻き起こしている。
マスク氏は最近、AIを「最大の技術革命」と呼んだが、2025年までに十分な電力インフラが不足する可能性があり、その開発が妨げられる可能性についても懸念を表明した。 アバンダンスサミットでマスク氏は「人類が滅亡する可能性はある」と示唆した。
同氏は「おそらくポジティブなシナリオがネガティブなシナリオを上回っている」と主張し、さらなる調査が重要であることを示唆している。
p(doom) の概念が描く AI の未来の暗い絵
AI 安全性研究者でルイビル大学サイバー セキュリティ研究所所長のローマン ヤンポルスキー氏は、最近 Business Insider に語った。 同氏は、AIが存続の脅威となる可能性はイーロン・マスク氏の推定10~20%よりもかなり高いと懸念を表明し、マスク氏の見解は「保守的すぎる」と述べた。
「私の考えでは、AIによる破滅の本当の確率はかなり高い」とヤンポルスキー氏は語った。 同氏は「p(ドゥーム)」について、AIが人類を支配したり、新型兵器、サイバー攻撃、核戦争を通じて大惨事を引き起こしたりするなど、生存上の脅威を引き起こすリスクとして詳しく説明した。
ニューヨークタイムズ 「p(ドゥーム)」と呼ばれる、AIが存続の脅威となる確率を表す「病的な新しい統計」がシリコンバレーで注目を集めている。 この記事で引用されているテクノロジー企業幹部らは、AI の黙示録が起こる可能性は 5 ~ 50% まで、さまざまな推定値を示しています。 ヤンポルスキー氏はリスクを 99.999999 パーセントとみなしています。
ヤンポルスキー氏は、高度な AI の制御には本質的な難しさがあるため、最も安全な選択肢は、そのような堅牢なシステムをまったく作成しないことかもしれないと主張しています。
「とにかくこの技術を追求することがなぜ彼が良い考えだと考えているのかは分かりません」とヤンプロスキー氏は付け加えた。 「競合他社が先にそこに到達することを彼が心配しているとしても、誰がそれを生み出したとしても、制御されていない超知性は同様に悪いものであるため、それは問題ではありません。」
マスク氏は、OpenAIとそのCEOであるサム・アルトマンに対する訴訟の中で、強力なAIの潜在的なリスクに関する同様の懸念を表明し、彼らのGPT-4モデルを明示的に引用した。 X の所有者は、このモデルが汎用人工知能 (AGI) に近づいている可能性があると信じており、一般の監視と共同研究のために研究へのオープン アクセスを主張しています。