1765248327
2025-12-09 01:04:00
人工知能研究者のロマン・ヤンポルスキー氏はこう信じている AIの発展により文明は滅亡の危機に瀕している。
ルイビル大学で AI の安全性とサイバーセキュリティに焦点を当てているコンピューター科学者は、99.9% という驚異的な確率で、 人工知能は人類を滅ぼすだろう 日曜日に公開されたポッドキャスターのレックス・フリードマンの番組への出演によると、来世紀以内に実現するという。
2時間にわたる広範なインタビューを通じて、同氏はこれまでに導入されたAIシステムの中で安全性が証明されたものは一つもないと主張し、今後の反復で重大な欠陥が回避されることについて悲観的な見方を表明した。彼は大統領就任中にそのような警鐘を鳴らしている先駆的な AI 開発者の選ばれたグループに加わる ドナルド・トランプの人工知能コンテスト。
ヤンポルスキー氏は昨年、『AI: 説明できない、予測できない、制御できない』というタイトルの本を出版し、「AI の結果の予測不可能性や AI の決定を説明することの難しさなど、中核的な問題を幅広く紹介する」と説明されている。
「この本は所有権と管理に関するより複雑な問題に到達し、潜在的な危険と意図しない結果についての詳細な分析を行っています」と彼は述べた。
「その後、この本は哲学的かつ実存的な考察で終わり、AI の人格、意識、人間の知能と汎用人工知能 (AGI) の区別の問題を探ります。」
テクノロジーの専門家らは、ヤンポルスキー氏を含む AI の最初の先駆者たちは、このテクノロジーの進歩がもたらす可能性のある潜在的な破壊と終末的な結果について最も厳しい警告を発している人々の一人であると観察しています。
それにもかかわらず、特定の研究はヤンポルスキーの絶滅予測に疑問を呈しており、彼の計算が示唆するよりも脅威がかなり低いことを示しています。
イギリスのオックスフォード大学とドイツのボン大学が実施した研究では、2,700人以上のAI研究者からの評価に基づいて、AIが人類を滅ぼす確率はわずか5%であることが判明した。
「人々は、絶滅のリスクを予期することが少数派の意見であるかのように語ろうとしますが、AI専門家の間ではそれが主流です」と論文著者の一人、カチャ・グレース氏は警告する。 「意見の相違は、リスクが 1% か 20% かということのようです。」
Google Brainの共同創設者であるAndrew Ng氏やAIのパイオニアであるYann Lecun氏など、AIが終末的な状況を引き起こすという主張を一部の主要なAI専門家が完全に否定しており、後者はOpenAIのSam Altman氏などのテクノロジーリーダーを、AIの壊滅的な結果についての憂慮すべき発言の裏に隠れた意図が隠されていると非難した。
OpenAIのAltman氏は、自身の業界に関して数々の問題発言を行っている。同氏は、AIがおそらく無数の仕事を破壊するだろうと警告したが、その仕事は「本当の仕事」ではないと特徴づけており、このコメントは激しい批判を引き起こした。
アルトマン氏の予測を反映して、多くのAI懐疑論者も同様に、このテクノロジーが経済大惨事を引き起こし、あらゆる分野で例外なく無数の労働者を置き換える可能性があると警告している。
10年以上前の2015年、アルトマン氏は不気味に「AIはおそらく世界の終焉につながるだろうが、それまでの間は偉大な企業が存在するだろう」と宣言した。
同氏は今年初め、AIの普及には「社会契約の変更」が必要になると述べたことでも激しい反発に遭った。
#AI研究者が99.9の人類絶滅のリスクを警告 #科学 #ニュース