アモデイ氏、「AIによる独裁政治」が差し迫っている可能性があると確信 – ヘルスケアブログ

マイク・マギー著

先月、 ダリオ・アモデイ、Anthropic の CEO は、また同じことをしました。人間集団のセキュリティとガバナンスに対する彼らの支配が危険なほど AI の絶滅に近づいていると警告し、世界中の社会指導者たちを怖がらせました。

アモデイ氏の記事の冒頭部分 「テクノロジーの思春期」 読者の注意を引くのに時間を無駄にしません。彼はこう書いている、「カール・セーガンの本の映画版にこんなシーンがある」 接触 そこでは、異星文明からの最初の電波信号を検出した天文学者である主人公が、異星人に対抗する人類の代表としての役割を検討されています。彼女にインタビューする国際委員会はこう尋ねる。 [the aliens] 一つだけ質問ですが、何でしょうか？』彼女の答えは次のとおりです。「どうやってやったの？と彼らに聞きたいです。」あなたはどのように進化し、どのようにしてこのテクノロジーの思春期を自分自身を破壊することなく生き延びたのでしょうか？」

さて、はっきり言っておきたい。もう緊張してしまいました。医学史家として、私はこの春に免疫学の誕生に関する大規模な講義を準備し、この分野を研究してきました。私は何を探しているのでしょうか？科学の進歩の最前線を探求するときに私がいつも欠けていることに気づくのと同じこと、それは歴史的背景です。ほとんどの場合、事実や数字は豊富にありますが、長年にわたる人間関係の複雑な網目に対するそれらの影響は、多くの場合、見逃されています。

Amodei はそのコンテキストをリアルタイムで提供しようとしています。リアルタイムには、ニューヨーク タイムズの次のような見出しが含まれています。 「ICEはすでに抗議者が誰であるかを知っている」 AI を活用した顔認識テクノロジーから。しかし、アモデイ氏の懸念はもっと根本的なものである。彼にとっての課題は、生成 AI による変化のスピードであり、彼はそれが憂慮すべきものであると明言しています。彼が言うように、「今は AI が コードの多くは Anthropic で書いていますすでに、次世代 AI システムの構築における進歩の速度が大幅に加速されています。このフィードバック ループは月ごとに勢いを増しており、現世代の AI が自律的に次の世代の AI を構築する段階まであと 1 ～ 2 年しかかからないかもしれません。」

明らかにマスク氏の最近の件では DOGEの進出 アモデイ氏は、それを念頭に置いて、非常にもっともらしい現代の脆弱性を提示しています。同氏は、「AI企業のCEOとしてこれを言うのは少々気まずいが、次の段階のリスクは実際にはAI企業そのものだと思う。AI企業は大規模なデータセンターを管理し、フロンティアモデルを訓練し、それらのモデルの使い方について最大の専門知識を持っており、場合によっては数千万、数億のユーザーと日々接触しており、それらに影響を与える可能性がある」と述べた。

マスク支配の名前をはっきりと挙げずに、もう少し具体的にする グロク そして ×、アモデイはほとんど疑問を残さない 彼が言っているのは誰ですか 「一部の AI 企業は、今日のモデルで子どもの性的対象化に対して憂慮すべき怠慢を示しており、将来のモデルで自律性のリスクに対処する傾向や能力を示すかどうかは疑問です。」

ある時点で、 ICE違反 先月、メイン州ポートランドでICE職員を撮影していた法定監視員が、ちょうど彼女の車を撮影し、今彼女の顔を撮影していた職員から声をかけられた。なぜそんなことをしたのかと尋ねると、 ICE エージェントが返信しました「だって、私たちには素晴らしい小さなデータベースがあるのに、今あなたは国内テロリストとみなされているのですから。それで楽しんでください。」

先月の活動と、2人の無実のアメリカ国民に対するいわれのない殺人により、アモデイの最終警告は予見できるものとなった。同氏は、「現在の独裁国家は、人間に命令を実行させる必要があるため、どれだけ抑圧できるかが制限されており、人間がどれだけ非人道的になろうとするかについても制限があることが多い。しかし、AIを活用した独裁国家にはそのような制限はないだろう。」と述べている。

マイク・マギー医師は医学史家であり、THCB に定期的に寄稿しています。彼はの著者です コード・ブルー: アメリカの医療産業複合体の内部。 (グローブ/2020)