今日の AI はパンデミックの可能性を 5 倍高める可能性がある

AI の最近の発展により、人為的パンデミックの可能性がわずか 1 年前に比べて 5 倍高くなっている可能性があると、ある研究者は述べています。 勉強 トップ専門家の予測をTIMEと独占的に共有。

このデータは、AI企業OpenAIとAnthropicがここ数カ月間に提起した懸念を反映しており、両社は今日のAIツールが生物兵器を作成しようとする悪者を有意義に支援する能力に達しつつあると警告している。

続きを読む： 独占: 新しいクロード モデルが Anthropic でバイオリスク保護措置を発動

生物学者が研究室の技術を使用してウイルスを改変することは長い間可能でした。新しい開発は、ChatGPT や Claude などのチャットボットが、研究室で致命的な生物兵器を作成しようとしているアマチュア生物学者に正確なトラブルシューティングのアドバイスを提供できる機能です。研究論文の共著者であるセス・ドナウ氏によると、安全専門家らは長い間、このトラブルシューティングのプロセスの難しさが、テロ組織が生物兵器を作成する能力の重大なボトルネックだとみなしてきたという。現在、AI のおかげで、新たなパンデミックを意図的に引き起こすために必要な専門知識に「さらに多くの人々がアクセスできるようになる可能性がある」と彼は言います。

2024 年 12 月から 2025 年 2 月にかけて、予測研究所は 46 人のバイオセキュリティ専門家と 22 人の「スーパー予測者」（将来の出来事を予測する成功率が高い個人）に、人為的原因によるパンデミックのリスクを推定するよう依頼しました。平均的な調査回答者は、特定の年にそのようなことが起こるリスクを 0.3% と予測しました。

重要なのは、その後、調査員たちが別の質問をしたことです。AI ツールが、難しいウイルス学のトラブルシューティング テストで専門家チームのパフォーマンスに匹敵するようになったら、そのリスクはどの程度増加するでしょうか? AI がそれを実現できれば、年間リスクは 1.5% に跳ね上がり、5 倍になるだろうと平均的な専門家は述べています。

予報担当者たちが知らなかったのは、パンデミック防止非営利団体セキュアバイオの研究科学者であるドナウ氏が、まさにその機能を備えた AI システムをテストしていたことだ。 4月、ドナウ氏のチームはこれらのテストの結果を明らかにした：今日のトップAIシステム できる 困難なトラブルシューティングのテストでは、博士レベルのウイルス学者よりも優れた成績を収めています。

続きを読む： 独占記事: AI が研究室のウイルス専門家を上回り、バイオハザードの恐怖を高める

言い換えれば、人為的パンデミックのリスクが5倍に高まると予測者が警告していたことを、AIは今や実行できるようになるのだ。 （予測研究所は、リスクに対する見方が予想通りに高まっているかどうかを追跡するために、将来同じ専門家に再調査を行う予定だが、この調査が完了するまでに数カ月かかると述べた。）

確かに、この結果に懐疑的な理由がいくつかあります。予測は不正確な科学であり、非常にまれな出来事の可能性を正確に予測することは特に困難です。この研究に参加した予測者らは、AIの進歩速度についての理解が不足していることも明らかにした。 （たとえば、質問すると、ほとんどの人がウイルス検査でAIが人間の性能を超えるのは2030年以降になるとは予想していないと答えたが、ドナウ氏の検査ではその基準はすでに満たされていたことが示された。）しかし、数字そのものは割り引いて考えたとしても、全体としての結果は依然として不気味な方向を示している、と論文の著者らは主張している。 「短期的な AI 機能は、人間が引き起こす伝染病のリスクを大幅に高める可能性があるようです」と、予測研究所の CEO であるジョシュ ローゼンバーグは述べています。

この研究では、AI によってもたらされる生物兵器のリスクを軽減する方法も特定されました。これらの緩和策は、大きく 2 つのカテゴリに分類されます。

最初のカテゴリは、モデル レベルでの保護対策です。研究者らはインタビューの中で、生物兵器の製造を目的としたプロンプトにAIが反応しないようにするOpenAIやAnthropicなどの企業の取り組みを歓迎した。この論文では、「」の拡散を制限することも特定しています。無差別ウェイト」モデル、およびモデルに対する保護を追加します。 脱獄した、AIがパンデミックを引き起こすために使用されるリスクを軽減する可能性が高いと考えられます。

2 番目のカテゴリーの保護措置には、核酸を合成する企業に制限を課すことが含まれます。現在、これらの企業のいずれかに遺伝コードを送信し、そのコードに対応する生物学的材料を提供してもらうことが可能です。現在、これらの企業には、受け取った遺伝子コードを合成前にスクリーニングすることは法律で義務付けられていない。これらの合成された遺伝物質は通信販売の病原体を作成するために使用される可能性があるため、これは潜在的に危険です。この論文の著者らは、研究室が遺伝子配列をスクリーニングして有害性をチェックすること、また研究室が「顧客を知る」手順を実施することを推奨している。