排他的：AIはウイルスの専門家をベストし、バイオハザードの恐怖を高めます

a 新しい研究では、CHATGPTやClaudeなどのAIモデルは、科学者が化学物質と生物学的材料を分析する湿った研究室での問題解決において、PHDレベルのウイルス学者よりも優れていると主張しています。この発見は両刃の剣であると専門家は言います。超スマートAIモデルは、研究者が感染症のspread延を防ぐのに役立つ可能性があります。しかし、非専門家はモデルを兵器化して致命的な生物兵器を作成することもできます。

勉強、時間とのみ共有され、AI安全センター、MITのメディアラボ、ブラジル大学UFABC、およびパンデミック予防非営利のSecureBioの研究者によって実施されました。著者は、ウイルス科医に相談して、複雑なラボの手順とプロトコルをトラブルシューティングする能力を測定する非常に困難な実用的なテストを作成しました。 PHDレベルのウイルス学者は、宣言された専門分野で平均22.1％を獲得しましたが、OpenaiのO3は43.8％の精度に達しました。 GoogleのGemini 2.5 Proは37.6％を獲得しました。

Securebioの研究科学者であり、論文の共著者であるSeth Donougheは、その結果は彼を「少し緊張させた」と言います。なぜなら、歴史上初めて、誰もが複雑なラボプロセスを歩いてBioWeaponsを作成する可能性のある非判断的なAIウイルス学の専門家にアクセスできるからです。

「歴史を通じて、誰かが生物時代を作ろうとしたかなりの数のケースがあります。彼らが成功しなかった主な理由の1つは、彼らが適切なレベルの専門知識にアクセスできなかったためです」と彼は言います。 「だから、これらの能力がどのように分配されているかについて慎重になることは価値があるようだ。」

数ヶ月前、論文の著者は結果を主要なAIラボに送りました。それに応じて、Xai 公開 AIモデルGrokの将来のバージョンのウイルス学の保護手段を実装する意図を誓約するリスク管理フレームワーク。 Openaiは、リリースされた新しいモデルのために「生物学的リスクのために新しいシステムレベルの緩和を展開した」とTimeに語った 先週。人類には、最近のシステムカードの論文にモデルのパフォーマンス結果が含まれていましたが、特定の緩和策を提案しませんでした。 GoogleのGeminiは時間にコメントすることを拒否しました。

あなたは生物医学を持っています

ウイルス学とバイオメディシンは、強力なAIモデルを構築するためのAIリーダーの動機の最前線に長い間行われてきました。 「この技術が進むにつれて、病気が前例のない速度で治癒するのを見るでしょう」とOpenai CEOのSam Altman 言った 1月のホワイトハウスで、発表します スターゲート プロジェクト。この分野にはいくつかの励みになる兆候がありました。今年の初め、フロリダ大学の新興病原体研究所の研究者 公開 どのコロナウイルスバリアントが最も速く広がるかを予測できるアルゴリズム。

しかし、この時点まで、Virology Labの作業を実際に実施するAIモデルの能力の分析に専念する主要な研究はありませんでした。 「私たちはしばらくの間、AISが学術スタイルの情報を提供するのにかなり強いことを知っていました」とDonoughは言います。 「モデルが詳細な実用的な支援を提供できるかどうかは不明でした。これには、画像の解釈、アカデミックペーパーに書き留められない情報、またはより経験豊富な同僚から社会的に受け継がれている資料が含まれます。」

そのため、Donougheと彼の同僚は、これらの困難でグーグルのない質問のためのテストを作成しました。 「質問には次のような質問があります。「私はこの細胞型、これらの特定の条件でこの特定のウイルスを培養してきました。この時間は、何が間違っているのかについてこの量の情報を持っています。最も可能性の高い問題は何ですか？」とDonougheは言います。

そして、ほぼすべてのAIモデルが、独自の専門分野内であっても、テストでPHDレベルのウイルス学者よりも優れていました。研究者はまた、モデルが時間とともに有意な改善を示したことを発見しました。たとえば、AnthropicのClaude 3.5 Sonnetは、2024年6月のモデルから2024年10月のモデルに26.9％から33.6％の精度に跳ね上がりました。また、2月のOpenaiのGPT 4.5のプレビューは、GPT-4oをほぼ10パーセントポイント上回りました。

「以前は、モデルには多くの理論的知識があるが、実用的な知識ではないことがわかりました」と、AI安全センターのディレクターであるダン・ヘンドリックスは時間に語っています。 「しかし今、彼らは実践的な知識の懸念を得ています。」

リスクと報酬

AIモデルが実際に、研究が発見するのと同じくらいウェットラボの設定で能力がある場合、その意味は大きなものです。利益の観点から、AISは、経験豊富なウイルス学者がウイルスと闘う重要な仕事で役立つことができます。ジョンズホプキンスセンターフォーヘルスセキュリティセンターのディレクターであるトムイングレスビーは、AIが医学とワクチンの開発のタイムラインの加速と臨床試験と疾患の検出の改善に役立つと述べています。 「これらのモデルは、まだそのようなスキルや能力を持っていない世界のさまざまな地域の科学者が、自国で発生している病気について日々の貴重な仕事をするのに役立ちます」と彼は言います。たとえば、研究者のグループ 見つかった AIは、サハラ以南のアフリカの出血性発熱ウイルスをよりよく理解するのに役立ちました。

しかし、悪い信仰の俳優はAIモデルを使用してウイルスを作成する方法を説明することができます。そして、最も危険でエキゾチックな感染剤を扱うバイオセーフティレベル4（BSL-4）研究所にアクセスするために必要な典型的なトレーニングなしでは、そうすることができます。 「それは、トレーニングがはるかに少ない世界でより多くの人々がウイルスを管理し、操作できることを意味します」とイングレスビーは言います。

Hendrycksは、AI企業に、このタイプの使用を防ぐためにGuardrailsを設置するよう促しています。 「企業が6か月以内にこれらの良い保護手段を持っていない場合、私の意見では、それは無謀になるでしょう」と彼は言います。

Hendrycksは、1つのソリューションは、これらのモデルをシャットダウンしたり、進行を遅くしたりすることではなく、信頼できるサードパーティのみがフィルタリングされていないバージョンにアクセスできるようにすることです。 「私たちは、MIT生物学部門の研究者など、致命的なウイルスを操作する方法を尋ねるために正当な用途を持っている人々に、そうする能力を与えたいと思っています」と彼は言います。 「しかし、2秒前にアカウントを作成したランダムな人々は、それらの能力を取得しません。」

また、AI Labsは、これらのタイプの保護ガードを比較的簡単に実装できるはずです、とHendrycksは言います。 「それは確かに、業界の自主規制にとって技術的に実現可能です」と彼は言います。 「一部が足を引きずるのか、それをしないのかという疑問があります。」

Xai、Elon Musk’s AI Labは、a リスク管理フレームワーク 2月のメモは、この論文を認め、同社が有害な要求を拒否するためのトレーニングをトレーニングし、入力フィルターと出力フィルターの適用を含む、ウイルス学の質問への回答に関する特定の保護手段を「潜在的に利用する」ことを知らせました。

Openaiは、月曜日の時間への電子メールで、最新モデルであるO3とO4-MINIが、有害な出力をブロックするなど、生物学的リスク関連のセーフガードの配列で展開されたと書いています。同社は、安全でないバイオ関連の会話の98.7％が成功裏にフラグを立ててブロックされた1000時間の赤い世話キャンペーンを実施したと書いています。 「私たちは、ウイルス学のようなデリケートなドメインを含むフロンティアモデルの保護ガードを前進させることに関する業界のコラボレーションを大切にしています」とスポークスマンは書いています。 「私たちは、能力が高まるにつれて、これらの保護手段に引き続き投資しています。」

Inglesbyは、業界の自主規制は十分ではないと主張し、議員や政治指導者がAIのバイオリスクを規制するための政策アプローチを戦略化するよう求めています。 「現在の状況は、最も高潔な企業がこの仕事をするために時間とお金をかけていることです。これは私たち全員にとって良いことですが、他の企業はそれをする必要はありません」と彼は言います。 「それは意味がありません。何が起こっているのかについての洞察を持たないことは、一般の人々にとって良くありません。」