1759474619
2025-10-02 19:00:00
AIは毒素リシンを作るために使用できますが、これは多くの庭園で見つかったカスタ豆からも入手できます
アメリカン写真アーカイブ/アラミー
人工知能は、生物学を変革することを約束し、たとえば廃棄物プラスチックを食べるために、より良い薬物、ワクチン、さらには合成生物を設計することができます。しかし、遅すぎるまで従来の方法で検出されない生物兵器を作成するために、より暗い目的に使用できることを恐れる人もいます。それで、私たちはどれほど心配すべきですか？
「AIの進歩は、生物学と医学のブレークスルーを促進しています」と、Microsoftの最高科学責任者であるEric Horvitzは言います。 「新しい力では、警戒の責任があります。」
彼のチームは、AIが危険であることが知られているタンパク質と同じことをするタンパク質を設計できるかどうかを調べる研究を発表しましたが、それらが危険であると認識されないほど十分に異なっています。チームは、どのタンパク質が再設計しようとしたかを明らかにしませんでした – 研究の一部は差し控えられていましたが、おそらく1978年の暗殺で有名なリシンなどの毒素と、ボトックスとして知られている強力な神経毒であるボツリヌムが含まれていました。
Botulinumのようなタンパク質をたくさん作るには、レシピ、それをコードするDNAが必要です。生物学者が特定のDNAを望んでいる場合、彼らは通常、望ましい部分を作ることを専門とする企業からそれを注文します。
バイオテロリストになる懸念のため、生物兵器をこのように作るためのレシピを注文することができます。一部のDNA合成会社は、誰かが何か危険なものを作ろうとしているかどうかを確認するために注文を自発的にスクリーニングします。タンパク質はアミノ酸のシーケンスであり、スクリーニングは、アミノ酸配列が「懸念のシーケンス」、つまり潜在的な生物死と一致するかどうかをチェックします。
しかし、AIでは、理論的には、異なるアミノ酸配列を持つが同じことをしているタンパク質のバージョンを設計することが可能です。 Horvitzと彼の同僚は、72の潜在的に危険なタンパク質でこれを試み、スクリーニング方法がこれらの代替バージョンを逃すことが多いことを示しました。
これは見た目ほど驚くことではありません。第一に、明らかな理由で、チームは実際に再設計されたタンパク質を作成しませんでした。しかし、今年初めの別の研究で、彼らは無害なタンパク質の再設計されたバージョンをテストしましたが、基本的には機能しないことがわかりました。
第二に、バイオテロリストの攻撃が試みられているが、ほとんどはないが、これが自発的なスキャンシステムが失敗したためだと考える理由はほとんどない。 AIの再設計に頼らずにそれを回避する方法はすでに多くあります。たとえば、多くの庭園で見られるヒマシ油植物からリシンを入手できます。この研究は、銀行が非常に洗練されたものに奪われる可能性があるという警告に相当します ミッションインポッシブル– 実際、ヴォールトのドアが大きく開いたままになっているとき、スタイル計画。
最後になりましたが、国家の俳優が除外されたとき、タンパク質ベースの生物兵器を使用して誰を殺すことができなかったバイオテロリストはいませんでした。日本のaum shinrikyoカルトは、ボツリヌムで人々を殺そうとしましたが、化学物質でのみ成功しました。ホワイトハウスに送られたリシン層の手紙は誰も殺しませんでした。身体数に基づいて、銃と爆発物は生体毒素よりも非常に危険です。
それで、それは私たちがAIが設計した生物兵器について心配するのをやめることを意味しますか？まったくありません。 Horvitzの研究はタンパク質のみを調べましたが、大きな脅威をもたらすのはウイルスです。AIはすでにウイルス全体の再設計に使用されています。
先月、カリフォルニアのスタンフォード大学のチームは、細菌に感染するウイルスを再設計する努力の結果を明らかにしました 大腸菌。再設計されたタンパク質と同様に、結果は印象的ではありませんでした。 大腸菌。しかし、これはほんの始まりに過ぎません。
AIが設計したウイルスについて尋ねられたとき、DNA製造会社Twist BioscienceのJames DiggansとHorvitzのチームのメンバーは、懸念されるタンパク質よりもDNAをコードする懸念のあるウイルスを検出する方が簡単だと言いました。 「合成スクリーニングは、より少ない情報ではなく、より多くの情報でうまく機能します。したがって、ゲノムスケールでは、非常に有益です。」
しかし、すべてのDNA製造会社がこのスクリーニングを実行しているわけではなく、ベンチトップDNAシンセザーが利用可能になっています。危険なウイルスの作成を拒否したり、悪意のある意図を検出しようとすることを拒否するAIツールを設計するという話がありますが、人々は、爆弾作成の指示を提供するAISを停止することを意味するセーフガードを回避する多くの方法を見つけました。
明確にするために、歴史は、「野生」ウイルスのリスクがバイオテロリズムのリスクよりもはるかに高いことを示唆しています。現在の米国政権が主張しているにもかかわらず、証拠は、コウモリウイルスが他の野生動物に飛びついたときにSARS-COV-2が出現したことを示唆しています。
さらに、バイオテロリストになることは、天然poなどの既知のウイルスを解放するだけで、信じられないほどのダメージを与える可能性があります。 Bioweapon Controlの取り組みには多くの大きな穴があるため、AIの策略に頼る必要はほとんどありません。
これらすべての理由により、AIが設計したウイルスがいつでも解き放たれるリスクは、おそらくゼロに近いでしょう。しかし、さまざまな技術が進歩し続けるにつれて、このリスクは増加します。そして、Covid-19のパンデミックは、特に致命的ではない場合でも、新しいウイルスがどれだけの大混乱が生じるかを示しました。ますます、心配する理由があります。
トピック：
#AIが致命的な生物兵器を作成するのではないかと心配する必要がありますかまだではありませんがいつか