彼はチャットボットにパンデミックを始める方法を尋ねました。答えました

私 n 2023年初頭、 科学者で元国連の武器検査官であるロッコ・カサグランデ、 小さな容器を持ってきました アメリカ政府の役人とのブリーフィングのためにホワイトハウスに。それは、人類のフラッグシップチャットボットであるクロードが、別のパンデミックを引き起こす前駆体として推奨された数十個の簡単に入手可能な化学成分で満たされていました。 Casagrandeのスタントは、インターネットに接続されている人なら誰でも、おそらく独自の大量破壊兵器を作成できることを確認しました。

「現在、人工知能によって後押しされている生物技術が、病気を生成することをこれまで以上に簡単にしたことは明らかです。」 書く Rand Corporation T. Greg McKelvey Jr.の上級研究者、Rand社長Jason Mathenyのアカデミックロジャーブレント。 「一部の個人やグループは障壁に直面しています。たとえば、適切なラボや施設にアクセスできないことです。しかし、容赦ない技術の進歩のおかげで、これらの障壁はバラバラになっています。」

大規模な言語モデルのグローバルな拡散は、多くのセキュリティ上の懸念を悪化させています。その中には、人工知能が過激派がバイオテロリズムを彼らのイデオロギーの原因を前進させることを犯すことを可能にする方法です。チャットボットはすでに能力があることが証明されています 攻撃の計画方法についてユーザーにアドバイスします 致命的な新しい形態の細菌、ウイルス、毒素を使用します。一方、大国の競争は、テロリストグループや悪意のある非国家主体によってもたらされる脅威から気を散らしています。

これはシリコンバレーへのニュースではありません。グーグルの AIフレームワークを確保します AI対応のバイオ攻撃を懸念事項として特定します。それどころか、Openaiが組み立てたチームは昨年この問題を見て、GPT-4がユーザーのみを与えたことを発見しました 限界的な利点 生物兵器の建設における定期的なインターネット検索で。

その結論にもかかわらず、バイオテロリズムのリスクは静的ではありません。 2025パリAIアクションサミットで作成された国際AI安全レポートは、LLMSが はるかに良くなります 生物学的および化学兵器に関連するタスクで、致命的なエージェントの獲得と策定に関する質問に正確に対応します。報告書の著者による評価は、致死物質を解放するための特定のモデルの指示が2024年だけで80％の改善を示したことを示唆しています。

c ヒナ、イラン、 北朝鮮とロシアはすべてです 所有と信じられています Bioweaponsを作成するいくつかの機能。しかし、「生物時代の扱いやすさと不正確さは、州が短期的に大規模な生物学的攻撃を避けることはまれなままであることを意味していました」 読みます 2024年8月に新しいアメリカのセキュリティセンターによって発表されたレポート – CNAS。対照的に、「孤独なオオカミ、テロリスト、黙示録的なグループを含む非国家俳優は、生物学的攻撃を試みることの不安な実績を持っていますが、そのような繊細な能力の構築と装備の本質的な複雑さのために限られた成功を収めています。」

しかし、この誤った安心感は変化しているとCNASの研究者に警告しています。主に遺伝科学、合成生物学、およびの出現の進歩のおかげです クラウドラボ– クライアントに代わってリモート実験を実施するために契約された、秘密になった自動化された施設。

同時に、ドナルドトランプホワイトハウスはアメリカのAI安全研究所を妨害しました。ジョー・バイデン政権のトワイライトの間に設立されたこの研究所は、高度なAIシステムのリスクを特定、測定、および緩和することを任されていました。 AI Safety Institutesの国際ネットワークは、同様の仕事を続けていますが、現在、アメリカのハイテク企業よりもはるかに揺れ動くようになります。

連邦捜査局と中央情報局は、いわゆる政府の効率性による政府職員の広範な脅迫と解雇のおかげで、専門知識に大きな損失を被っています。両方の機関は、グローバルなテロ対策知能の重要な情報源です。

さらに重要なことに、aがあります 冷えた効果 ワシントンと分類された情報を共有することに関しては、アメリカの同盟国の間に広がります。これらの国の職員 – 報告された5つの眼諸国（オーストラリア、カナダ、ニュージーランド、イギリス）、イスラエルとサウジアラビアは、ホワイトハウスが米国とロシアの関係を修正するためにモスクワにintelligence報を伝えることができると疑っています。

ただし、敵対的な地政学的環境では、逆も適用されます。イスラム国は、2024年3月にモスクワ郊外のコンサートホールで虐殺された出席者を虐殺し、139人を殺し、さらに数百人を負傷させました。ウクライナでの戦争に気を取られた 外国のintelligence報機関の却下 ロシアを標的としたテロリストの陰謀の警告、クレムリンは平らに逮捕されました。

t ransnalivational Terror グループと暴力的な非国家的な関係者は、によって作成されたパワーバキュームで蘇生しています アメリカの多国間主義からの撤退。彼らは、暗号通貨、サイバー攻撃、ランサムウェアなどの洗練された技術を巧みに利用しています。 WhatsAppやTelegramなどの暗号化されたメッセージングアプリは、新しいメンバーの採用、武器の売買、資金調達、およびスポットライトの整理に使用されています。

この傾向は、イスラム教徒の反政府勢力や人種に焦点を当てた至上主義者を超えて、 今では廃止されていないジジアン– サンフランシスコベイエリア集団は、「世界初のAIに影響を受けた死のカルト」と呼ばれ、人類のコンピューターの緊密性を求めました。

「今後の本当の実存的な脅威は中国からではない」と2人の技術者 書いた 1月に MITテクノロジーレビュー、自由民主主義が北京とのAIの覇権のための戦いに閉じ込められているという嘆きの話をしています。むしろ、彼らは、「幅広い害を生み出したり、富を獲得したり、社会を不安定にしようとしている悪い俳優や不正なグループによる高度なAIの兵器化から来ているからです。

AIシステム自体の脆弱性は、さらなる課題をもたらします。すべての主要なAIチャットボットが証明されています 脱獄に対して脆弱です– システムのセキュリティプロトコルをハッキングするユーザーによる作成手段。この危険は、インターネット上でタスクを自律的に実行できるAIエージェントの台頭により、指数関数的に増幅されています。また、低コストのオープンソースモデルは、生産性と革新のためにAIを採用することに関して、より均等な競争の場を導くことができますが、彼らは独自の明白な欠陥を持っています。 それに応じて規制されています。

しかし、シリコンバレーをめぐる管轄権を持つ事業体からの法律は、猛烈なロビー活動の対象となります。カリフォルニアの画期的な ビルSB 1047たとえば、昨年、ハイテク業界による広報ブリッツの後、Gavin Newsom知事によって拒否されました。心配なことに、共和党の議員も今aを挿入しています ステルス句 州と地域が今後10年間AIを規制することを禁止する議会を巻き込んで彼らの税法案に。

皮肉の暗いねじれでは、技術対応のバイオテロリスト攻撃が発生した場合、AIは治療を促進する上でも不可欠です。それが決してそのポイントに到達しないことを願っています。Covid-19は、新規ウイルスがハイパーコネクトの世界に大混乱をもたらす方法をすでに示していました。オッズは次のパンデミックがはるかに悪化するでしょう。

許可を得て、から転載 国際ガバナンスイノベーションセンター。