生物学における人工知能 (AI) モデルがもたらすバイオセキュリティ リスクに対する懸念は高まり続けています。こうした懸念の中、Doni Bloomfield 氏とその同僚は、ポリシー フォーラムで、潜在的な脅威を軽減するために、新しいモデルのガバナンスとリリース前の安全性評価を改善する必要があると主張しています。
「我々は、米国を含む各国政府が、大規模な伝染病やパンデミックを引き起こす可能性のある新しい病原体や強化病原体の作成など、高度な生物学的モデルが大規模な危険に大きく寄与することを防ぐ法律を制定し、強制的な規則を定めることを提案する」と著者らは書いている。
生物学的AIモデルの進歩は、医薬品やワクチンの設計の迅速化から作物の収穫量や回復力の向上まで、多くの用途で大きな期待が寄せられています。しかし、これらの利点の一方で、生物学的AIモデルは深刻なリスクももたらします。その汎用性のため、無害なウイルスベクターを設計するモデルと同じモデルが、 遺伝子治療 ワクチンを回避する、より危険な新しいウイルス病原体を作り出すために使われる可能性がある。これらのシステムの開発者は、これらのモデルの二重使用リスクを評価することを自主的に約束しているが、ブルームフィールド 等 これらの対策だけでは安全を確保するのに不十分であることを強調します。
著者らによると、リスクに対処するためのガバナンスが著しく欠如しており、これには高度な生物学的AIモデルの標準化された義務的な安全性評価が含まれる。ホワイトハウスのAIに関する大統領令や、2023年に英国AI安全サミットで署名されたブレッチリー宣言など、いくつかの政策措置は存在するものの、これらの強力なツールがリリースされる前に安全性を評価する統一されたアプローチはない。ここで、ブルームフィールド 等 高度な生物学的モデルのバイオセキュリティリスクを軽減しながら、その潜在的な利点を探求する科学的自由を維持することに重点を置いた政策を求める。政策では、高いリスクをもたらす高度な AI モデルに対してのみ、リリース前の評価を義務付ける必要がある。
これらの評価では、デュアルユース研究の既存のフレームワークを使用でき、危険な病原体を直接合成することを避けるための代理テストを含める必要があります。さらに、モデルの重みを公開すると、公開後に第三者がモデルを変更できるようになる可能性があるため、監視によってリスクに対処する必要があります。さらに、ポリシーによって責任あるデータ共有を確保し、未解決のリスクがある AI システムへのアクセスを制限する必要があります。
ソース：
ジャーナル参照:
ブルームフィールド、D.、 その他. (2024). AIとバイオセキュリティ：ガバナンスの必要性。 科学。 doi.org/10.1126/science.adq1977。
1724450725
#生物学的AIモデルにはガバナンスの改善とリリース前の安全性評価が必要
2024-08-23 21:56:00