科学＆テクノロジー

AIは急速に開発していますが、規制当局はより速くなければなりません|人工知能（AI）

あなたが報告するAI意識に関する最近の公開書簡（AIシステムは、意識が達成された場合、「苦しむ」可能性がある、と研究、2月3日）真の道徳的問題を強調する：意識的なAIを作成する場合（故意にも不注意にも）、それを苦しめない義務があります。しかし、手紙ができないのは、これが大きな「もし」であることを捉えることです。意識のいくつかの有望な理論は、実際にAI意識への扉を開いています。しかし、他の同様に有望な理論は、意識があることは生物である必要があることを示唆しています。 AIの意識の指標を探すことはできますが、AIが実際に意識しているのか、それとも単に意識の外向きの兆候を提示しているのかを知ることは非常に困難です。おそらく不可能です。これらの問題がどれほど深いかを考えると、人工意識を引き受ける唯一の合理的な姿勢は不可知論者です。それは私たちが道徳的な問題を無視できるということですか？それから遠く離れています。意識的なAIを開発する真のチャンスがある場合は、責任を持って行動しなければなりません。しかし、そのような不確実な領域で責任を持って行動することは、言うよりも簡単です。 オープンレター 「組織は、AI意識の理解と評価に関する研究を優先する必要がある」ことを推奨しています。しかし、AI意識をテストするための既存の方法は非常に異議を唱えられているため、論争の多い結果しか提供できません。人工的な苦しみを避けるという目標は高貴なものですが、多くの生物で苦しんでいることについて私たちがどれほどカジュアルであるかは注目に値します。増え続ける証拠は、エビが苦しむことができる可能性があることを示唆していますが、エビ産業は毎年約半兆のエビを殺しています。エビでの意識のテストは困難ですが、AIの意識のテストほど難しいようなものではありません。したがって、将来のAIに対して可能な義務を真剣に受け止めることは正しいことですが、生物学的ないとこに対してすでに持っているかもしれない義務を見失ってはなりません。トム・マクレランド博士ケンブリッジ大学科学哲学の講師 あなたの社説について（AIおよび著作権法に関するガーディアンビュー：ビッグテクノロジーは支払う必要があり、1月31日）、AI規制にはバランスが必要であるため、私たち全員が利益を得ることに同意します。ただし、焦点はおそらくAIモデルのトレーニングに大きすぎており、AIモデルによるクリエイティブワークの処理には十分ではありません。比phorを使用するには、100,000冊の本をコピーして読んで、本のトピックに関するもっともらしい文章をつなぐことができます。明らかに、私はそれらをコピーするべきではありませんでしたが、覚えていないので、単一の本のコンテンツを再現することはできません。せいぜい、私はいくつかのより多作な著者のスタイルを広く模倣できます。これはAIトレーニングのようなものです。次に、新たなスキルを使用して記事を撮り、言い換えて、自分のものとして提示します。さらに、多くの本が説明されているように、私も写真でこれを行うことができると思います。写真をください。これまでにこのような写真を見たことがないにもかかわらず、私は同様のスタイルでさらに5つを作成できます。私はこれを訓練されたものだけでなく、出会ったすべての創造的な仕事のためにこれを行うことができます。これは、AIによる処理のようなものです。現時点での議論は、完全にトレーニングに焦点を当てているようです。事前に訓練されたモデルによるトレーニングと処理の違いは、ユーザーの観点からはそれほど明白ではないため、これは理解できます。データをトレーニングするための公正な経済モデルが必要ですが、作成者が自分の作品がこの方法で使用され、公正に支払われるかどうかを選択できることは道徳的に正しいと思います。産業。マイケル・ウェッブAIのディレクター、JISC 私たちは、AIの国連高レベルの諮問機関のメンバーのグループに代わってこの手紙を書いています。中国で開発された最先端のAIシステムであるDeepseekのR1モデルのリリースは、グローバルAIガバナンスの緊急の必要性を強調しています。それでも deepseek インテリジェンスのブレークスルーではなく、その効率性は、最先端のAIがもはや少数の企業に限定されなくなったことを強調しています。メタのラマやミストラルのようなオープンソースの性質は、複雑な疑問を提起します。透明性は革新と監視を促進しますが、AI主導の誤った情報、サイバー攻撃、ディープフェイクプロパガンダも可能になります。既存のガバナンスメカニズムは不十分です。 EU AI法や英国のAI規制の枠組みなどの国家政策は大きく異なり、規制の断片化を生み出しています。来週のパリのような一方的なイニシアチブ AIアクションサミット 包括的な執行を提供できず、誤用のために抜け穴を残すことができます。 AI開発がグローバルな安定性と倫理原則と一致するようにするには、堅牢な国際フレームワークが不可欠です。国連の最近 人類のためのAIを管理する 報告書は、規制されていないAI人種の危険性を強調しています。不平等を深め、バイアスを定着させ、AIの武器化を可能にします。 AIのリスクは境界を超越しています。断片化されたアプローチは、脆弱性を悪化させるだけです。透明性、説明責任、責任、および執行をカバーする国際協定が拘束される必要があります。 AIの軌跡は、市場の力や地政学的競争によって決定されるのではなく、集団的責任によって導かれなければなりません。金融の世界はすでにAIの急速な進化に反応しています。 Deepseekのリリースが不確実性が高まった後のNvidiaの6億ドルの市場損失。しかし、歴史は、効率性が需要を促進し、監視の必要性を強化することを示しています。グローバルな規制の枠組みがなければ、AIの進化は、最も責任あるアクターではなく、最速のムーバーに支配される可能性があります。決定的で調整されたグローバルガバナンスの時間は、現在、チェックされていない効率性がカオスにスパイラルになる前です。国連は、AIが人類に役立ち、権利を保護し、チェックされていない進歩が不可逆的な結果につながる前に不安定を防ぐことを保証する統一された枠組みを確立するための最良の希望であると考えています。バージニア 責任あるAIのWallenberg教授、 ウメオ大学ウェンディホールコンピューターサイエンスのレジウス教授、 サウサンプトン大学 今日ガーディアンで読んだことについて意見がありますか？お願いします メール 私たちのあなたの手紙とそれは私たちでの出版と見なされます 手紙 セクション。 #AIは急速に開発していますが規制当局はより速くなければなりません人工知能AI