1710729112
2024-03-17 08:00:00
カナダを含む各国は、高度な人工知能システムの開発と導入に関する包括的な安全対策を設計し実装する時間がなくなりつつあると、AI安全性の大手企業が今週警告した。
最悪のシナリオでは、権力を求める超人的なAIシステムが作成者の制御を逃れ、人類に「絶滅レベル」の脅威をもたらす可能性があると、AI研究者らが米国国務省の委託による報告書で述べた。 多層防御: 高度な AI の安全性とセキュリティを向上させるための行動計画。
同省は、報告書で著者らが表明した見解は米国政府の見解を反映していないと主張している。
しかし、この報告書のメッセージは、AIの安全性と規制に関するカナダ政府のこれまでの行動に再び注目を集めている。そしてある保守党議員は、政府が提案している人工知能およびデータ法はすでに時代遅れであると警告している。
AI 対全員
安全な人工知能の責任ある開発を提唱する米国に本拠を置く企業Gladstone AIがこの報告書を作成した。 その警告は 2 つの主なカテゴリに分類されます。
1 つ目は、AI 開発者が汎用人工知能 (AGI) システムの制御を失うリスクに関するものです。 著者らはAGIを、経済的および戦略的に関連するあらゆる領域において人間を上回るパフォーマンスを発揮できるAIシステムと定義しています。
現在まで AGI システムは存在しませんが、多くの AI 研究者は、AGI システムが実現されるのもそう遠くないと信じています。
「高度な AI が人間や超人的な一般的な能力の AGI のようなレベルに近づくと、実質的に制御不能になる可能性があることを示唆する証拠があります。具体的には、対策が講じられていない場合、高度な能力を備えた AI システムは、いわゆる権力を求める行動を起こす可能性があります」 」と著者らは書き、これらの行動にはAI自体が停止されたり、その目標が変更されたりするのを防ぐ戦略が含まれる可能性があると付け加えた。
著者らは、最悪のシナリオでは、そのような制御の喪失が「人類に絶滅レベルの脅威をもたらす可能性がある」と警告している。
「これらのシステムには、本質的に危険なほど創造的になり始めるリスクがあります。システムは、非常に有害な副作用を伴いながらも、プログラムされた目的を達成する危険なほど創造的な戦略を発明することができます。つまり、それが、制御の喪失について私たちが検討しているリスクの一種です」 」と、レポート執筆者の一人であるグラッドストーンAIのCEO、ジェレミー・ハリス氏は木曜日、CBCのインタビューで語った。 権力と政治。
新しい報告書は、人工知能研究所が超人的なAIシステムの制御を失った場合、人類に絶滅レベルの脅威をもたらす可能性があると米国政府に警告している。 このレポートの共著者である Gladstone AI CEO の Jeremie Harris 氏は Power & Politics に参加し、急速に進歩する AI システムの危険性について議論しました。
報告書で挙げられている壊滅的リスクの 2 番目のカテゴリーは、高度な AI システムが兵器として使用される可能性です。
「一例はサイバーリスクだ」とハリス氏は語った。 P&P 司会者のデヴィッド・コクラン。 「たとえば、自律エージェントはすでに登場しています。今、これらのシステムの 1 つに行って、こう尋ねることができます…『ねえ、私のためにアプリを構築してほしいんですよね?』 それは驚くべきことです。これは基本的にソフトウェア エンジニアリングを自動化することです。この業界全体です。それは非常に良いことです。
「しかし、同じシステムを想像してみてください…大規模な分散型サービス拒否攻撃やその他のサイバー攻撃を実行するようシステムに要求しているとします。これらの非常に強力な最適化アプリケーションのいくつかに対する参入障壁は下がり、悪意のあるものの破壊的な足跡はなくなります。これらのシステムを使用する攻撃者は、強力になるにつれて急速に増加します。」
ハリス氏は、高度なAIシステムの悪用が生物兵器や化学兵器を含む大量破壊兵器の領域に拡大する可能性があると警告した。
この報告書は、輸出管理、規制、責任あるAI開発法など、これらの壊滅的なリスクを防ぐために米国をはじめとする各国がとるべき一連の緊急措置を提案している。
カナダの法律はすでに廃止されていますか?
カナダには現在、AI に特化した規制の枠組みはありません。
政府は、2021 年 11 月に法案 C-27 の一部として人工知能およびデータ法 (AIDA) を導入しました。これは、カナダにおける AI システムの責任ある設計、開発、展開の基盤を確立することを目的としています。
この法案は下院の第二読会を通過し、現在産業技術委員会で検討されている。
連邦政府はまた、2023 年に先進生成 AI システムの責任ある開発と管理に関する自主行動規範を導入しました。これは、AIDA が発効するまで一時的にカナダ企業に共通基準を提供することを目的とした規範です。
金曜日の記者会見で、フランソワ・フィリップ・シャンパーニュ産業大臣は、グラッドストンAI報告書の警告の深刻さを考慮すると、政府提案のAI法案が急速に進歩する技術を規制する機能を備えていると依然として確信している理由を問われ、その理由を問われた。
「誰もがC-27を称賛している」とシャンパン氏は語った。 「私はG7の同僚と話す機会がありましたが、彼らはカナダがAIの信頼と責任あるAIを構築する最前線にあると考えています。」
CBCニュースとのインタビューで、保守党議員ミシェル・レンペル・ガーナーは、シャンパーニュ氏による法案C-27の特徴付けはナンセンスであると述べた。
「それは専門家が委員会の証言で言っていることではなく、現実ではありません」と新興技術議会議員団の共同議長であり、政府がAIに関してより迅速に行動する必要性について執筆しているレンペル・ガーナー氏は述べた。
「C-27は時代遅れです。」
AIDA は、世界有数の AI 企業の 1 つである OpenAI が 2022 年に ChatGPT を発表する前に導入されました。AI チャットボットは、AI テクノロジーの驚くべき進化を表しています。
「技術の根本的な変化が現れる前に政府がこの法案を提出したという事実に実質的に対処していないという事実は、印刷機が広く普及した後に筆記者を規制しようとしているようなものだ」とレンペル氏は述べた。ガーナー。 「政府はおそらく振り出しに戻る必要があるだろう。」
2023年12月、グラッドストンAIのハリス氏は下院産業技術委員会でAIDAを修正する必要があると述べた。
「AIDAが発効する頃には、2026年になるだろう。フロンティアAIシステムは、今日我々が見ているものの数百倍から数千倍に拡張されるだろう」とハリス氏は議員らに語った。 「AIDA はそのレベルのリスクを念頭に置いて設計する必要があります。」
ハリス氏は委員会に対し、AIDAは極度のリスクをもたらすシステムを明示的に禁止し、危険なほど強力なAIモデルのオープンソース開発に取り組み、AI開発者がシステムの安全な開発を保証する責任を負うことを保証する必要があると述べた。国家および非国家主体による窃盗。
ハリス氏は国会議員に対し、「AIDAは現状を改善するものだが、近い将来のAI能力から来るであろう課題を完全に解決するには大幅な修正が必要だ」と語った。
#は壊滅的な結果をもたらす可能性があります #カナダの準備はできていますか