世界

米国、大手AI企業がリスクに対処するため安全コンソーシアムに参加すると発表

米国は、AIの安全な開発と展開を支援するため、200以上の企業が新たなコンソーシアムに参加していると述べた。 | 写真提供: ロイター バイデン政権は木曜日、生成AIの安全な開発と展開を支援するための米国の新しいコンソーシアムに参加する200社以上の企業の中に大手人工知能企業が含まれていると発表した。 ジーナ・ライモンド商務長官は、OpenAI、アルファベット傘下のグーグル、アンスロピック、マイクロソフトに加え、フェイスブックの親会社メタプラットフォーム、アップル、アマゾン・ドット・コム、エヌビディア・パランティア、インテル、JPモルガン・チェース、バンク・オブ・アメリカを含む米国AI安全研究所コンソーシアム（AISIC）の設立を発表した。 。「米国政府は、リスクを軽減し、人工知能の計り知れない可能性を活用するために必要な基準を設定し、ツールを開発する上で重要な役割を担っている」とライモンド氏は声明で述べた。このコンソーシアムには、BP、Cisco Systems、IBM、Hewlett Packard、Northop Grumman、Mastercard、Qualcomm、Visa、主要な学術機関および政府機関も含まれており、米国 AI Safety Institute (USAISI) の傘下に収められます。このグループは、バイデン大統領の10月のAI大統領令で概説された「レッドチーム、能力評価、リスク管理、安全性とセキュリティ、合成コンテンツの透かし入れに関するガイドラインの策定を含む」優先行動に取り組む任務を負っている。(その日のトップテクノロジーニュースについては、テクノロジーニュースレター「Today's Cache」を購読してください)大手AI企業は昨年、AI技術の安全性を高めるため、AI生成コンテンツに透かしを入れることを約束した。 レッドチームは、サイバーセキュリティにおいて新たなリスクを特定するために長年使用されてきました。この用語は、敵が「レッドチーム」と呼ばれた米国の冷戦シミュレーションを指します。バイデン氏の命令は各機関に対し、その検査の基準を設定し、関連する化学、生物学、放射線、核、サイバーセキュリティーのリスクに対処するよう指示した。商務省は12月、AIの安全な導入とテストのための主要な基準とガイダンスの作成に向けた第一歩を踏み出していると発表した。コマース氏によると、このコンソーシアムはテストおよび評価チームの最大の集まりを代表しており、「AIの安全性における新しい測定科学」の基盤の構築に注力するという。自由形式のプロンプトに応じてテキスト、写真、ビデオを作成できる生成 AI は、一部の仕事を時代遅れにし、選挙をひっくり返し、潜在的に人間を圧倒して壊滅的な影響を与える可能性があるという懸念と同時に興奮を引き起こしています。バイデン政権がセーフガードを追求している一方で、AIに対処する法案可決に向けた議会の取り組みは、数多くのハイレベルのフォーラムや立法提案にもかかわらず行き詰まっている。 #米国大手AI企業がリスクに対処するため安全コンソーシアムに参加すると発表