批評家は、国土安全保障省の新しい AI 安全委員会のテクノロジーを多用したラインナップに疑問を抱いている

金曜日、米国土安全保障省は、テクノロジー業界、政府、学界、公民権団体から選ばれた22人のメンバーで構成される人工知能安全セキュリティ委員会の設立を発表した。 しかし、「AI」という用語の曖昧な性質を考えると、広範なコンピューター技術に適用される可能性があるため、このグループが私たちを正確に何から守っているのかについて同意できるかどうかさえ不明です。

バイデン大統領はDHSのアレハンドロ・マヨルカス長官に理事会を設立するよう指示し、理事会は5月初旬に初めて会合し、その後は四半期ごとに会合する予定だ。

理事会の存在によって提起され、10月のバイデンのAI大統領令に反映されている基本的な前提は、AIは本質的に危険なテクノロジーであり、アメリカ国民と企業はその悪用から保護される必要があるということである。 これらの方針に沿って、このグループの目標は、AI を使用して米国のインフラを破壊する外国の敵に対する防御を支援することです。 AI技術を交通、エネルギー、インターネットサービスに安全に導入するための推奨事項を作成する。 政府と企業間の分野を超えた協力を促進する。 AI のリーダーが AI のセキュリティ リスクに関する情報を DHS と共有するためのフォーラムを設立します。

「人工知能」という用語の定義が曖昧であるため、範囲や焦点に関して新理事会には何の有利にもならないことは注目に値します。 AI はさまざまな意味を持ちます。チャットボットに電力を供給したり、飛行機を操縦したり、幽霊を制御したりできます。 パックマン、原子炉の温度を調整したり、素晴らしいチェスのゲームをしたりできます。 これらすべてのことやそれ以上のことが起こり得ます。AI のアプリケーションの多くはまったく異なる動作をするため、取締役会の 2 人が同じ種類の AI について考えているという保証はありません。

この混乱は、DHS のプレスリリースで提供された新しい理事会メンバーからの引用に反映されており、そのうちの何人かはすでにさまざまな種類の AI について話しています。 OpenAI、Microsoft、Anthropic が大規模言語モデル (LLM) に基づいた ChatGPT のような生成 AI システムを収益化している一方で、デルタ航空 CEO のエド バスティアン氏は次のように述べています。乗務員のリソース確保や乱気流の予測と同様に、AI はすでに我が国の航空旅行システムの信頼性に大きく貢献しています。」

そのため、AI が正確に何を意味するのか、そして AI のどのアプリケーションが新しいのか危険なのかを定義することが、新しい取締役会にとっての重要な課題の 1 つになる可能性があります。

ビッグテックCEOのラウンドテーブルが批判を集める

AI 安全性およびセキュリティ委員会の初回会議のために、DHS は 4 つの主要 AI ベンダー (OpenAI のサム・アルトマン氏、マイクロソフトのサティア・ナデラ氏、アルファベットのサンダー・ピチャイ氏、およびAnthopic)、トップ AI チップメーカー Nvidia の CEO ジェンセン フアン、および IBM、Adobe、Amazon、Cisco、AMD などの他の大手テクノロジー企業の代表者が参加しました。 ノースロップ・グラマン社やデルタ航空といった大手航空宇宙・航空会社の担当者もいます。

この発表を読んで、一部の批評家は取締役会の構成に疑問を呈した。 LinkedInでは、分散AI研究所（DAIR）の創設者ティムニット・ゲブルー氏が特にOpenAIの取締役会への存在を批判し、「今、完全なリストを見たが、とても面白い。鶏舎を守るキツネというのは控えめな表現だ」と書いた。