利益企業はAIガバナンスの課題を解決できますか？

編集者のダイジェストのロックを無料でロック解除します

FTの編集者であるRoula Khalafは、この毎週のニュースレターでお気に入りのストーリーを選択します。

1月にホワイトハウスに戻ったとき、ドナルド・トランプは、彼の前任者ジョー・バイデンが人工知能のリスクに対処するために導入した規制の枠組みを迅速に解体しました。

米国大統領の行動には、システムが国の安全、経済、または公衆衛生安全衛生に「深刻なリスク」をもたらしたときに、AI開発者が安全試験結果を連邦当局に提出することを要求する2023の大統領命令を覆すことが含まれていました。 トランプの秩序 これらのガードレールは、「アメリカのAIイノベーションの障壁」として特徴づけられました。

AI規制に関するこの行き来は、公共の安全と経済成長の間の緊張を反映しています。 職場の安全、 金融セクターの安定性 そして 環境保護。規制が成長を優先する場合、企業はガバナンスを公共の利益と一致させ続ける必要があります。そして、そうすることの長所と短所は何ですか？

2015年に非営利組織としてサム・アルトマンによって設立されたOpenaiで、これは、特にAIが安全に、倫理的に、そして人類の利益のために、技術の初期の日以来懸念であることを保証するため、Elon Muskを含む投資家と共同設立者の間で重要な議論のトピックとなっています。

その結果、多くの企業が持っています 採用された新しい企業構造 それは、彼らの経済的利益とより広範な社会的懸念のバランスをとることを目的としています。たとえば、2021年に、7人の元Openaiの従業員が人類を設立し、それを利益会社として組み込みました。その設立文書では、人類の目的は、人類の長期的な利益のために高度なAIを責任を持って開発および維持することであると述べています。

2010年にメリーランド州によって最初に導入された福利厚生の構造は、40以上の米国州、ワシントンDC、プエルトリコ、イタリア、コロンビア、エクアドル、フランス、ペルー、ルワンダ、ウルグアイ、ブリティッシュコロンビアのカナダ省を含む国々によって採用されています。

しかし、彼らはまた、目標が環境的および社会的影響と特に整合していないAI企業によって採用されています。ネバダ州の福利厚生企業として設立されたマスクのXaiは、「社会と環境全体に重大なプラスの影響を与える」という企業目的を述べています。

批評家は、福利厚生モデルには歯がないと主張しています。ほとんどの場合、透明性の規定が含まれていますが、関連する報告要件は、会社が法的目的を達成しているかどうかについて有意義な説明責任を提供することではありません。

これはすべて、モデルが「ガバナンス洗浄」への扉を開く可能性を高めます。オピオイドメーカーのパーデューファーマに対する訴訟の波に続いて、その所有者 サックラーファミリーは、会社を福利厚生に変えることを提案しました、オピオイド危機に取り組むための薬物の製造に焦点を当てます。の最終処分 多数のケース 会社に対して進行中です。

Openaiの場合は、AIセクターのガバナンスを取り巻く問題を示しています。 2019年、同社は、Microsoftなどから数十億ドルの投資を受け取るための営利機関を開始しました。多くの初期の従業員が残っており、伝えられるところによれば安全懸念をめぐるものです。

マスクはオープンとサム・アルトマンを訴えた 2024年、彼らが人類の利益のためにAIシステムを構築するという新興企業の使命を妥協したと主張しています。

2024年12月に、Openaiは公共福利厚生企業として再構築する計画を発表し、2025年初頭に、同社の非営利委員会が取り組んでいたと伝えられています Openaiを2つのエンティティに分割します：公共福利厚生企業と約3,000億ドルの価値がある慈善団体。ムスクはこの動きと今月に反対しました 未承諾の入札を行いました Openaiの970億ドル以上。

Openaiの資金調達の軌跡は、 ムスク Openaiが公益よりも利益を優先する他の人々。 2024年10月、同社は1,570億ドルの評価で画期的な投資ラウンドを確保しました。しかし、それはまだ所有権構造とガバナンスの枠組みを正式にしておらず、投資家に会社の使命と実行に大きな影響を与えています。

会社がその構造を完成させると、トランプの大統領令で明確にされた業界のビジョンを受け入れ、安全性と人類に焦点を当てるべきでしょうか？または、世界の他の地域または将来の米国大統領がAI企業の責任について異なる見方をするかもしれないことを考えると、それはその焦点を維持すべきですか？

また、企業構造やガバナンスなどの自発的なメカニズムは、イノベーションに必要な俊敏性を維持しながら説明責任を生み出すのに十分なものですか？によると 一部の法律専門家、そのような構造は必要ありません 従来の企業形式の設立により、企業は株主の長期的な利益にある場合、企業が持続可能性の目標を設定することができます。

説明責任を高めるために、一部の利益企業は、技術や市民社会などの影響を受けるセクターの代表者とともにマルチステークホルダー監視評議会を作成しました。 2024年5月、 Openaiは安全およびセキュリティ委員会を設立しました、Altmanが率いる（彼は後に辞任した）が、批評家はそのような自発的な構造が利益目標に従属する可能性があると指摘した。

その他のオプションには、採用が含まれます EUの企業の持続可能性報告指令、今後数年間でOpenaiなどの企業を管理するか、報酬とストックオプションを安全関連の目標にリンクします。

代替の説明責任メカニズムが出現する場合があります。一方、OpenaiなどのAI企業のガバナンスは、倫理的および安全性に関する考慮事項をほとんどテストされていない技術に統合することに関する重要な疑問を提起します。

クリストファー・マーキスは、ケンブリッジ裁判官ビジネススクールの中国管理のシニー教授です