1763665747
2025-11-20 17:23:00
米国から英国、中国を経てオランダに至るまで、多くの国がAIチャットボットの規制を模索しており、未成年者に対するリスクだけでなく、偽情報や選挙操作に関するリスクも指摘している。
2022 年末の ChatGPT の開始後、AI チャットボットは津波のように地球上に押し寄せました。それ以来、世界中の政府はこのテクノロジーを規制する最善の方法を決定するために知恵を絞ってきました。
いくつかの規制はすでに可決されていますが、その他のさまざまな規制が策定されています。一般に善意から始まっているにもかかわらず、これらは表現の自由の擁護者の懸念を引き起こします。彼らは、政府が少し高圧的すぎるのではないか、あるいはこの口実を利用してインターネット上の言論規制をさらに強化するのではないかと懸念していますが、オンラインでの表現の自由はすでに制限されています。 何年も自由落下で。
米国ではドナルド・トランプ氏が「目覚めたAI」に反対
米国では、AI チャットボットをより適切に規制したいという願望が、対立するアメリカの政治情勢において共和党と民主党を団結させる珍しい主題の 1 つを構成しています。その結果、現在策定中の 2 つの法律が日の目を見る可能性は十分にあります。 1 つ目の CHAT 法 (AI テクノロジーによって被害を受けた児童のための法) は、AI エージェントによって許可された性的コンテンツや操作から未成年者を保護することを何よりも目的としています。チャットボットと密接な関係を築いた後に自殺した青少年のいくつかのケースが見出しを飾り、これらのシステムをより適切に規制する必要性が生じています。
インターネット上で未成年者を保護することを目的とした、より一般的な法律であるキッズオンライン安全法（KOSA）をモデルとしており、同じく現在策定中であるこのCHAT法は、チャットボットオペレーターに対し、ユーザーの年齢を確認し、性的な性質を持つあらゆるタイプのコンテンツの禁止を含む、未成年者に対してさまざまな制限を設けることを特に義務付けている。また、ユーザーが自殺に関するコメントをした場合には、自殺防止番号に電話するよう勧めるなど、適切な対応メカニズムを導入することも義務付けられるだろう。
準備中の 2 番目の法律である AWARE 法 (AI 警告および教育のためのリソースに関する) では、未成年者とその保護者が AI チャットボットがどのように機能するかを理解し、リスクなく使用できるようにするための教育リソースの作成を許可する必要があります。これら 2 つの法律は、連邦レベルで統一された枠組みを提供することも目的としていますが、カリフォルニア、ニューヨーク、ノースカロライナなどの一部の州は独自の法案を可決し始めています。
しかし、トランプ政権の政策には、「覚醒した」AI と闘いたいという願望も特徴付けられている。AI チャットボットには左翼の偏見が含まれていると考えており、共和党は AI チャットボットに対してより大きな中立性を課すつもりだ。 「アメリカ人はAIモデルにマルクス主義者や目覚めたナンセンスを望んでいない」とドナルド・トランプ氏は6月、厳格なイデオロギー的中立性を遵守するAIエージェントのみを政府各省庁に使用することを義務付ける大統領令に署名する前に宣言した。連邦機関が使用するチャットボットの定期的な監査を導入する必要があり、中立性義務を満たさないチャットボットは使用できなくなります。
トランプ政権のAI戦略を主導するデービッド・サックス氏は、クロード・チャットボットが最も人気のある新興企業アンスロピック社が「目覚めたAI」を開発したと非難し、大統領のコメントに同調した。大統領とその陣営が表明した批判は、もしそれがイデオロギー的な議題に対応しているのであれば、完全に根拠がないわけではない。 スタンフォード大学は、Grok を含む AI チャットボットの応答がより左寄りであることを示しています。
それでも、イデオロギーへの帰属を理由にAIを規制し制裁したいという政府の意向は、オンラインでの表現の自由だけでなく、アメリカのAI産業の革新能力に対する懸念も引き起こしている。
「アルゴリズムがイデオロギーから完全に自由になることは決してありえません。イデオロギーの構成要素を定義するのが政府である場合はなおさらです。言論の自由に対する真に敬意を持ったアプローチであれば、公の秩序によって画一性を押し付けるのではなく、異なる価値観を反映して多様なモデルが共存することが可能になります」とヴァンダービルト大学ロビー「言論の自由の未来」のジェイコブ・マッチャンガマ氏とジョルディ・カルベット・バデムント氏は言う。
「より多くの企業が政府との契約を勝ち取り、支持を得ようとする中、中立性を求めるこの非現実的な動きは、簡単に意見取り締まりに滑り込む可能性がある。合衆国憲法修正第 1 条は、政府関係者がどの視点が受け入れられるかを決定することを防ぐために正確に設計されている。AI と言論の自由における米国のリーダーシップは、これらの原則への確固たるコミットメントを維持することにかかっています。」
欧州のアプローチも懸念される
ヨーロッパから見ると、「目覚めたAI」に対するアメリカ大統領とその同盟者の非難は私たちを笑顔にさせるが、政治目的のために法律を利用する彼の性向はディストピアとして認識されている。しかし、欧州も政治的課題に対応するためにAIの監視を免れないわけではない。
たとえば10月、オランダのデータ保護局は投票者操作のリスクを指摘し、選挙中のAIチャットボットの使用に対して警告した。チャットボットは「信頼性が低く、明らかに偏っている」と当局は懸念しており、OpenAI、xAI、Mistralなどの主要なAIチャットボットのいくつかが、さまざまな選挙に先立ってユーザーにイデオロギー指向の推奨事項を与えていたと主張している。
同じ理由で批判が行われないとしても、それはトランプ政権の批判と同じことになる。つまり、AI チャットボットは政治的に十分に中立的ではないということだ。
新しい法律の施行よりも、表現の自由の一部の擁護者たちの懸念を引き起こすのは、EU にすでに存在する規制と、それがチャットボットに適用される方法です。意見と表現の自由の権利の促進と保護に関する国連特別報告者のアイリーン・カーン氏は、最近、報告書の中で、IA法とDSAに基づく義務が、AIの導入の文脈を含め、オンラインでの表現の自由を損なう可能性がある濫用のリスクをどのように提示しているかを強調した。 「法律や政策は、オンライン上の危害に関する最適とは言えない知識に基づいて策定されることが多く、適切なデータ、研究、公的協議も行われていません。各国は不均衡な措置に訴えており、 […] そしてオンライン言論を犯罪化し、ブロックし、検閲し、抑制するための曖昧かつ広範すぎる法律を可決し、それによって市民の空間を縮小させた。」
最近、100 人以上の専門家 (学者、政治家、弁護士、ジャーナリストなど) も共同署名しました。 公開書簡 EUの意思決定者らに対し、現在導入されている規制、特にDSAは、オンラインでの表現の自由に有害な検閲のエコシステムを生み出す危険があると指摘した。
「言論の自由の未来」の研究者が共有する懸念。 「DSAの下では、早期の警告信号がすでに現れている。フランス警察によって殺害された北アフリカ出身の若者の死亡に伴う暴動に反応してプラットフォームを閉鎖するという脅迫、ガザ紛争を背景とした偽情報の違法コンテンツへの同化、あるいは2024年のアメリカ大統領選挙のキャンペーン中にドナルド・トランプにインタビューしたことに対するXとイーロン・マスクに対する脅迫さえある」と、ジェイコブ・マッチャンガマとジョルディは詳しく述べている。 Calvet-Bademunt 氏にとって、この武器庫は明日、物議を醸していると思われる特定のコンテンツを AI チャットボットから浄化するために使用される危険性があります。
彼らによれば、「欧州の規制当局は、AIが生み出す政治的コンテンツを制限するのではなく、人工知能市場自体の多元性を確保することに重点を置くべきだ」という。
これには、たとえば、AI が少数の大手テクノロジー企業の手に残ることを防ぐために、オープンソース モデルの推進が含まれる可能性があります。 「多元主義は権力を分散し、単一の当局や企業が AI の生産を政治目的に悪用するリスクを軽減します。」
#AIチャットボットの規制が懸念される理由