英国政府は月曜日、AIチャットボットのプロバイダーは、その技術によって違法または有害なコンテンツが生成されるのを防ぐ責任を負うと発表した。
この動きは、チャットボットがユーザーに女性と子供の性的な偽の画像を作成して共有することを可能にしていることが判明したことを受けて、Grokに対する国際的な反発を受けたものである。
AI ボットに関して計画されている変更は何ですか?
政府は現在、ソーシャルメディアプラットフォーム上でユーザー間で共有されるコンテンツにのみ適用されている規則を拡大する予定だ。
キア・スターマー首相はこのテーマに関する講演に先立ち、「本日発表された新たな措置には、AIによって作成された悪質な違法コンテンツの取り締まりが含まれている」と述べた。
同氏は、「政府は法の抜け穴をふさぐために迅速に動き、すべてのAIチャットボットプロバイダーに対し、オンライン安全法に基づく違法コンテンツ義務を遵守するよう強制し、さもなければ法律違反の結果に直面するだろう」と述べた。
チャットボットが時々嘘をつく理由
このビデオを表示するには、JavaScript を有効にし、次の Web ブラウザにアップグレードすることを検討してください。 HTML5ビデオをサポート
スターマー氏率いる中道左派労働党政権も、オンラインで子どもを守る取り組みを強化しており、16歳未満の人々に対するソーシャルメディアの禁止に関する協議を開始した。
現在、法律はどうなっていますか?
7月に発効したオンライン安全法は、有害な可能性のあるコンテンツをホストするプラットフォームに対し、顔画像のチェックやクレジットカードの確認など、厳格な年齢確認を実施することを義務付けている。 AI を使用して作成された、同意のない親密な画像や児童の性的虐待素材の作成または配布も違法です。
しかし、英国のメディア規制当局オフコムは、「チャットボット自体との対話のみを許可し、他のユーザーとの対話を許可しない」ものも含め、すべてのAIチャットボットがこの法律の対象となるわけではないと指摘した。
スターマー氏は、「テクノロジーの進歩があまりにも速いため、法律がそれに追いつくのに苦労している。そのため、AIボットについては…必要な措置を講じる必要がある」と述べた。
Ofcomは1月、GrokをホストするXに対し、安全義務を怠った疑いで調査を開始した。欧州委員会はまた、チャットボットが域内で違法なコンテンツを広めているかどうかも調査している。
その後、X は、現実の人物の露骨な画像の作成を防止するために設計された新しい制限を発表しました。
編集者: ルイ・オロフス
#英国Grok騒動を受けて全てのAIチャットボットを標的に