オンラインで卑劣な「虐待の武器」を作成する人々に新たな法律が課される

イーロン・マスクの「X」で性的ディープフェイクが急増する中、合意のない親密な画像を作成したり作成しようとしたりする人は今週から犯罪となる

イーロン・マスクのXで性的なディープフェイクが急増する中、合意のない親密な画像を作成したり作成しようとしたりする人々は今週から犯罪を犯すことになる。

テクノロジー Ofcomがソーシャルメディアプラットフォームに対する正式な調査を開始したことを受けて、リズ・ケンドール長官は、X社のAIチャットボットGrokが作成した画像は「悪用の武器」であると述べた。

本日の下院への声明の中で、彼女は国会議員に対し、同意のない親密な画像の作成または作成を求めることを違法とする法律が今週施行されるだろうと語った。

そして彼女は言いました アプリ ユーザーが人のヌードの偽画像を作成できるようにするものは、議会を通過中の犯罪警察法案に基づいて犯罪化される予定だ。この新たな刑事犯罪は、企業が問題の根源を標的にすることを期待して、同意のないインターネット画像を作成するように設計されたツールを提供することを違法にする。

一方、メディア監視団体オフコムは、X社がオンライン安全法に基づく法的義務を遵守していないかどうかを調査で明らかにすると述べた。もしそうであれば、OfcomはX（以前はとして知られていた）に罰金を科すことができる ツイッター – 最大 1,800 万ポンド、または世界収益の最大 10%。また、決済プロバイダーや広告サービスにサイトからの撤退を要求するなど、その他の事業妨害措置を課す可能性もあります。

続きを読む: 英国規制当局、イーロン・マスク氏の「X over Grok」ディープフェイク画像への調査を開始

ケンダル氏は国会議員に対し、「ビキニ姿で縛られ猿ぐつわをされ、打撲傷があり、血まみれなど、さまざまな写真が共有されているという報告を目にしている。人々の嫌がらせ、苦しめ、尊厳を侵害することを目的としたこのコンテンツによって、人生が破壊される可能性があり、実際に破壊されてきた。それらは無害な画像ではない。それらは虐待の武器であり、不当に女性と少女に向けられており、違法である。」と語った。

ケンダルさんはオフコムに対し、調査に「何ヶ月も」かかることがあってはならないと警告した。 「国民、そして最も重要なことに、グロクの活動の被害者たちは、迅速かつ断固とした行動を期待しているので、これに何か月もかかることがあってはなりません」と彼女は述べた。 「しかし、XはOfcomの調査が終わるまで待つ必要はありません。この忌まわしい違法なコンテンツが自社のプラットフォームで共有されないようにするために、Xはより早く行動することを選択できます。」

ケンダル氏は、一部の国会議員が要求したことを受けて、政府は「もちろん、Xへの参加を検討し続ける」と付け加えた。 労働 ソーシャルメディアプラットフォームの使用を停止すること。

Ofcomは先週、同社のAIツールGrokがプラットフォーム上で子供の性的な画像を作成したという「深刻な懸念」を理由に、マスク氏のXおよびxAIと「緊急連絡」した。 xAIが開発したチャットボット「Grok」に、人々の裸の画像や子供の性的な画像を作成する機能があることを認識していると同社は述べた。

最新情報の中で、Ofcomの広報担当者は「プラットフォームは英国で違法なコンテンツから英国の人々を守らなければならない。企業が義務を怠っていると思われる場合、特に子供に危害を及ぼすリスクがある場合には、ためらわずに調査する。我々は適正手続きを確実に守りながら、この調査を最優先事項として進めていく」と述べた。

児童の性的虐待監視団体であるインターネット監視財団（IWF）は先週、同団体のアナリストがGrokを使用して作成されたとみられる11歳から13歳までの児童の「犯罪画像」を発見したと発表した。同社は、ユーザーがGrokを使って画像を作成したと主張するダークウェブのフォーラムで、少女の性的表現やトップレスのコンテンツを含む画像を目撃したと述べた。

今月初めのGrokのXアカウントへの投稿では、同社が「安全対策の欠陥を特定し、緊急に修正している。CSAM（児童性的虐待物）は違法であり、禁止されている」と認めた。そしてマスク氏は、「Grokを利用して違法コンテンツを作成した者は、違法コンテンツをアップロードした場合と同じ結果に見舞われるだろう」と述べた。

金曜日、XはGrokがディープフェイクの作成を「プレミアムサービス」とし、ユーザーが利用するには料金を支払う必要があると発表した。 No10さんはこの対応を「女性蔑視と性暴力の被害者に対する侮辱」として却下したが、ケンダルさんはこのアプローチを「虐待の収益化」に例えた。