1767822746
2026-01-07 20:37:00
ニアム・スミス人工知能担当大臣は、人工知能ツールGrokが大人と子供の露骨な性的画像を作成するために使用されているという懸念を理由にXとの面会を要請した。
スミス女史は、Xに直接書簡を送り、プラットフォームに組み込まれているイーロン・マスク氏のxAIチャットボットに関する「不穏な」報告に対処するためにどのような措置をとっているのか話し合ってほしいと述べた。
メディア規制当局のコイミシウン・ナ・ミーアンは、Grokが未成年者を含む人物の画像から衣服を削除してXにさらに投稿するよう求めるユーザーの要望に応じているのではないかとの懸念を巡り、欧州委員会と連携していると述べた。
スミス氏は、コイミシウン・ナ・メアンと司法長官事務所にも最新情報を要請したと述べ、この「重大な犯罪」には法律と規制の両方の観点から取り組むべきだと付け加えた。
「同意のない親密な画像の共有は違法であり、児童の性的虐待素材の生成も違法です。
「アイルランドのオンライン安全フレームワークでは、オンライン プラットフォームには違法コンテンツの報告に応じる明確な義務があります。」
スミス氏は、オンラインで共有される画像を懸念する人々に対し、画像に遭遇したオンラインプラットフォームであるgardaí、hotline.ie、およびCoimisiún na Meánに報告するよう促した。
Xは、児童性的虐待の内容を含むプラットフォーム上の違法コンテンツに対して、削除、アカウントの永久停止、政府や法執行機関との協力などの措置を講じていると述べた。
同社はXへの投稿で、「Grokを使用したり、Grokを使用して違法コンテンツの作成を促した者は、違法コンテンツをアップロードした場合と同じ結果を被ることになる」と述べた。
昨日、マイケル・マーティン首相はこの報道を「受け入れがたい」「衝撃的」だと述べた。
マーティン氏は「これは我々がメディア委員会と（欧州）委員会に引き続き提起していく問題だ」と述べた。
AI委員会の委員長が法案の迅速な審議を要求
人工知能に関するオイレアチャタス委員会の委員長は、AIディープフェイクと「ヌード化」の問題に取り組むための法案を早急に提出するよう政府に要請した。
フィアナ・フェイルTDマルコム・バーン氏は、2025年音声・映像保護法案は「緊急に必要な法案の実質的な出発点」となると述べた。
「この法案は、今週明らかになった性的目的でのAIの兵器化に関する問題を予期していた。
「悪意のある目的で同意なしに誰かの画像や音声を悪用することは犯罪であるべきだ」と同氏は述べた。
フィアナ・フェイルTDマルコム・バーン氏は、この法案は「緊急に必要な法案の実用的な出発点」を提供すると述べた（ファイル画像）
以前、労働党上院議員ローラ・ハーモン氏は、虐待を可能にするAIプラットフォームは必ず結果に直面しなければならないと述べた。
「AI ツールの悪用で私たちが目にしていることは、テクノロジーが法執行よりも速く進化しているという現実を浮き彫りにしています。
「企業が強力なAIシステムから利益を得ながら、それらのツールがどのように悪用されたり武器化されているかを見て見ぬふりをすることは容認できません。」
アイルランドのインターネットホットライン、「裸化」アプリの禁止を支持
アイルランド インターネット ホットライン (hotline.ie) は、児童の性的虐待画像を報告する指定機関です。
同団体は、子供や大人のディープフェイク性的画像を作成できる「ヌード化」アプリやその他の形式のAIベースの機能の全面禁止を支持すると述べた。
「そのような技術には正当な目的はないという我々の長年の立場は変わっていない」とホットラインは声明で述べた。
人権専門家、ディープフェイクの99％は女性のものだと語る
アイルランドの児童保護特別報告者カオイルフィオン・ギャラガー氏は、オンラインでアクセスできる性的に露骨なディープフェイクの99％は女性と少女のものと推定されると述べた。
「これはジェンダーに基づく暴力の問題でもあります」と彼女はRTÉのモーニング・アイルランドに語った。
研究によると、ディープフェイクによる性的虐待による被害は、本物の画像による被害と同等であることが示されています。
「なぜなら、被害者にとってビデオは本物だと感じられ、そのリアルさから、被害者は自分たちが他人に本物だと認識される可能性があることを知っているからです。
「私たちがここで扱っているのは、Grokが同意なしにデジタル的に人々の服を脱がせることであり、これには例えばビキニを着た12歳の画像を生成したり、ヌードや性的に露骨な子供っぽい画像を生成したりすることが含まれる。」
彼女は、これらの画像の生成は、多くの場合、虐待や嫌がらせのパターンの一部であると付け加えました。
ギャラガーさんは、より広範な社会問題も考慮する必要があると述べた。
「Grokだけでなく、より一般的な他のヌードアプリも、女性の体に最も効果的に作用する傾向があるため、主に女性の画像に関する膨大なデータセットに基づいてトレーニングされていることがわかっています。」
同氏は、国際的な法的および政策的な観点から、そのほとんどがプラットフォームや製品ではなく、画像を生成する可能性のあるユーザー自体に非常に焦点を当てているため、実施されている保護が十分であるかどうかについて国際的に懸念があると述べた。
しかし、今週、司法長官事務所によって既存の枠組みを見直す作業が行われていると彼女は述べた。
Women’s Aidは、明日からXでの存在感を「維持できなくなる」と述べた。
同慈善団体は、「AIディープフェイク、同意のない親密な画像の作成と共有、児童への性的虐待素材の制作」が「転換点」だと述べた。
「女性と子供、特に少女に対するこのオンライン暴力は、現実生活に壊滅的な影響を与えることが多く、私たちはもはやそのようなプラットフォームを利用して私たちの作品を共有することは適切ではないと考えています」と同団体は述べた。
メンタルヘルス慈善団体 Turn2Me はメディア委員会と欧州委員会に対し、Grok AI ツールをブロックするよう求めた。
同慈善団体の最高責任者フィオナ・オマリー氏は、「同意のない、搾取的なAI生成コンテンツの蔓延が続いている」ことは、人々の精神的健康に「極めて有害」であると述べた。
「被害者が自分の肖像を改変され、あからさまな内容として流布されることによる心理的影響は、特に子供が関与している場合には、計り知れない」と彼女は述べた。
「この種の虐待は、オンラインで安全を求める弱い立場の人々のトラウマ、不安、うつ病、苦痛を悪化させる可能性があります。」
教師と研究者 エオガン・クリアリー AI「ヌード」アプリの禁止を求める：
英国政府、Grokディープフェイクを巡り「あらゆる選択肢」を検討中
英国政府は、Grokが性的なディープフェイク画像の作成に使用されていることに抗議して、Xソーシャルメディアプラットフォームの使用を停止する可能性がある。
ダウニング街は、閣僚がメディア規制当局オフコムの行動を支持する中、X社のボイコットを含む「あらゆる選択肢がテーブルの上にあった」と述べた。
キア・スターマー首相の報道官は、「グロクで我々が目にしたことは恥ずべきことであり、全く容認できない。
「誰も自分自身の親密なディープフェイクをオンラインで見るという試練を経験すべきではなく、私たちはこうした屈辱的な画像の拡散を許しません。
「Xはこの問題に早急に対処する必要があり、企業が英国のユーザーを保護できていない場合はどこでも執行措置を講じることをOfcomが全面的に支援している。
「すでに最大数十億ポンドの罰金を課したり、法律に違反しているサイトへのアクセスを停止したりする権限を持っている。
「オンラインで人々の安全を守ることに関しては、あらゆる選択肢が検討の対象となっています。」
政府がアプリの使用を中止するかとの質問に対し、報道官は「あらゆる選択肢が検討されている」と述べた。
追加のレポート PA
#大臣Grokの不穏な懸念を理由にXとの会談を望んでいる