1767927076
2026-01-08 17:04:00
人工知能を担当するニアム・スミス国務大臣は、AIが生成した児童虐待画像に関してアイルランドとEUの両方の法律が違反されていると述べた。
AIインテリジェンスツールGrokの悪用に対する懸念が高まっており、同アプリは大人や子供の露骨な性的画像を作成したとして広く非難されている。
大臣はこの問題についてXとの面会を要請した。
スミス女史はRTÉのトゥデイでデービッド・マッカラ氏と対談し、アイルランドの法律では児童虐待の画像が違法であることは明らかだと述べた。彼女は、XがチャットボットGrokを手助けしていることは「非常に心配」であり、作成された画像は「まったくぞっとする」ものであると述べた。
「それらが本物の画像であろうと、コンピューターで生成されたものであろうと、それがここで話していることですが、それらをプラットフォーム上で配布することは犯罪です」とスミス女史は語った。
「私の知る限り、ここアイルランドでは法律が破られています。EU法、ヨーロッパの法律も破られています。また、デジタルサービス法に基づき、欧州委員会がこれらの大規模なオンラインプラットフォームに責任を負っていることも私たちは知っています。」
スミス氏は、コイミシウン・ナ・メアンが欧州委員会と連携して「この事態を確実に阻止し、確実にそうなるようグロクと緊密に協力する」という役割を果たしていると確信していると付け加えた。
昨日、マーティン氏がGrok AIツールを「衝撃的だ」と非難したことを受け、スミス氏は数日以内にこの問題について話し合うつもりだと語った。
彼女は、そのような画像にさらされた人は誰でも通報するよう呼び掛けた。
彼女は昨日Xに「対面」での面会を要請する手紙を書いたが、まだ返答はないと述べた。
「私たちは子供たちの保護について話しています…人々は心配し、心配しています。
「フィアナ・フェール社内でこの件に関してオンライン調査を行ったことは知っていますが、オンラインコンテンツに対する親の懸念という点では、驚くほど高い数字があり、これは驚くべきことではありません」と彼女は語った。
「しかし、ここ数日でGrokに関して我々が見てきたことは、それをまったく新しいレベルに引き上げている。それはアイルランドのシステム内では確実に受け入れられない、あるいは受け入れられるべきではない新たなレベルだ。」
ニアム・スミス氏は、コイミシウン・ナ・メアン氏と司法長官事務所にも最新情報を要請したと述べ、「重大な犯罪」には対処すべきだと述べた
オンライン安全慈善団体、「AIガールフレンド」アプリは未成年者には禁止すべきだと主張
一方、CyberSafeKidsの最高経営責任者（CEO）Alex Cooney氏は、この慈善団体は、「ヌード化」および「ポルノ化」アプリケーション、および子供と大人の両方のディープフェイク性的画像を生成できるその他のAIベースのツールの緊急かつ完全な禁止を求める国民の呼びかけを明確に支持していると述べた。
「この技術には正当な目的も、社会的利益も、前向きな結果もありません。その唯一の機能は搾取、乱用、危害です」と彼女は述べた。
クーニー女史は、これらのヌード化ツールや「AIガールフレンド」アプリへの18歳未満の子供によるアプリストア、検索エンジン、広告経由のアクセスを断固として禁止することも不可欠であると強調した。
同氏は、昨年12月18日の子どもと平等に関する合同委員会でのサイバーセーフキッズの演説では、アイルランドが英国とオーストラリアに倣い、未成年者の性的な画像を生成または操作するためのAIツールを明示的に禁止する法律を導入するよう勧告したと述べた。
クーニー女史は、現行のAI法は「超個人化された影響、感情操作、自動化されたエージェントと現実の人間との境界の曖昧さ」など、AIシステムが子どもたちにもたらす特有の増大したリスクに適切に対処できていない、と述べた。
「ソーシャルメディア規制と同様、この枠組みは基本的に予防的ではなく事後対応的なものである。設計上の安全性を義務付けるものではないため、すでに時代遅れだ」と彼女は述べた。
彼女は、子供たちは、法律がまだ適切に認識または規制していないシステムと日々やり取りしていると付け加えた。
クーニー女史は、重大な欠点は、生成型 AI チャットボットが子供に関して「高リスク」として分類されていないことだと付け加えた。
「X社のAIチャットボットGrokを巡る今週の出来事は、なぜこれを変えなければならないのかをまさに示している」と彼女は語った。
「この事件は、違反に対する地域封鎖などの更なる制裁の確実な脅しとともに是正措置の厳格な期限を課すことを含め、直ちに規制介入を行う機会となるべきである。
「女性や未成年少女の性的で合意のない画像を生成したことに対するグロクの暴露と広範な世間の反発にもかかわらず、イーロン・マスク氏の人工知能会社は、今週初めに発表された最新の資金調達ラウンドで200億ドルを調達した。これは再び、商業的成功と説明責任との間に断絶があることを如実に示している。」
クーニーさんはさらに、「本日をもって、CyberSafeKidsはプラットフォームX上での存在感を維持できなくなる」と付け加えた。
女性支援団体、ネット暴力の「壊滅的な」影響を理由にXを撤退
アイルランドにおける家庭内暴力や強制支配を含む虐待の影響を予防し対処するために活動する全国組織であるウィメンズ・エイドは、本日よりプラットフォームX上での存在感を維持しないと発表した。
「当組織は、プラットフォーム上で野放しの憎しみ、女性蔑視、人種差別、反LGBTI+コンテンツのレベルが増大していることに不安と懸念を募らせながら監視してきました。
「X社独自のAI Grokによる、プラットフォーム独自のガイドラインや規制に違反したAIディープフェイク、同意のない親密な画像の作成と共有、児童性的虐待素材の制作などを伴う現在のスキャンダルは転換点だ。
同団体は声明で、「女性や子ども、特に少女に対するオンライン暴力は、現実生活に壊滅的な影響を与えることが多く、私たちはもはやそのようなプラットフォームを利用して私たちの作品を共有することは適切ではないと考えている」と述べた。
さらに、「これは簡単な決断ではなかった。ウィメンズ・エイドは2009年からTwitter/Xなどのソーシャルメディアを初期から利用してきた。
「私たちは支援者たちと関わり、家庭内暴力の蔓延と影響について情報を提供し、影響を受ける人々への最前線の支援サービスを推進し、前向きな社会変化を推進してきました。」
INTOは子供たちを守るために「即時行動」を呼びかける
アイルランド国立教師組織（INTO）も政府とEUに対し、子供と女性の安全と福祉を守るために「即時行動」をとるよう求めた。
INTOのアン・ホーラン社長は、「このプラットフォームにより、X社独自のAIシステムGrokを通じて、AIが生成したディープフェイク、同意のない親密な画像、児童性的虐待素材の作成と共有が容易になった」と述べた。
「この有害なコンテンツの流通は、その多くがプラットフォーム独自のルールに違反しており、大人だけでなく子供や若者も危険にさらしており、子供の精神的健康に壊滅的な影響を与える可能性がある」とホランさんは付け加えた。
ホランさんは、INTOの会員の大多数は女性だと語った。
「同意のない親密な画像や児童への性的虐待など、違法な性的コンテンツの拡散を促進しているプラットフォームに対し、議員らが断固とした行動をとらなかったことは全く容認できない」と彼女は付け加えた。
#AI児童虐待画像でアイルランドとEUの法律が破られる