科学＆テクノロジー

メディア規制当局がAIディープフェイクに対する規制強化を提案

メディア規制当局のコイミシウン・ナ・ミーアンは、AIが生成した性的画像に関しては、より厳しい法律が必要になる可能性があると述べた。 オイレアチャス人工知能委員会に出席したコイミシウン・ナ・メアンの執行委員長、ジェレミー・ゴッドフリー氏は、企業や開発者が同意なしに現実の人々の親密な画像を生成したり、児童の性的虐待素材を生成したりできるAIシステムを導入することを禁止するEU AI法の変更を提案した。 「現時点では、そのような用途でAIシステムを導入することはアイルランドの法律では犯罪ではない」とゴドフリー氏は述べた。 「そのような方法で使用することは刑事犯罪ですが、AI法はAIのユーザーやプロンプトを入力している人々を痛めているのではありません。AI法は、AIモデルとAIシステムの開発者と導入者に義務を課しています」と彼は付け加えた。 ゴッドフリー氏はまた、AI法に基づく「高リスクシステム」の範囲を拡大し、より広範囲のチャットボットやAIセラピストなどの生成型AIツールを含めることも提案した。 社会民主党のシニード・ギブニーTDに、コイミシウン・ナ・メアンが現在持っている権限について質問されたゴッドフリー氏は、同委員会は検閲官ではなく、コンテンツの即時削除を命令する権限はないと述べた。 オイレアチャス AI 委員会は本日、AI ツールを使用して大人や子供の性的な画像を生成、共有したグロク論争を受けて、ディープフェイクと同意に関する問題を検討するために会合を開きました。 データ保護委員のデス・ホーガン博士も委員会の公聴会に出席した。 ソーシャルメディアへのアクセス時の年齢確認に関する政府の計画について質問されたホーガン博士は、この難しい問題に対処するには技術的な解決策を見つける必要があると述べた。 「プライバシーの側面から懸念されるのは、年齢保証が企業に個人の個人データを追跡、特定、使用するための追加の手段を提供しないことです」とホーガン博士は述べた。 「特に生涯続くデジタルアイデンティティの場合、子供の問題を解決するために、子供に別の問題を引き起こすことは望ましくありません」と彼は付け加えた。 ホーガン博士は、年齢確認計画に関連して政府とのいくつかの会合が行われたと述べたが、「まだ少しの道のり」があるとも付け加えた。 ホーガン博士とゴッドフリー氏は、人材獲得に関しては民間部門との競争があるため、組織に技術専門家を採用するのが難しい場合があることに同意した。 先週、データ保護委員会（DPC）は、性的画像の生成と共有を巡り、Grokの親会社であるXに対する調査を発表した。 ホーガン博士は委員会に対し、すべての調査と同様に、この問題について徹底的かつ迅速かつ公正な調査を行うことがDPCの意図であると述べた。 同氏はまた、DPCが規制目標を達成するために適切なリソースと完全な装備を維持することが不可欠であると述べた。 OpenAI、Microsoft、Xは今日の委員会公聴会への出席要請を拒否したが、Googleの代表者は出席した。 利益連帯の前の人々 TD ポール・マーフィー氏は、Google の AI ツールが真実と現実の区別を損なうのに役立っており、フェイクニュース、偽情報、ヘイトの拡散を助長しているのではないかと代表者に尋ねた。 Googleのシニアポリシーマネージャーであるミリアム・エストリン氏は、同社には検索、YouTube、その他のプラットフォーム上で低品質のスパムコンテンツに対処してきた長年の経験があると述べた。 「この新世代の AI テクノロジーは、計り知れない創造性と信じられないほど新しいコンテンツをもたらすことができますが、他の種類のものをもたらすこともできます。そのために私たちは長年の経験に頼るつもりです」とエストリン女史は語った。 #メディア規制当局がAIディープフェイクに対する規制強化を提案