バチカンのマスコット・ルーチェのAIによる性的化とインターネットルール34の限界：すべてが「ポルノ」になり得る |テクノロジー

どの女性も同意なしに性的対象となる可能性があります。たとえそれが弱かったとしても、ポルノに限界があったとしたら、人工知能 (AI) がその限界をすべて破壊してしまいました。最初の犠牲者は有名でしたが、本物に見える偽物の作品が蔓延しました (ディープフェイク) 国連によれば、利用可能なツールがわずか 1 年半で 40 倍になり、目標が達成されました。今では、政治家、隣人、クラスメート、同僚は誰でも、自分のイメージが侵害されるのを見ることができます。最近の犠牲者の1人は本物ではありません。それは約です ライト、マスコット Tokidoki の共同創設者である Simone Legno が、次の聖年 (聖年) の若い巡礼者を表現したいと考えて作成しました。 24 時間も経たないうちに、AI 作品のページは彼女を性的なアイコンに変え、インターネットの非公式の「ルール 34」に従って「何でもポルノになり得る」と主張しました。

バチカンの意図は完璧だった。リノ・フィジケラ大司教が説明したように、来年の大阪万博（日本）のローマ法王庁パビリオンのオープニングに30日、若者への「希望と友愛の象徴」として自身のマスコット（イタリア語で光）を贈呈した。の主催者 ジュビリー。しかし、24時間も経たないうちに、人工知能で作られた画像のページ（宣伝しないように識別は避けられている）によって、ルーチェさんの黄色のトレンチコート（バチカンの国旗の色）が開き、泥で汚れた彼女のブーツが剥ぎ取られた。彼女にカトリックのシンボルだけを残し、あらゆる種類のポルノレクリエーションにさらすという道を切り開いた。

「人工知能の悪用に関しては、女性は鉱山のカナリアです。それは14歳の少女やテイラー・スウィフトだけではなく、政治家、世界の指導者、選挙にも及ぶだろう。 「私たちの数は少なすぎるし、遅すぎます。しかし、これから起こりつつある災害を軽減する努力はまだできます」と彼は警告する。 メアリー・アン・フランクスジョージ・ワシントン大学教授、サイバー・シビル・ライツ学長。

現実が彼の正しさを証明している。随時収集するページ AIインシデント 英国政治家のポルノ被害者最大6人を指名 ディープフェイク 何年も。元米国大統領民主党候補者カマラ・ハリスは、バチカンのマスコットを性的扱いし、 ネット暴力の標的。

しかし、政治だけではありません。 AI 虐待に関する同様の苦情記録から、次のような痕跡が明らかになりました。 高校でクラスメートによって裸にされた少女たち ソーシャルネットワーク上に公開された実際の画像から。そして、被害者は隣人から職場の同僚まで、誰にでもなる可能性があります。

この問題は非常に重大であるため、国連にはテクノロジーによって促進されるジェンダーに基づく暴力を専門とする部隊（TFGBV、の頭字語）があるほどです。 テクノロジーが促進するジェンダーに基づく暴力）。彼らのアドバイザーの一人であるアレクサンドラ・ロビンソン氏は次のように警告しています。 ディープフェイク 過去 18 か月で 5 件から 200 件に増加しました。これは、これらのテクノロジーと合成画像の同意のない共有が、職場でのジェンダーに基づく暴力の実行にますます使用されていることを示しています。」

これらのテクノロジー [IA) y el intercambio no consensuado de imágenes sintéticas se utilizan cada vez más en la perpetración de la violencia de género en el ámbito laboral

Alexandra Robinson, asesora en violencia tecnológica (TFGBV) para Naciones Unidas

“Crear un video pornográfico deepfake de 60 segundos de cualquier persona usando solo una imagen facial clara lleva menos de 25 minutos y el coste es 0″, explica Robinson. Las víctimas, según detalla, son mujeres en el 99% de los casos y en todos los ámbitos.

En este sentido, Alexandra Robinson llama la atención sobre la extensión del problema: “Las personas no famosas son objetivos de la violencia de género en línea. Dondequiera que la tecnología esté disponible, se crea un espacio o una herramienta a través de la cual se puede perpetrar la violencia”. Lo avala con una investigación de 2021 que eleva al 85% las mujeres que, en todo el mundo, han presenciado o experimentado (38%) violencia en línea, principalmente personas racializadas, colectivo LGTBIQ+, políticas, jóvenes, activistas de los derechos humanos y periodistas, según la encuesta > As Equals y Plan International.

En todos los casos, el objetivo es la violencia sexual a partir de cosificar, denigrar, vulnerar el derecho a la propia imagen, intimidar e incluso extorsionar. Pero cuando la víctima es una política se añaden intentos de silenciar y dañar su reputación personal para, al mismo tiempo, según señala Robinson, “erosionar la confianza en las instituciones democráticas al utilizar la desinformación de género para disuadir a las mujeres de participar en la política”.

La polémica “regla 34″ de internet

La página con más recreaciones vejatorias de la mascota católica se ampara en una popular “norma” de internet, llamada “regla 34″: “Si algo existe, se puede pornografiar [recrear pornográficamente]”。これは、ポルノに変換されていないものがあれば、ポルノになるだろうと警告する次の文で補足されています。

リカール・マルティネスプライバシーとデジタルトランスフォーメーションの委員長であり、バレンシア大学の教授でもある彼はこれにきっぱりと反論し、「たとえレクリエーションであると明記されていたとしても、同意なしに画像を性的なものにすることはできません。私たち一人ひとりは、自分自身のイメージ、私生活、名誉に対する権利を持っています。デジタル環境では、これを実践的かつ物質的な観点から理解する必要があります。誰かの画像を許可なく使用して性的な対象にすることは違法行為となります。」

マルティネス氏は、これには屈辱的なコンテンツを含むあらゆる範囲が含まれると考えています。楽しすぎる」と冗談や冗談のつもりで風刺したもの。

この法律専門家は、バチカンのマスコットの性的対象化について次のように明確にしています。「マスコットが知的財産権によって保護されていることは明らかですが、それだけが問題ではありません。この場合、宗教的または社会的な性質を持つ活動の公式の象徴であるマスコットを取り上げ、それを性的に扱い、嘲笑する場合、一方では、知的財産の対象となるイメージを改変することになります。 ;しかしさらに、物質的な観点から見ると、ペットが性的な対象となるだけでなく、それが何を表現するのかも重要になります。この意味で、権利侵害はさらに進んでおり、それが代表するグループの権利範囲に直接影響を及ぼします。」

政治分野における女性の風刺画の場合、自由な世論の形成に貢献する表現の自由の行使と性的対象化の間には区別される領域がある。 「私たちは、彼女の公的なイメージ、名誉、プライバシーを損なう行為、さらには手段的な形で彼女を深刻に傷つけ、悩ませる行為について話しているでしょう。さらに、相乗効果も起こります。マスコットの場合と同様、私たちはその人物やキャラクターだけでなく、それが表すすべてのものを性的に扱っているのです」と彼は警告する。

国連顧問のアレクサンドラ・ロビンソンやジョージ大学教授のアンネ・フランクスと同様に、リカール・マルティネスも「政治と市民の共存に対する壊滅的な影響」を警告している。 「明らかな意図は、世論を二極化し、公共秩序と憲法秩序に変化をもたらすことです。したがって、民主主義にとってシステミックなリスクが生じるさらなる危険性があります」と彼は説明する。

このようにして、 ディープフェイク これらは単なる創作ツールではなく、多くの場合犯罪にもなります。そしてこれを避けるために、マルティネス氏は個人の責任にデジタル教育と性教育を要求するだけでなく、その作成と普及を促進するデジタルサービスを提供するプラットフォームにも責任を負わせ、これらの行為を積極的に分析し回避することが法律で義務付けられている。 。

「インターネット上での女性の性的差別化、性差別的行為の増加、女性は男性に奉仕する純粋な快楽の対象であるという具象化された道具的な概念への回帰がスパイラルに陥っており、これは非常に憂慮すべきことであり、強い反応を引き起こすはずだ。」と彼は結論づけています。

ロビンソンもこれに同意し、「インターネット上での女性に対する暴力を変える方法はいくつかあります。まず、法律と政策を通じて [la experta destaca la eSafety de Australia]デジタル リテラシーとセキュリティの強化にも重点を置くことによって」

また、次のようなツールも指摘しています 停止NCII、 これにより、誰でも同意のない親密な画像を追跡および削除できるようになり、「友人や家族のソーシャルネットワークを含め、これらが追跡できないようにデジタルプロフィールをクリーンアップする」。