ディープフェイクポルノ危機が韓国の学校にも影響

「私は愕然とし、とても孤独を感じました」とヒジンさんはBBCに語った。

その2日前、韓国人ジャーナリストのコ・ナリンは自身のキャリア最大のスクープとなる内容を発表していた。警察は最近、国内のトップ大学2校で偽ポルノ組織を捜査しており、コー氏は他にも存在するはずだと確信していた。

彼はソーシャル メディアを検索し始め、メッセージ アプリのテレグラムで数十のチャット グループを発見しました。そこではユーザーが知り合いの女性の写真を共有し、人工知能ソフトウェアを使用してそれらを数秒で偽のポルノ画像に変換していました。

「人々は毎分、知り合いの女の子の写真をアップロードし、変身してもらうよう求めていました。 ディープフェイクとコー氏は述べた。

コーさんは、これらのグループが大学生だけをターゲットにしていないことに気づきました。特定の研究所や学校専用の部屋もありました。特定の生徒の画像を使用して多くのコンテンツが作成された場合、その生徒に自分の部屋が割り当てられることもあります。 「屈辱部屋」と呼ばれるこの仮想空間 または「友達の友達の部屋」には、通常、厳しいアクセス条件が適用されます。

ハンギョレ新聞のコ氏の報道は韓国に衝撃を与えた。月曜日、警察は、テレグラムのロシア人創設者をアプリに関連した罪で起訴したフランス当局の先導に従い、テレグラムに対する捜査を開始することを検討していると発表した。政府は関係者にさらに厳しい罰則を科すと約束しており、大統領は若者がより良い教育を受けられるよう呼び掛けている。

BBCに提供した声明の中で、テレグラムは「違法なポルノを含むプラットフォーム上の有害なコンテンツと積極的に戦っている」と述べている。

BBC は、これらのチャットのいくつかについての説明を確認しました。ある人は、名前、年齢、住んでいる地域とともに、誰かの写真を4枚以上投稿するよう会員に求めている。

「そのプロセスがどれほど体系的で組織的だったかに驚きました。私が発見した中で最も恐ろしいのは、2,000 人以上のメンバーがいる学校の未成年者向けのグループでした。」とコー氏は語った。

コー氏の記事の出版から数日後、女性の権利活動家らもテレグラムをトロールし、手掛かりを追跡し始めた。

その週の終わりに、 500以上の学校や大学が標的として特定された。影響を受けた人の実際の数はまだ判明していないが、多くは韓国の同意年齢である16歳未満であると考えられている。容疑者の多くは十代の若者だ。

ヒジンさんは、危機の大きさを知って、どれだけの人に自分の姿を見られるか心配になり、不安がさらに大きくなったと語った。 ディープフェイク。最初、彼女は自分を責めていました。 「自分の写真をソーシャルメディアに投稿したためにこんなことが起こったのなら、もっと気をつけるべきだったのではないかと考えずにはいられませんでした。」

それ以来、全国で何十人もの女性や十代の若者たちが、次に悪用されることを恐れてソーシャルメディアから写真を削除したり、アカウントを無効にしたりしている。

「私たちは何も悪いことをしていないのに、自分たちの行動やソーシャルメディアの使用を検閲しなければならないことにイライラし、怒りを感じています」とクラスメートが標的となった大学生のアウンさんは語った。

アウンさんは、大学の被害者が警察から、犯人を捕まえるのは難しいため、わざわざ追及しないように言われたと説明した。ちなみに、「写真は偽物だった」ので、「実際には犯罪ではありませんでした」。

このスキャンダルの中心にあるのは Telegram メッセージング アプリケーションです。このアプリは「軽いタッチ」のモデレーションスタンスをとっていることで知られており、コンテンツ、特にグループを十分に取り締まっていないと長年非難されてきた。

このため、犯罪行為が蔓延する特権的な空間となっています。

先週、政治家と警察は強力に対応し、これらの犯罪を捜査し、加害者に裁判を起こすと約束した。

月曜日に、 ソウル警察庁は、児童の偽ポルノ画像の配布にテレグラムが関与したとして捜査すると発表した。

このアプリの創設者であるパベル・ドゥロフ氏は先週、児童ポルノの共有を許可するなど、アプリに関連したいくつかの犯罪に加担した罪でフランスで起訴された。

しかし 女性の権利活動家らがテレグラムで性的虐待を許可したとして韓国当局を非難 韓国は以前にもこの危機に直面しているため、あまりにも長い間野放しに煮詰めるのは危険だ。

2019年、セックスネットワークがテレグラムを利用して、女性と子供たちに自分たちの露骨な性的画像を作成し共有するよう強要していたことが明らかになった。

その後、警察はテレグラムに捜査への協力を求めたが、アプリはテレグラムの7件の要請を無視した。首謀者には40年以上の懲役刑が言い渡されたが、検閲問題への懸念からプラットフォームに対する措置は講じられなかった。

「彼らは主要な関係者を有罪判決したが、状況を無視した。これが状況を悪化させたと思う」とコ氏は語った。

ジャーナリズムの学生だった2019年にN番部屋のセックスリングを暴露したパク・ジヒョンは、デジタル性犯罪の被害者のための政治的代弁者となった。ディープフェイクスキャンダルが勃発して以来、生徒や保護者から一日に何度も泣きながら電話がかかってきたという。

「彼らはソーシャルメディアで共有されたリストに自分の学校が載っているのを見て、恐怖を感じています。」

パク氏は、韓国政府に対しアプリを規制、あるいは禁止するよう求める声を主導してきた。 「もしこれらのテクノロジー企業が法執行機関と協力しなければ、 国家は国民を守るためにそれらを規制しなければならない」と彼は述べた。

この最新の危機が勃発する前に、韓国のオンライン性的虐待被害者擁護センターはすでに、未成年のポルノ被害者の数が急増していることに気づいていた。 ディープフェイク。

2023年には86人の10代の被害者にカウンセリングを行った。今年の最初の8か月間で、その数は238人に増加した。先週だけで、さらに64人の10代の被害者が名乗り出ている。

センター責任者の一人、パク・ソンヘ氏はこう断言する。 先週、彼のスタッフは集中砲火を受け、精力的に働いていた。 「われわれにとって、これは戦争状態のような大規模な緊急事態だった」と同氏は語った。

「最新のテクノロジーで ディープフェイク、今は以前よりも画像がたくさんあり、今後増えるのではないかと心配しています。

同センターは被害者へのカウンセリングに加え、有害なコンテンツを追跡し、オンライン プラットフォームと協力して削除している。 Park氏は、場合によってはTelegramが被害者の要請に応じてコンテンツを削除したと説明する。 「ですから、不可能ではありません」と彼は指摘した。

Telegramは声明の中で、BBCに対し、モデレータは「アプリケーションの公開部分を積極的に監視し、人工知能ツールを使用し、ユーザーからの報告を受け付けて、Telegramの利用規約に違反する1日に何百万ものコンテンツを削除している」と説明した。

女性権利団体は、新しい人工知能技術が被害者の搾取を促進していることは認めているものの、これが韓国で起きている最新の女性蔑視であると主張している。

まず、女性たちはオンラインで暴言の波にさらされた。その後、公衆トイレや更衣室でこっそり撮影されるスパイカメラが流行した。

「これらすべての根本は構造的な性差別であり、解決策は男女平等です」と84の女性団体が署名した声明には述べられている。

これは、構造的な性差別の存在を否定し、被害者支援団体への資金提供を削減し、政府の男女平等部を廃止しようとしているユン・ソクヨル大統領に対する直接の批判である。

若い性犯罪者を治療しているイ・ミョンファ氏も、性犯罪の発生はあったものの、次のように同意した。 ディープフェイク 突然のように思えるかもしれませんが、それは長い間水面下に潜んでいました。

「十代の若者たちにとって、 ディープフェイク アハソウル青少年文化センターを運営する顧問は、「彼らは文化の一部となっており、ゲームや冗談として捉えている」と語った。

リー氏は、若者の教育が不可欠であると述べた。同氏は、加害者が自分の悪いことを説明されると、何が性的虐待とみなされるのかをより認識し、再犯しないことを示す研究があると保証した。

それにもかかわらず、 政府は虚偽の画像を作成し共有した者に対する罰則を強化すると発表した。それを見た者にも罰を与えます。

著者らを処罰しなかったことに対して批判が集まったためだ。問題の 1 つは、犯罪者のほとんどが青年であり、通常は少年法廷で裁かれ、軽い刑罰で裁かれることです。

チャット ルームが発見されて以来、多くのチャット ルームが閉鎖されましたが、ほぼ確実に新しいチャット ルームがその代わりとなるでしょう。この記事を取材するジャーナリストのために、すでに屈辱部屋が設けられている。このニュースを伝えたコーさんは、そのせいで夜も眠れなくなったと語った。 「私は彼らが私の写真を投稿していないかどうかを確認するために部屋を見回し続けています」と彼は説明します。

この不安は韓国のほぼすべての10代の少女と若い女性に広がっている。大学生のアウンさんは、そのせいで男性の知人に不信感を抱くようになったと語った。

「今となっては、彼らが私の知らないところで、私の陰でこれらの犯罪を犯していないと確信することはできません」と彼女は言う。 「私は人と関わるすべてにおいて過剰に警戒するようになりました。これは決して良いことではありません。」

Hosu Lee氏とSuhnwook Lee氏による追加レポート

アプリでも通知を受け取ることができることを忘れないでください。最新バージョンをダウンロードしてアクティベートしてください。