ディープフェイク「Nudify」テクノロジーは闇を増し、より危険に

ウェブサイトを開く 1 つの露骨なディープフェイクの ジェネレータ そして恐怖のメニューが表示されます。わずか数回クリックするだけで、1 枚の写真を 8 秒間の露骨なビデオクリップに変換し、女性をリアルな生々しい性的状況に挿入することができます。ウェブサイトには「当社の高度な AI テクノロジーを使用して、どんな写真もヌードバージョンに変換します」と書かれています。

潜在的な虐待の選択肢は広範囲に及びます。ウェブサイト上の 65 個のビデオ「テンプレート」の中には、さまざまな「脱いでいる」ビデオでは、描かれている女性が服を脱ぎますが、「ファック・マシン・イマラチオ」と名付けられた露骨なビデオシーンやさまざまな「精液」ビデオもあります。各ビデオの生成には少額の料金がかかりますが、AI で生成された音声を追加するとさらに費用がかかります。

『WIRED』がさらなる暴露を制限するためにこのウェブサイトに名前を付けているわけではないが、このウェブサイトには、AIによる変換に同意した写真のみをアップロードするべきだという警告が含まれている。これを強制するためのチェックがあるかどうかは不明です。

グロクイーロン・マスクの会社が作成したチャットボットは、何千もの非同意のチャットボットを作成するために使用されています。 「服を脱ぐ」または「裸になる」 ビキニ画像—さらに詳しく 工業化と正常化 デジタルセクシャルハラスメントのプロセス。しかし、それは最も目に見えるものに過ぎず、最も明白なものとは程遠いものです。長年にわたり、数十の Web サイト、ボット、アプリで構成されるディープフェイク エコシステムが成長しており、画像ベースの性的虐待を自動化することがこれまでより簡単になりました。 児童性的虐待資料 (CSAM)。この「裸化」エコシステムと、それが女性と少女に引き起こす害は、多くの人々が理解しているよりも洗練されている可能性があります。

「これはもはや、非常に粗末な合成ストリップではありません」と、この技術を追跡してきたディープフェイクの専門家ヘンリー・アジダーは言う 半年以上にわたって。 「私たちは、実際に生成されるもののより高度な現実性について話しているだけでなく、より広範囲の機能についても話しています。」これらのサービスを組み合わせると、おそらく 年間何百万ドルも稼ぐ。 「これは社会的な惨劇であり、私たちが目にしているこの AI 革命と合成メディア革命の最も最悪で最も暗い部分の 1 つです」と彼は言います。

『WIRED』は過去 1 年間にわたり、複数の露骨なディープフェイク サービスがどのように新機能を導入し、有害な動画作成を提供するために急速に拡大してきたかを追跡してきました。 Image-to-Video モデルでは通常、短いクリップを生成するために 1 枚の写真だけが必要になります。 WIREDが行った50以上の「ディープフェイク」ウェブサイトの調査によると、おそらく月間数百万回の閲覧があり、ほぼすべてのウェブサイトが露骨で高品質なビデオ生成を提供しており、女性が巻き込まれる可能性のある性的シナリオが数十もリストアップされていることが多い。

一方、テレグラムでは、数十の性的ディープフェイクチャンネルやボットが、さまざまな性的ポーズや体位などの新機能やソフトウェアアップデートを定期的にリリースしている。たとえば、昨年 6 月、あるディープフェイク サービスは「セックス モード」を宣伝し、「さまざまな服、お気に入りのポーズ、年齢、その他の設定を試してください」というメッセージとともに宣伝しました。別の投稿者は、画像とビデオの「より多くのスタイル」が間もなく登場し、ユーザーはAIシステムへのカスタムプロンプトを使用して「独自の説明で思い描いたものを正確に作成」できると投稿しました。

「単に『誰かの服を脱がせたい』というだけではありません。 「これのさまざまなファンタジーバージョンがここにある」というようなものです。色々なポーズですね。それは性的体位の違いです」と独立アナリストのサンティアゴ・ラカトス氏は言う。 インジケータ 「nudify」サービスが大手テクノロジー企業のインフラストラクチャをどのように使用することが多いかを調査しました。 その過程で大金を稼いだ可能性が高い。 「誰かを作ることができるバージョンがあります [appear] 妊娠中です」とラカトスさんは言う。

WIREDのレビューによると、Telegram上の39のディープフェイク作成ボットとチャンネルに140万以上のアカウントが登録されていることが判明した。 『WIRED』がこのサービスについてテレグラムに問い合わせたところ、同社は少なくとも32のディープフェイクツールを削除した。 「同意のないポルノ（ディープフェイクやその作成に使用されるツールを含む）は、テレグラムの法律で厳しく禁止されています。 利用規約」とテレグラムの広報担当者は述べ、コンテンツが検出された場合には削除しており、昨年はポリシーに違反した4,400万件のコンテンツを削除したと付け加えた。