1764989849
2025-12-05 11:00:00
AI画像 WIREDがレビューした新しい調査によると、ジェネレーターのスタートアップは、そのシステムで作成された100万以上の画像とビデオをオンラインで公開され、誰でもアクセスできるように残した。暴露されたデータの山を発見した研究者によると、画像の「圧倒的多数」にはヌードが含まれており、「成人向けコンテンツが描写されている」もので、中には子供を描いたものや、AIが生成した成人のヌードの体に子供の顔が入れ替わっているように見えるものもあったという。
10月にセキュリティ上の欠陥を発見したセキュリティ研究者のジェレマイア・ファウラー氏は、MagicEditやDreamPalを含む複数のWebサイトがすべて同じ安全でないデータベースを使用しているようだと述べた。ファウラー氏によると、当時、毎日約 10,000 枚の新しい画像がデータベースに追加されていました。人々が画像生成および編集ツールをどのように使用していた可能性があるかを示すもので、これらの画像には、同意なく撮影された可能性のある実在の人物の「未加工の」写真が含まれていました。裸化された、」または顔を他の裸の体に交換しました。
「本当の問題は、無実の人々、特に未成年者が性的なコンテンツを作成するために同意なしに画像を使用されることです」と、暴露されたデータベースの多作のハンターであるファウラーは言う。 ExpressVPN ブログ。ファウラー氏はこれが3度目の設定ミスだと語る AI画像生成データベース 彼は今年、オンラインでアクセスできることを発見したが、それらのすべてには、若者や子供を含む、同意のない露骨な画像が含まれているようだった。
ファウラー氏の発見は、AI 画像生成ツールが悪意を持って露骨な人物画像を作成するために使用され続けている中で得られた。 「nudify」サービスの巨大なエコシステム。 何百万人もの人々が使用 そして 年間何百万ドルも稼ぐは、AI を使用して、写真内の人々 (ほとんどが女性) から衣服を「剥ぎ取り」ます。ソーシャルメディアから盗まれた写真は数回クリックするだけで編集でき、女性に対する悲惨な虐待や嫌がらせにつながる。その間、 レポート AI を使用して児童の性的虐待資料を作成する犯罪者の例。 わいせつな画像の範囲 子どもを含む参加者は過去 1 年間で 2 倍に増加しました。
「私たちはこうした懸念を非常に深刻に受け止めています」と、MagicEdit と DreamPal を運営する DreamX という新興企業の広報担当者は述べています。広報担当者は、データベースにリンクされているSocialBookというインフルエンサーマーケティング会社は「別の法人によって運営されており、他のサイトの運営には関与していない」と述べた。 「これらの企業は創設者やレガシー資産を通じて歴史的な関係を共有していますが、別個の製品ラインで独立して運営されています」と広報担当者は述べています。
「SocialBookはあなたが参照したデータベースに接続しておらず、このストレージを使用しておらず、いかなる時点においてもその運用や管理には関与していません」とSocialBookの広報担当者は『WIRED』に語った。 「参照された画像は、SocialBook のシステムによって生成、処理、保存されたものではありません。SocialBook は独立して動作し、記載されているインフラストラクチャにおいて何の役割も担っていません。」
#AI画像生成スタートアップの公開データベースにより流出した膨大なヌード画像