1718315860
2024-06-13 21:15:15
今週初めに発表されたNGOヒューマン・ライツ・ウォッチの調査によると、人工知能の訓練のためにブラジルの子供たちの画像170枚以上と個人情報が収集されたという。
子どもの写真が本人の同意なく人工知能のために利用されている。これはNGOの最近の報告書で指摘された悲惨な事実である。 ヒューマン・ライツ・ウォッチ中継者 アメリカのメディアWiredNGOの調査によると、ブラジルの子供たちの画像と個人情報170枚以上が本人の同意なく収集された。 「このコンテンツの0.0001%」 ヒューマン・ライツ・ウォッチの警告。研究者らは、このデータと写真へのリンクはLAION-5Bに含まれていたと述べている。このデータセットは最近まで、人工知能モデルを開発する新興企業のトレーニング基盤となっていた。
LAION-5Bは、ウェブからデータを抽出して作成され、研究者に提供されるデータリポジトリであるCommon Crawlに基づいています。Wiredによると、このデータベースには50億以上の画像とキャプションが含まれます。しかし、これは非常に人気のあるAIモデルのトレーニングに何度も使用されていました。安定拡散や 安定性AIユーザーからの簡単な書面によるリクエストから偽の写真を作成する 2 つのツール。
ママのブログからの画像
「彼らのプライバシーは、写真が抽出され、これらのデータセットに取り込まれた瞬間から侵害されます。」 これらの画像を発見したヒューマン・ライツ・ウォッチの子どもの権利とテクノロジー研究員、ヘ・ジョン・ハン氏はこう語った。 「これらのAIツールはこのデータに基づいてトレーニングされ、子供たちのリアルな画像を作成できるようになります。」彼女はそう明記する。 「この技術は、ネット上に自分の写真や動画を投稿している子どもが危険にさらされるような形で開発されている。なぜなら、悪意のある人物がその写真を入手し、これらのツールを使って好きなように操作できるからだ。」
研究者が見つけた子供の画像は、主に母親のブログ、個人のブログ、母性や子育てに関するフォーラムからのものだった。さらに心配なことに、これらの画像の中には、 ユーチューブの動画、 視聴回数は少ないですが、愛する人と共有するためにアップロードされています。 「これらの画像のほとんどは、逆画像検索ではオンラインで見つけることができませんでした」とハン・ヘジョン氏は強調する。12月にはスタンフォード大学の研究者らも、AIトレーニングデータ LAION-5B によって収集されたデータには児童性的虐待資料が含まれていました。
LAIONの広報担当者ネイト・タイラー氏は対策を講じたと断言した。 「LAION-5Bは、データセット内にウェブ上の違法コンテンツへのリンクが見つかったというスタンフォード大学の報告に応じて削除されました。」 同氏は、同組織は現在、 「インターネットウォッチ財団」カナダ児童保護センター、スタンフォード大学、ヒューマン・ライツ・ウォッチに協力し、違法コンテンツに関する既知の言及をすべて削除するよう要請した。
#人工知能のスタートアップ企業が子供の写真を使って秘密裏にトレーニング