生成AIモデルをダメにする新ツールの需要は「想定外」

シカゴ大学の研究者が設計した、アーティストが同意なしに画像に基づいてトレーニングされた人工知能モデルに「毒を盛る」ことを支援する新しい無料ツールが、非常に人気があることが判明した。 公開されてから 1 週間も経たないうちに、このソフトウェアは 250,000 回以上ダウンロードされました。

1月18日発売 ナス科 は現在、Windows および Apple コンピュータに次のサイトからダウンロードできます。 シカゴ大学のウェブサイト。 プロジェクトリーダーのBen Zhao氏は、 VentureBeat へのコメントは、わずか 5 日でダウンロード数のマイルストーンに到達したと述べました。チームは高い熱意を期待していましたが、驚くべき結果でした。 チームはダウンロードの地理的位置を特定しませんでしたが、ソーシャルメディア上の反応は、それが世界中でダウンロードされたことを示しています。

「私はまだそれを過小評価していました」と趙氏は言う。 「その反応は私たちの想像をまったく超えていました。」

Artnet Newsは同大学のコンピュータサイエンス教授Zhao氏にコメントを求めたが、本記事の執筆時点までに返答はなかった。

「ナイトシェイドの需要は桁違いです」とチームはソーシャルメディア上の声明で述べた。 「世界的なリクエストにより、実際にキャンパス ネットワーク リンクが飽和状態になっています。 DOS 攻撃はなく、正規のダウンロードだけです。」

Nightshade は、ピクセル レベルで画像を「シェーディング」してまったく異なって見えるようにすることで機能し、AI モデルによって生成された画像に欠陥が生じ、機械学習アルゴリズムによる画像の表示方法に影響を与えます。 これは Glaze の姉妹製品であり、AI モデルがアート スタイルを誤って認識し、それを誤って複製することを目的としています。 チームは現在、ツールの組み合わせに取り組んでいます。

「アートスタイルが模倣される可能性のあるアーティストの場合は、陰影だけがあり光沢がかかっていない画像を投稿しないことをお勧めします」とチームはウェブサイトに書いている。 「私たちは同じ画像上で Glaze が Nightshade とどのように相互作用するかを理解するためにまだテストを行っています。」

現時点では、アーティストはまず画像に Nightshade を使用し、次に保護のために Glaze を使用するプロセスに従うことが推奨されています。 ただし、このプロセスにより、作品内の目に見えるアーティファクトのレベルが増加する可能性があります。

チームは他にもいくつかのことを提供しました 警告の言葉 ソーシャルメディアでは、「画像を毒として発表するのはおそらく最善のアイデアではなく、目的に反する」という意見も含まれている。 このプログラムは非常にメモリを消費します。

プログラムのユーザー インターフェイスは、見た目は印象的ではありませんが、直感的です。 アーティストは、選択した設定に応じて 30 ～ 180 分で出力がレンダリングされる前に、調整する 2 つの必須設定とオプションの 3 番目の設定を使用して、どの画像にシェーディングを適用するかを簡単に選択できます。

ソーシャルメディア上のアーティストの中には、 すべてを毒することを示唆した ある人は「食事、家族、子犬、子猫に関する毎日の写真、ランダムな自撮り写真、街角で撮った写真」などをオンラインに投稿します。 現在オープンベータ版のソーシャルおよびポートフォリオ アプリケーション Cara などの他のプラットフォーム、 間もなく Nightshade と統合される予定です。

フォローする アートネットニュース Facebookで：


アート界の先を行きたいですか? ニュースレターを購読して、会話を前進させる最新ニュース、目を見張るようなインタビュー、鋭い批判的見解を入手してください。