スタジオジブリAIアートトレンド：変装したプライバシーの悪夢、専門家は警告する

人目を引く結果、ウイルスフィルター、速い相互作用は、軽く感じるエクスペリエンスを作成しますが、多くの場合、プライバシーのリスクが隠されています [File]
|写真クレジット：AP

ネチズンは、AIツールを使用して個人写真をスタジオジブリスタイルのアートに変換するというウイルスの傾向に夢中になっていますが、専門家は、この傾向がカジュアルな共有が予期しないプライバシー違反とデータ誤用につながる可能性のある暗い現実を隠すと警告しています。

サイバーセキュリティの専門家は、これらのツールは無害に見えるかもしれませんが、サービスの条件は曖昧であり、ユーザー写真が処理された後に何が起こるかについて疑問を投げかけることが多いことに注意してください。

この傾向は、OpenaiがGPT-4Oモデルアップデートを開始したときに始まりました。これにより、ユーザーは日本のアニメーションスタジオであるStudio Ghibliの芸術スタイルで個人的な画像を再現できます。

多くのプラットフォームは、写真を保存しない、または1回の使用後にそれらを削除しないと言っていますが、それらのほとんどは、「削除」が実際に何を意味するかを明確に説明していません。

写真には、単なる顔のデータ以上のものが含まれています。多くの場合、場所の座標、タイムスタンプ、デバイスの詳細などの隠されたメタデータが含まれています。これらはすべて、個人情報を静かに明らかにすることができます。これらのAIツールは、ニューラルスタイル転送（NST）アルゴリズムを活用して、クイックヒールテクノロジーのCEO Vishal Salviを説明しています。

これらのアルゴリズムは、アップロードされた写真の芸術的なスタイルからコンテンツを分離して、ユーザーの画像を参照アートワークとブレンドします。

このプロセスは無害に見えますが、モデルの反転攻撃のような脆弱性は、敵がジブリ画像から元の写真を再構築する可能性があるため、重大なリスクをもたらす可能性があると彼は述べました。

「企業が写真を保存しないと主張していても、データの断片はまだシステムに到達する可能性があります。アップロードされた画像は、監視や広告のためのAIモデルのトレーニングなど、意図しない使用のために間違いなく再利用できます」とSalviは警告しました。

これらのツールが設計されている方法により、McAfeeのPratim Mukherjee氏によると、あなたが本当に同意していることを簡単に見落とすことができます。

人目を引く結果、ウイルスフィルター、速い相互作用は、軽く感じるエクスペリエンスを作成しますが、多くの場合、プライバシーのリスクが隠されています。

「カメラロールのように個人的なものへのアクセスが再考せずに付与される場合、それは必ずしも偶然ではありません。これらのプラットフォームは、バックグラウンドで静かにデータを収集しながら、迅速なエンゲージメントを促進するために構築されることがよくあります。

「そこには懸念があります。創造性がフックになりますが、正規化されているのは、ユーザーが完全に理解していないデータ共有のパターンです。そして、そのデータが収益化を燃料として燃料化すると、楽しみと搾取の境界線がぼやけます。

データ侵害のリスクは大きく迫っており、専門家は盗まれたユーザーの写真がディープフェイクの作成とアイデンティティ詐欺を促進できると警告しています。

Kaspersky AI Technology Research CenterのグループマネージャーであるVladislav Tushkanovは、一部の企業は収集および保存するデータの安全性とセキュリティを保証しているが、保護が防弾であることを意味しないと述べています。

「技術的な問題や悪意のあるアクティビティにより、データが漏れたり、公開されたり、専門の地下のウェブサイトで販売されたりする可能性があります。さらに、資格情報またはユーザーデバイスが侵害された場合、サービスへのアクセスに使用されるアカウントは、サービスに違反する可能性があります」と彼は言いました。

彼は、Dark Webに関する多くのアカウントとハッカーフォーラムが販売のために盗まれたユーザーアカウントデータを提供していると述べました。

「難しいのは、パスワードをリセットできる方法で顔を変えることはできないということです。写真がそこにあると、そこにある」とMukherjeeは警告しました。

さらに、多くのプラットフォームは、データの使用条項を長期にわたるサービス条項に埋め、ユーザーがデータの処理方法を理解することを困難にしています。 「これらのポリシーはすべてサービス条件の範囲内に埋もれています。それが問題です。これらの条件は、ほとんどの人が本当に理解するにはあいまいすぎるか、長すぎます。

「あなたの画像がどのように使用されるか、またはそれが削除されているかどうかが明確でない場合、楽しみが本当にリスクに見合うだけの価値があるかどうかを尋ねる価値があります」とMukherjee氏は言います。

一部の国は、より明確な開示を要求するための措置を講じていますが、一部の国はまだ考えています。これらのリスクを緩和するために、専門家は、AIアプリと個人写真を共有するときにユーザーが注意を払うことをお勧めします。

Tushkanovは、強力でユニークなパスワードを使用し、2要素認証を可能にすること、潜在的なフィッシングWebサイトに警戒するなど、「標準的なセキュリティプラクティスと少し常識を組み合わせる」ようにアドバイスします。

Salviは、特殊なツールを使用して、写真から隠されたメタデータを剥がす前に、アップロードする前に提案することを提案しています。ポリシーの面で、彼は、規制当局がコンプライアンスのギャップを閉じるために差別的なプライバシー認証と標準化された監査を義務付けることを提案しています。

Mukherjeeは、政府がデータの使用に関する簡素化された前払いの開示を義務付けることを求めています。