画像が AI によって作成されたかどうかを Gemini が知らせます

Google はエコシステムを大幅に強化しています ジェミニ、画像が人工知能によって作成または処理されたかどうかを検出するという、偽情報の時代に特に重要になることが期待される機能が追加されました。この新機能はすでに Gemini アプリに登場していますが、現時点では重要な制限があります。認識できるのは独自の SynthID ウォーターマークを持つ画像、つまり Google の AI ツールによって生成されたコンテンツのみです。

この機能の背後にあるテクノロジーは、 シンセIDは、AI が生成したすべての画像に埋め込まれた目に見えない電子透かしとして 2023 年に導入されました。 SynthID は、画像が変更、圧縮、編集されても変化しない信号を残します。これにより、Gemini は画像がそのツールによっていつ作成されたかを正確に識別できるようになります。 グーグル、ますます複雑化する状況に透明性のレイヤーを提供します。

アプリに統合される前に、Google はテストしていました シンセID それを通して SynthID 検出器、ジャーナリスト、研究者、メディア専門家がアクセスできるオンライン検証ポータル。このツールは、AI によって生成されたさまざまな形式のコンテンツを検出し、隠された透かしが含まれている可能性が最も高い画像の部分を強調表示することができました。 Gemini への統合により、基本的に同じ検出機能がエンド ユーザーに直接提供されます。

実際の部分では、認識は非常に簡単です。ユーザーは画像をアプリケーションにアップロードし、「Google AI によって作成されたものですか?」と尋ねることができます。ジェミニはそれを調べます SynthID ウォーターマーク そして、その推論機能を利用して、「はい」または「いいえ」だけでなく、画像に関する追加のコンテキストも含めて回答します。今後数か月以内に、Google 計画しています クローラーをオーディオやビデオなどの他のタイプのコンテンツに拡張し、SynthID を Google 検索などのより多くの製品に統合します。

ただし、AI が生成したコンテンツの検出をめぐる議論は Google に限定されません。欺瞞的な画像とディープフェイクの台頭により、多くの大企業が動員されている テクノロジー。 Google は、Adobe、OpenAI、Meta、Microsoft などの企業が参加するマルチメンバー アライアンスである C2PA に参加します。 Google 独自のシステムである SynthID とは異なり、C2PA はオープン スタンダードとして機能し、画像、ビデオ、またはオーディオ内に安全なメタデータを埋め込み、ソースの特定に役立ちます。

実際、Adobe はすでに C2PA に基づいた独自の透かしツールを開発しており、一方 Google は、同社の新しい画像制作モデルである Nano Banana Pro が、制作されたすべてのファイルに C2PA メタデータを埋め込むことを発表しました。このサポートは Vertex AI や Google Ads などのプラットフォームにも拡張され、同社がデジタル コンテンツのトレーサビリティに対するより包括的なアプローチに向かっていることを示しています。

同時に、Google はすでに YouTube、検索、Pixel、写真などのサービスに C2PA 認証情報を実装しています。次のステップは、検証ツール内で SynthID と C2PA を組み合わせて、ユーザーがエコシステム内で作成されたとは限らないコンテンツの出所を検証できるようにすることです。これが説明どおりに実装されれば、Gemini と他の Google 製品は将来、自社のデジタル シールだけでなく、他社の認証も検出できるようになります。