AI で生成されたコンテンツよりも実際のコンテンツを強調表示するのが簡単

AI とソーシャル ネットワーク上の誤った情報に関する議論は、しばしば終わりのない競争のように感じられます。一方では、プラットフォームと規制当局が合成コンテンツを特定してフラグを立てようとしていますが、他方では、アルゴリズムが急速に進化しており、現実のコンテンツとデジタルで構築されたコンテンツとの間の境界線がますます曖昧になっています。この薄暗い風景の中で、彼の上司は インスタグラム、 アダム・モセリは、一般的な論理を一見逆転させるような命題を提示するようになります。偽物を追うのではなく、本物を認定する時期が来たのかもしれません。

Threads への最近の投稿で、Mosseri はオンラインの信頼性の将来について明らかにし、現在の検出戦略は次のとおりであると主張しました。 AI コンテンツは長期的には失敗する運命にあります。彼のロジックは驚くほどシンプルですが、技術的にも健全です。画像やビデオの制作ツールが向上するにつれて、コンピュータによって作成されたものとカメラによってキャプチャされたものを正確に区別するシステムの能力は低下します。テクノロジーが現実をより完璧に模倣するほど、検出ツールの信頼性はさらに低くなります。

「魔女狩り」の行き詰まり

彼女の業界 テクノロジー は、AI スニッフィング アルゴリズムの開発に巨額の投資を行ってきました。ただし、モッセリ氏は、このアプローチには有効期限があると警告しています。今日のプラットフォームは合成素材をうまく検出し、フラグを立てますが、戦いは均等ではありません。 AIがその「警察官」を出し抜き、外部からの助けがなければ分離が事実上不可能になるのは時間の問題だ。

Instagramが提案するパラダイムシフトはまさにここにある。何かが偽物であることを証明しようとしてリソースを無駄にするよりも、このプロセスはしばしばエラーや欠落につながりますが、解決策は本物であることを証明することにあります。 」偽物より本物のメディアのデジタル フットプリントを作成する方が現実的です」とモッセリ氏は言い、新しい信頼のアーキテクチャへの道を示します。

暗号署名: イメージのアイデンティティ

しかし、これは実際にどのように実装できるのでしょうか?答えはソーシャル メディア ソフトウェアだけでなく、 ハードウェア。 InstagramのCEOが語るビジョンは、カメラやスマートフォンのメーカーとの協力を前提としている。このアイデアは、捕獲の瞬間から「保管の連鎖」を構築することです。

カメラやスマートフォンのシャッターを押すたびに、デバイスがファイルに暗号的に「署名」することを想像してください。このデジタル署名は信頼性の証明書として機能し、画像またはビデオに送信されるまで添付されます。 インターネット。このコンテンツが Instagram またはその他のプラットフォームにアップロードされると、システムは署名を認識し、自動的に「信頼性のサイン」を付与します。

「フィンガープリンティング」としても知られるこのアプローチは、立証責任を転換します。動画がディープフェイク製品かどうかを疑う必要はもうありません。正規のダウンロードであることの証明が付いていなければ、ユーザーは事前に疑念を抱くことになります。

デジタル分野における信頼の重要性

インターネットには、多くの人が「AI スロップ」と呼ぶもの、つまり、方向感覚を失わせたり、クリックを集めたりすることを目的とした、アルゴリズムによって大量生産された低品質のコンテンツが氾濫しているため、このようなソリューションの必要性は不可欠になっています。この環境では、クリエイターの信頼性が最も価値のある通貨になります。

モッセリ氏は、本物のコンテンツにマークを付けることは単なる技術的な問題ではなく、透明性と広報の問題だと指摘する。誰が何を投稿したかに関する信頼シグナルを強化することで、ユーザーは誰を信頼するかを決定できるようになります。これはAIを検閲することではなく、人間の創造物と本当の証言を強調することです。

もちろん、このようなモデルへの移行には課題がないわけではありません。標準に関する普遍的な合意（大手テクノロジー企業によってすでに議論されている C2PA 標準など）が必要であり、写真やモバイルの大手による採用も必要です。しかし、インスタグラムのトップのような影響力のある人物に対する国民の支持は、この方向に新たな推進力を与えている。

要約すると、モッセリの提案は苦い真実を浮き彫りにしています。 今日の武器を使ったフェイクニュースとの戦いはおそらく負けるだろう。 「嘘探し」からの戦略的撤退と「真実証明」の背後での強化が、情報の信頼を守る唯一の実行可能な解決策であるように思われる。本物と偽物の区別が永久に不可能になる前に、業界が間に合うように調整できるかどうかはまだ分からない。