新しい研究では、AI がオンラインで信頼できるものをどのように形成するかを調査しています。 Microsoft シグナル ブログ

愛らしい赤ちゃんが妙に大人っぽいことを言っている動画、公人らしからぬ発言、現実離れした自然の写真など、ソーシャル フィードでよく目にします。 AI の時代では、百聞は一見に如かずです。

ディープフェイクはニュース、選挙、ブランド、日常のやりとりに対する信頼を脅かし、何が本物なのか疑問を抱かせるようになります。何が本物なのか、それとも操作されたものなのかを判断することは、マイクロソフトの「メディアの完全性と認証: ステータス、方向性、および将来この研究では、今日の認証方法を評価して、その制限をより深く理解し、制限を強化する潜在的な方法を探索し、人々が消費するオンライン コンテンツについて十分な情報に基づいた意思決定を行えるように支援します。

著者らは、単一のソリューションだけではデジタル詐欺を防ぐことはできないと結論付けています。などの方法 来歴、透かしとデジタル フィンガープリントは、コンテンツの作成者、使用されたツール、コンテンツが変更されているかどうかなどの有用な情報を提供します。

メディアの起源や歴史などの情報が不足していたり、情報の質が低かったり誤解を招くものであったりすると、人々はメディアに騙される可能性があります。マイクロソフトの最高科学責任者室の科学技術政策担当ディレクター、ジェシカ・ヤング氏によると、このレポートの目的は、一般の人々が信頼できる、より信頼性の高い出所情報を提供するためのロードマップを提供することだという。

ディープフェイクの破壊性が増し、米国を含むさまざまな国で来歴法が今年後半に人々のコンテンツ認証を支援するさらに多くの方法を導入する中、人々が高品質のコンテンツ指標を認識できるよう支援することの重要性はますます高まっています。

メディアの来歴は何年にもわたって進化してきました。 マイクロソフトのテクノロジーの先駆者 2019年に共同設立 コンテンツの出所と信頼性に関する連合 (C2PA) 2021 年にメディアの信頼性を標準化します。

研究の共同議長であるヤング氏は、それが何を意味するのかについてさらに詳しく説明しています。

研究のきっかけは何ですか?

「動機は 2 つありました」とヤング氏は言います。 「1つ目は、私たちが今いる瞬間を認識することです。生成AI機能がますます強力になっていることはわかっています。カメラで撮影されたコンテンツと洗練されたディープフェイクなど、本物のコンテンツを区別することはますます困難になってきています。その結果、コンテンツがAIによって生成または操作されたかどうかを開示および検証するために存在するテクノロジーを使用することへの関心と要件は現在非常に高まっています。」

「その瞬間はますます高まっており、私たちはこれらのテクノロジーがどのように使用され、どのように理解されているかに基づいて、最終的に害よりも利益をもたらすように支援したいと考えています。」

ヤング氏は、この文書は、クリエイター、技術者、政策立案者などを含む、メディアの完全性と認証エコシステムのより広範な情報を提供し、現在何が可能で何が不可能で、将来に向けてそれをどのように構築できるかを理解することを目的としていると付け加えた。

研究によって何が達成され、何を学びましたか?

この報告書は、メディアの信頼性を高めるための道筋を概説しています。著者らは、さまざまなメディア完全性手法の弱点を軽減するために、「高信頼性認証」と呼ぶ方向を提案しています。

C2PAの出所を目に見えない透かしと結びつけることで、メディアの出所について比較的高い信頼をもたらすことができる、と彼女は言う。

同氏は、このレポートには多くの注意点も含まれており、重要なセキュリティ機能が欠けていることが多いカメラなどの従来のオフラインデバイスの出所は、改ざんが容易なため信頼性が低くなる可能性があることなどを指摘した。

すべての攻撃を阻止したり、特定のプラットフォームによる来歴シグナルの剥奪を阻止したりすることは不可能であるため、課題は「強力なセキュリティが組み込まれた最も信頼性の高い指標を明らかにする方法を見つけ出すことです。そして、必要に応じて、回復を可能にしたり手動のデジタルフォレンジック作業をサポートしたりする追加の方法で指標を強化する方法を見つけ出すことです。」とヤング氏は言います。

この研究は他の研究とどう違うのでしょうか?

ヤング氏は、彼らの研究では、3 つの検証方法について 2 つの「検討されていない」考え方を調査したと述べています。彼らは最初のものを社会技術的攻撃と定義しており、出所情報やメディア自体が操作されて、検証プロセス中に本物のコンテンツが合成のように見えたり、偽のコンテンツが本物のように見えたりする可能性があります。

「観客の 80% がホーム チームを応援している世界的なスポーツ イベントの本物の画像が見られると想像してください」と彼女は言います。 「アウェーチームは、『おい、違う、あれは全部偽の観客だ』と主張してオンラインで議論を繰り広げている。誰かが写真の隅にいる人物に小さな、重要ではない編集を加えた可能性があり、現在の手法では、たとえ群衆の規模が本物であったとしても、それが AI によって生成されたものとみなされます。信頼性をサポートするはずのこれらの方法は、現在、本物の物語ではなく、偽の物語を強化しています。

「つまり、さまざまなバリデーターがどのように機能するかを知っていれば、非常に微妙な変更を加えたとしても、一般の人々が見る結果を操作して、コンテンツに関して人々を騙すことができます」と彼女は言います。 2 番目の重要なトピックは、信頼性にも対処しながら、コンテンツ認証情報の耐久性を高めるという C2PA の取り組みに基づいています。これがこの研究が特に斬新な点である、とヤング氏は言う。 「私たちは、高セキュリティ システムから安全性の低いオフライン デバイスに至るまで、さまざまな環境にわたって出所情報をどのように追加および維持できるか、そしてそれが信頼性にとって何を意味するのかを検討しました。」

デジタル メディアの検証がこれほど難しいのはなぜですか?

メディアの認証は複雑です。なぜなら、万能のソリューションはないからです、とヤング氏は言います。

「さまざまなフォーマットがあり、それぞれに含まれる信号の制限やトレードオフが異なります」と彼女は説明します。 「それが画像、音声、ビデオであっても、まったく異なる課題を抱えているテキストは言うまでもなく、そこにどれだけ強力なソリューションを適用できるかについても考えてください。」

ヤング氏は、どのレベルの透明性が適切であるかについても、さまざまな要件や意見があると述べています。場合によっては、ユーザーがメディアのデジタル出所に自分の個人情報が含まれることを望まない場合もあれば、クリエイターやアーティストが帰属を求め、自分の情報が含まれるようにオプトインすることを望む場合もあります。

「つまり、その出所情報に何が含まれるかについては、さまざまな要件や考慮事項があるのです」と彼女は言います。 「そして、セキュリティの分野と同様に、絶対確実なソリューションはありません。したがって、すべての方法は補完的ですが、それぞれに固有の制限があります。」

ここからどこへ行くのですか？

AI で作成または編集されたコンテンツが一般的になるにつれて、本物のコンテンツの出所を安全に確認することがますます重要になっているとヤング氏は言います。出版社、著名人、政府、企業には、共有するコンテンツの信頼性を証明する十分な理由があります。たとえば、報道機関がイベントの写真を撮影する場合、それらの画像に安全な出所情報を結び付けることで、コンテンツが信頼できるものであることを視聴者に示すことができます。

「政府機関も、政府の公式文書やメディアが公益問題に関する信頼できる情報であることを知って、国民に関心を持っています」とヤング氏は言う。

AIによるメディアへの改変が正当な目的で「ますます一般的」になるにつれ、安全な出所が重要なコンテキストを提供し、平均的な読者や視聴者がそのコンテンツを偽物や欺瞞として単純に無視することを防ぐことができると彼女は付け加えた。

「業界にとっても規制当局にとっても、この情報を一般に向けてより一貫して役立つ表示に向けて推進し、それが実際に有意義で役立つものであることを確認するためには、この分野でユーザー調査を継続することがいかに重要であるかに注目しています」とヤング氏は言う。

「私たちを支援できるテクノロジーは限られており、それらが誤解されたり、不適切に使用されたりして逆効果になることを望んでいません。」

詳細については、 マイクロソフトリサーチブログ。

リード画像: Mininyx Doodle/Getty Images

サマンサ クボタが、Microsoft Signal の AI とイノベーションのすべてについてレポートします。特に、最近の焦点は次のとおりです。 AIエージェント は 日々の仕事を再構築する、マイクロソフトの 研究の画期的な進歩 そして 新興テクノロジーの責任ある使用。マイクロソフトに入社する前は、久保田氏は NBC ニュースのジャーナリストでした。彼女をフォローしてください リンクトイン そして ×。