3つの質問: オンラインで人間性を証明する方法 | MIT ニュース

人工知能エージェントがさらに進化するにつれ、インターネット上でAI搭載ユーザーと実際の人間を区別することがますます難しくなる可能性があります。 新しいホワイトペーパーMIT、OpenAI、Microsoft、その他のテクノロジー企業や学術機関の研究者らは、プライバシーを保護しながら、オンラインで自分が本物の人間であることを証明できる検証技術であるパーソンフッド認証情報の使用を提案している。

マサチューセッツ工科大学ニュース 論文の共著者である電気工学およびコンピュータサイエンスの大学院生であるヌーラン・ソリマン氏とメディアラボの大学院生であるトビン・サウス氏に、このような資格の必要性、それに伴うリスク、そして安全かつ公平な方法でどのように導入できるかについて話を聞きました。

質問： なぜ人格の証明が必要なのでしょうか?

トビン・サウス： AI の機能は急速に向上しています。チャットボットがますます進化していることについて世間では多くの議論が交わされていますが、洗練された AI は、ChatGPT の改良だけにとどまらず、AI がオンラインで自律的に対話する機能など、はるかに多くの機能を実現します。AI は、アカウントの作成、コンテンツの投稿、偽のコンテンツの生成、オンラインで人間のふりをすること、またはアルゴリズムによってコンテンツを大規模に増幅する機能を持つ可能性があります。これにより、多くのリスクが解消されます。これは、洗練された AI と人間を区別することがますます困難になっている「デジタル詐欺師」の問題と考えることができます。人格の証明は、この問題に対する潜在的な解決策の 1 つです。

ヌール・ソリマン： このような高度な AI 機能は、悪意のある人物が大規模な攻撃を実行したり、偽情報を拡散したりするのに役立つ可能性があります。インターネットは、偽情報キャンペーンを実行するために実際の人間のコンテンツを再共有する AI でいっぱいになる可能性があります。インターネット、特にソーシャル メディアを操作することはますます困難になります。個人の認証情報を使用して、特定のコンテンツをフィルターし、ソーシャル メディア フィードのコンテンツを管理したり、オンラインで受信する情報の信頼レベルを判断したりすることが考えられます。

質問： 人格証明書とは何ですか? また、そのような証明書の安全性をどのように確保できますか?

南： 人格証明書は、自分の身元について他のことは何も明かさずに、自分が人間であることを証明することを可能にします。これらの証明書により、あなたが人間であることを保証できる政府などの組織から情報を取得し、プライバシー技術を通じて、自分の身元に関する機密情報を共有することなくその事実を証明できます。人格証明書を取得するには、本人が直接出向くか、納税者番号など政府とのつながりを持たなければなりません。オフラインの要素もあります。人間にしかできないことをしなければなりません。たとえば、AI は DMV に出向くことはできません。また、最も洗練された AI でも暗号を偽造したり解読したりすることはできません。そこで、私たちは 2 つのアイデア、つまり暗号によるセキュリティと、人間には AI にはない能力がまだあるという事実を組み合わせて、あなたが人間であることを本当に強固に保証します。

ソリマン： しかし、人格認証はオプションです。サービス プロバイダーは、ユーザーが認証を使用するかどうかを選択できるようにすることができます。現時点では、ユーザーがオンラインで本物の認証済みの人とのみやり取りしたい場合、それを実現する合理的な方法はありません。また、コンテンツの作成や人との会話だけでなく、AI エージェントはいつかユーザーに代わって行動するようになります。オンラインで何かを購入したり、取引を交渉したりする場合、その場合、信頼できる人物認証を持つエンティティとやり取りしていることを確認したいでしょう。

南： 人格認証情報は、オンライン サービスにサインインするための電子メール アカウントなどの識別子の使用など、数十年にわたって使用されてきたインフラストラクチャと一連のセキュリティ テクノロジの上に構築され、既存の方法を補完することができます。

質問： 人格資格に関連するリスクにはどのようなものがありますか? また、それらのリスクを軽減するにはどうすればよいでしょうか?

ソリマン： 1 つのリスクは、人格認証がどのように実装されるかに起因します。権力の集中に関する懸念があります。たとえば、特定の 1 つのエンティティが唯一の発行者である場合、またはすべての権力が 1 つのエンティティに与えられるようなシステムが設計されている場合、一部の人々は大きな懸念を抱く可能性があります。おそらく、そのエンティティを信頼しておらず、そのエンティティと関わるのは安全ではないと感じるでしょう。私たちは、人々が発行者を信頼し、プライバシーを保護するために人々のアイデンティティが人格認証から完全に切り離されたままであることを保証できるような方法で人格認証を実装する必要があります。

南： 人格証明書を取得する唯一の方法が、物理的にどこかに行って自分が人間であることを証明することである場合、その物理的場所に行くのが困難または危険な社会政治的環境にいる場合、それは恐ろしいことかもしれません。それは、一部の人々がオンラインで自由にメッセージを共有する能力を妨げ、表現の自由を抑圧する可能性があります。だからこそ、人格証明書の発行者が多様であること、そして表現の自由が維持されるようにするためのオープンなプロトコルが重要なのです。

ソリマン： 私たちの論文は、政府、政策立案者、指導者、研究者が人格証明書にもっと多くのリソースを投入するよう促そうとしています。私たちは、研究者がさまざまな実施の方向性を研究し、人格証明書がコミュニティに及ぼす可能性のあるより広範な影響を調査することを提案しています。人格証明書をどのように実施すべきかについて、適切なポリシーとルールを作成する必要があります。

南： AI は非常に速いスピードで進化しており、政府が適応するスピードよりもはるかに速いことは確かです。政府や大企業は、デジタル システムを適応させて、誰かが人間であることを証明できるように準備する方法について考え始めるべきですが、その方法はプライバシーを保護し、安全でなければなりません。そうすれば、AI がこのような高度な機能を備えた未来に私たちが対応できるようになります。