Signal の作成者がメタ AI の暗号化を支援

モクシー・マーリンスパイク 安全な通信アプリを作成したプライバシー擁護者 信号 およびその広く使用されているオープンソース暗号化プロトコル、 言った 今週、彼のプライバシー重視の AI プラットフォームが発表されました。 与えるは、そのテクノロジーをメタの AI システムに組み込み始める予定です。

毎日、Signal、Meta の WhatsApp、Apple のメッセージを通じて送信される何十億ものチャット メッセージは、次の方法で保護されています。 エンドツーエンドの暗号化。この機能は、ハイテク企業や送信者と受信者以外の人物がメッセージを覗き見することを不可能にするもので、過去 10 年間で主流になりました。しかし、生成 AI プラットフォームの人気が爆発的に高まるにつれ、人々はエンドツーエンドの暗号化による保護を提供しない AI チャットボットと 1 日に何十億ものメッセージを交換するようになり、AI 企業があなたの話した内容に簡単にアクセスできるようになりました。

プラットフォームは多くの場合、できるだけ多くのユーザー データに基づいて AI モデルをトレーニングしたいと考えており、これは仕様によるものです。 オプトアウトするのが難しい あなたの情報をトレーニングデータとして使用すること。しかし、チャットボットとして、 AIエージェント より有能になった人もいる 技術者 そして企業は、より制約がありプライバシーを重視したシステムの構築を推進しています。

「LLM ができることが増え続けるにつれて、さらに多くのデータが LLM に流入することを期待する必要があります」とマーリンスパイク氏は書いています。 短いブログ投稿 火曜日に公開されたメタとのコラボレーションについて。 「現時点では、そのデータはどれも非公開ではありません。AI 企業、その従業員、ハッカー、召喚状、政府と共有されています。暗号化されていないデータの場合は常にそうであるように、最終的に悪者の手に渡ることは避けられません。」

マーリンスパイク氏は、「Meta AIを支えるためにConferのプライバシー技術を統合するよう努める」と書いた。彼はまた、「Confer」を強調しました。 デビューした 今年の初めには、メタから独立して運営を続ける予定です。マーリンスパイク氏は、このプロジェクトの目標は、「暗号化された会話の完全なプライバシーとともに、誰もが AI のフルパワーを利用できる」テクノロジーを提供することだと付け加えた。

2016 年、Marlinspike は Meta が所有する WhatsApp と協力して、エンドツーエンドの暗号化をさらに多くの企業に展開しました。 10億のアカウントを同時に。 WhatsApp は昨年、アプリに Meta AI チャットボットを導入しましたが、これは 会社から守られる 個人チャットも同様です。

「人々は非常に個人的な方法で AI を使用しており、機密情報へのアクセスが必要です」と WhatsApp 責任者のウィル・キャスカート氏は述べています。 書きました 水曜日にソーシャルメディアプラットフォームXでConferとのコラボレーションについて語った。 「人々がプライベートでそれを実行できるような方法でテクノロジーを構築することが重要です。」

暗号化された AI の導入はまだ始まっています。従来のデジタル通信のエンドツーエンド暗号化で使用される暗号スキームは、生成 AI のデータ保護に簡単に、または直接変換できません。 Confer に関して言えば、まだ新しいプロジェクトであり、Marlinspike 氏のブログ投稿では、Meta との連携が正確にどのように機能するのか、また統合の具体的な目標は何かについての具体的な詳細は示されていませんでした。

マーリンスパイク氏もメタ氏も、出版前にWIREDに追加のコメントを提供しなかった。

ニューヨーク大学の暗号研究者マロリー・ノーデル氏は、「メタ AI を使用するチャットボットを使用している人々にとって、その交換内で機密性とプライバシーが確保されるのは素晴らしいことだ」と述べています。重要なのは、これはメタがトレーニングのために AI チャット データにアクセスできないことを意味するとクノーデル氏は言います。クノーデル氏は同僚とともに最近、 エンドツーエンド暗号化とAIに関する研究。 「より多くの AI チャットボットがこのアプローチを採用することを心から願っています。」

Knodel による Confer の予備的、初期評価 示す このプラットフォームは完璧ではありませんが、プライベート AI チャットボットを構築する方法の重要な例であることを示しています。