カシミール ヒル: 「顔はプライバシーの最後の砦です。だからこそ顔認識は危険です。」 | カシミール ヒルテクノロジー

2019年11月、ジャーナリストのカシミール・ヒルは、あるスタートアップ企業がこう呼ぶという情報を受け取った。 Clearview AIは画像から誰かを識別できると主張。 彼らの情報筋によると、同社はプラットフォームにも利害関係者にも通知することなく、Facebook、Instagram、LinkedIn などのソーシャル ネットワークから数十億枚の写真を収集しており、アプリに誰かの写真を入力すると、その写真が表示されるとのことです。 その人が登場したすべてのウェブサイト氏名や個人情報に加えて。

これまでこのようなものを開発しようとした人は誰もいませんでした。 見知らぬ人を識別できるアプリは多すぎました。 たとえば、バーで誰かを写真に撮ると、その人がどこに住んでいるのか、誰が友達なのかを数秒で知ることができます。 ヒル記者 ニューヨークタイムズこの小さな会社の物語を出版しました。この小さな会社は、数か月でまったく無名の状態から、次のような支援を受けるまでになりました。 シリコンバレーのゴッドファーザーの一人、ピーター・ティールそして欲望の対象となる 米国および外国の警察。 彼は、共和党の舞台裏で長い歴史を持つ政治家、リチャード・シュワルツと一緒に組み立てたツールの責任者である難攻不落のエンジニア、ホアン・トン＝ザットに連絡を取った。 彼の研究は彼の本の形を作り続けました あなたの顔は私たちのものです (あなたの顔は私たちのものです2023年にランダムハウスから出版されたが、今のところスペイン語への翻訳はされていない）。

「私には、その創設者たちは、 起動する 彼らは珍しくて魅力的なキャラクターであり、この物語はこの業界で本質的なもの、つまり社会的影響を考慮せずに新しい、真に違反的なテクノロジーを作成したいという欲求を捉えていたと述べました」とニューヨークからのビデオ会議で説明した。 43 年前に生まれ、フロリダで育ったカシミール ヒルは、レッド ツェッペリンの最も伝説的な曲の 1 つにちなんで名付けられ、次のような出版物で活躍しました。 ギズモード、 フォーブス ああ ニューヨーカー に参加する前に 回 また、このような若い企業が顔認識のような複雑なテクノロジーを短期間で習得できることにも彼の注目を集めました。

聞く。 自動顔認識システムの特別な点は何ですか? なぜこのテクノロジーに興味を持ったのですか?

答え。 現実世界の人々を、インターネット上で彼らについて知られている情報と結び付ける鍵となります。 顔認識を制御せずに使用すると、匿名性が根絶され、人々が私たちについてすべてを知らなければ、私たちはもはや世界を移動することができなくなります。 政府は私たちがどこにいて、私たちがいつも何をしているのかを知っているでしょう。 それはすでに中国では起きている。 ロシアはこれを、ウクライナ侵略に反対するデモ参加者を特定するために利用している。 顔は本質的に、プライバシーの最後の砦です。 中国の話に戻りますが、彼らは見られたくない権力者のためのレッドリストを作成しました。 そのリストに載っているということは、監視システムから見えなくなり、カメラの記録が消去されることを意味します。 目立たないことが権力者だけの特権であることは非常に明らかです。

P. Clearview AI のストーリーは顔認識のストーリーを代表していると思いますか?

R. はい。 顔認識技術は諸刃の剣です。 犯罪を解決したり、殺人者や強姦犯を見つけたりするために使用できますが、 反体制派を追跡するために またはポルノ女優に関する情報を取得し、それらに連絡するため。 Clearview AI の創設者は、このツールをどうするかについて非常に心配なアイデアを持っていました。 彼らはそう信じていた 人の顔を分析することで、その人の知性を推測できる または薬物使用の傾向。 彼らは、活動家を迫害し、リベラル派を特定するために自社製品を望んでいたハンガリーと取引してきた。 したがって、最終的に彼らが協力するのは警察だけであるということは、ある意味でほとんど安心です。

中国では匿名性は権力者の独占的な特権である

P. Clearview AI はいくつかの国で罰金または禁止されています。 現在の状況はどうですか？

R. 彼らは米国で活動を続けています。 彼らは、多くの地元の法執行機関、国土安全保障省、FBI と協力しています。 彼らは法的に少々厳しい状況にあるが、英国の裁判所が規制当局から課せられた罰金を取り消すなど、いくつかの成功も収めている。 結局のところ、彼らが法執行機関のみをターゲットにすることを決定したという事実により、多くのマイナスの結果を回避することができました。 他のヨーロッパ諸国で何が起こるか見てみましょう。

P. 生成型人工知能 (AI) のブームが、Clearview AI のような企業の拡大の煙幕として機能していると思いますか?

R. 人々は生成 AI に非常に注目していますが、それが注意をそらしています。これはおそらく、テクノロジーが私たちのプライバシーを脅かしているためだと思われます。 しかし、ある意味、懸念は同じです。 彼 ニューヨーク・タイムズ私が働いている会社は、私たちの記事をすべて使用したとして OpenAI を訴えました。 許可を求めずに。 同様に、Clearview AI のデータベースは、誰の同意もなくインターネットから取得された数百億枚の私たちの顔の画像で構成されています。 私は顔認識と生成 AI を組み合わせることについて非常に懸念しています。 ポルノ画像やある種の恥ずかしい状況で誰かの顔を生成し、それを投稿するだけで、いつか誰かが顔認識ツールでその人を探して見つけてくれることがわかっています。 私がこの本を書いたのは、顔認識テクノロジーがいかに強力になっているかを人々に理解してもらいたいからです。 今では、インターネット上で誰かを特定し、その写真をすべて見つけることは非常に簡単です。 そして、それは将来に非常に憂慮すべき影響を与えると思います。

P. 米国における顔認識に対する社会的認識はどのようなものですか?

R. ライブ顔認識テクノロジーの使用には実際の抵抗があります。 議員らは、路上でリアルタイムに人を探すという考えを拒否していると述べている。 例えばイギリスで起こっている。 同時に、ほとんどの人は、犯罪が行われた後、犯人を特定するためにこのテクノロジーを使用することに同意していると思います。

P. 何百万もの人間の顔の写真を同意なくダウンロードして構築した製品をビジネスの基盤としている企業が、何事もなかったかのように運営できるなどあり得るでしょうか?

R. 私が初めて Clearview AI について書いたとき、そこには 30 億枚の写真がありました。 この本を読み終えたとき、彼らは200億を持っていたと思います。 今、彼らは40,000人を持っています。 自分たちのやっていることは違法だと主張している国もある。 彼らは同意なしに人々の写真を収集すべきではありませんが、彼らはそれを続けており、誰もそれを止めません。 アメリカでは前例があるので、この違法性はそれほど明確ではありません。 同じことを私たちは見ています 生成型 AI: これらの企業は、望むものは何でも収集し、利益を得るためにそれを好きなように使用することを許可されるべきでしょうか? それは私たちの時代の最も重要な質問の一つだと思います。

2011年にグーグル社長のエリック・シュミットは、自社が開発しリリースしなかった唯一の技術は顔認識だと述べた

P. 同氏は本の中で、GoogleとFacebookはClearview AI以前に独自の顔認識技術をすでに開発していたが、それをリリースしないことを決定したと指摘している。

R. 本当に意外でした。 これらの企業はプライバシー侵害の可能性について厳しく精査されており、そのためより慎重になっています。 彼らは技術自体にも不安を感じていたと思います。 彼らのエンジニアは警戒し、そのようなものをリリースすることの明らかな欠点を認識しました。 2011年にグーグルの社長エリック・シュミットは、これまで同社が開発してリリースしなかった唯一の技術は顔認識だと述べた。 ところで、同じことが生成 AI でも今起こっているのは興味深いと思いました。Google は独自の ChatGPT を持っていましたが、世界はまだこれに対応する準備ができていないと考えていました。

P. 私たちは超監視社会に向かっていると思いますか?

R. 私たちはどこにでもカメラがある世界に住んでいますが、顔認識システムはありません。 私はそう思います ヨーロッパでは今その議論が起きています: あなたの子供が誘拐された場合、または逃亡者がいる場合、リアルタイムで彼らを見つけることができる必要がありますか? そのインフラストラクチャをセットアップすると、他のさまざまな方法で使用できるようになります。 家を出るたびに常に顔が追跡される世界を許すかどうかは、まだ私たちが決めることができると思います。 そしてそれは今すぐに下さなければならない決断です。

インターネット上で誰かを特定し、その写真をすべて見つけることができるということは、将来に非常に憂慮すべき影響を及ぼします。

P. 顔認識の適切な使用と不適切な使用の境界線をどのように引くのでしょうか?

R. 現在重要な要素は、遡及的か事前的であるかだと思います。 すでに行われた犯罪を解決するために使用しますか、それとも犯罪を防止したり、リアルタイムで人を見つけたりするために使用しますか? それは大きなギャップであり、それが私たちが今経験していることです。 もう 1 つの重要なポイントはセキュリティです。 米国では、警察官であれば、顔認識を使用して犯罪を解決できます。 企業の場合は、万引き犯を特定して追放するためにこれを使用できます。 人々を不快にさせるのは、セキュリティ以外のアプリケーションです。

P. 国民はこのテクノロジーに慣れ、許容できると思いますか?

R. 私たちはさまざまなユースケースに直面し、それがどれほど快適であるかを確認する必要があります。 とても衝撃的だった時は マディソン・スクエア・ガーデンでは弁護士が玄関で呼び止められ始めた 訴訟を起こしたブランドのこと。 人々は、顔認識が驚くべき方法で使用される可能性があることに気づきました。 ホワイトハウスの電話が録音されていた時代もあった。 彼は、リチャード・ニクソンがウォーターゲート事件の計画を立てているすべてのテープの中に自分自身を重ね合わせた。 これは社会的な警戒を呼び起こし、裁判所命令のあるものを除いて盗聴を違法とする法律が制定された。 監視カメラが映像のみを記録し、音声を記録しないのはそのためです。私たちは、ユーザーの発言がすべて記録される世界には住みたくないと判断したからです。 私たちの顔にも同じことが起こると思います。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。

_