世界

マイクロソフトのAIスパイスキャンダル: プライバシー基準を再考すべき時

マイクロソフトは最近 国家支援ハッカーを逮捕 マイクロソフトは、攻撃に役立てるために、生成 AI ツールを使用しています。セキュリティ コミュニティですぐに浮かんだ疑問は、ハッカーがツールをどのように使用しているか (これは完全に予測可能でした) ではなく、マイクロソフトがそれをどのように解明したかでした。マイクロソフトが AI ユーザーをスパイし、有害なハッカーが活動していないかを探っていたというのが自然な結論でした。マイクロソフトの行為を「スパイ行為」とみなすことに反対する人もいた。 コース クラウド サービス プロバイダーは、ユーザーの行動を監視します。Microsoft がこのようなことを行っていることは予想されるため、これをスパイ行為と呼ぶのは不公平です。私たちはこの議論を、プライバシーに対する私たちの集団的期待が変化している例と見ています。何が起こっているかを理解するために、意外な情報源から学ぶことができます。それは魚です。20 世紀半ば、科学者たちは、海に生息する魚の数が「海には魚がたくさんいる」というフレーズの根拠となるほど膨大だったが、乱獲により急速に減少し始めていることに気づき始めた。第二次世界大戦後の捕鯨産業が多くの種を絶滅に追いやったとき、科学者たちはすでにクジラの個体数の同様の減少を目撃していた。捕鯨、そしてその後の商業漁業では、新しい技術によって海洋生物の発見と捕獲がこれまで以上に容易になった。生態学者、特に漁業管理に携わる人々は、特定の魚の個体数がいつ、どのように深刻な減少に陥ったのかを研究し始めた。ダニエル・ポーリーという科学者は、魚の個体数を研究する研究者が、許容できる漁獲量を決定する際に大きな間違いを犯していることに気づきました。科学者が魚の個体数の減少を認識していなかったわけではありません。減少がどれほど深刻であるかを認識していなかっただけです。ポーリーは、科学者の世代ごとに現在の統計と比較する基準が異なり、各世代の基準は前の世代よりも低かったと指摘しました。セキュリティ コミュニティの私たちにとって普通に思えることは、私たちのキャリアの初期には当たり前のことだったのです。ポーリーは 1995 年の論文でこれを「ベースライン シンドロームのシフト」と呼んだ。ほとんどの科学者が使用していたベースラインは、研究者としてのキャリアを始めたときに正常だったものだった。その基準からすると、その後の低下はそれほど大きくなかったが、累積的な低下は壊滅的だった。研究者の各世代は新しい生態学的および技術的環境で成長し、指数関数的な低下をうっかり隠していた。ポーリー氏の洞察は、一部の漁業を管理する人々を助けるには遅すぎた。海洋は、1990年代に北西大西洋のタラの個体数が完全消滅するなど、大惨事に見舞われた。インターネット監視と、その結果としてのプライバシーの喪失は、同じ軌跡をたどっています。世界の海に生息する特定の魚の個体数が、以前から 80% 減少していたのに、さらに 80% 減少したのと同じように (無限に減少し続けています)、プライバシーに対する期待も同様に急激に低下しています。現代のテクノロジーが普及したことにより、監視はかつてないほど容易になりましたが、一般の世代は次から次へと、若い頃のプライバシーの現状に慣れています。セキュリティ コミュニティの私たちにとって当たり前に思えることは、キャリアの初期には当たり前だったことです。歴史的に、コンピューターは人間がコントロールし、ソフトウェアはスタンドアロンでした。しかし、常時接続のソフトウェアとサービスのクラウド展開モデルは、その状況を一変させました。ほとんどのアプリとサービスは常時オンラインになるように設計されており、使用状況の情報を企業にフィードバックします。この最新の展開モデルの結果として、誰もが、皮肉屋の技術者から一般ユーザーまで、最新のテクノロジーで行われることはプライベートではないと期待しています。しかし、それは基準が変わったからです。AI チャットボットは、この現象の最新の形です。ユーザーの入力に応じて出力を生成しますが、その裏では、サービスの向上と広告の販売の両方を目的として、その入力を追跡する複雑なクラウドベースのシステムがあります。基準線の変化は、私たちがプライバシーを失っている原因の核心です。米国最高裁判所は、プライバシーの権利は、プライバシーに対する合理的な期待があるかどうかによって決まると長年主張してきました。しかし、期待というのはつかみどころのないもので、基準線の変化の影響を受けます。疑問は残る。これからどうするか？水産科学者は、ベースライン変動症候群の知識を身につけ、今や全体像を見ている。彼らは、この10年を前の10年と比較するといった相対的な尺度をもはや考慮しない。代わりに、彼らは、健全な海洋生態系、ひいては持続可能な漁獲量とはどのようなものであるべきかを、生態系全体にわたる総合的な視点から見ている。そして、科学的に導き出された持続可能な漁獲量の数値を、規制当局が成文化する制限値に変えるのだ。プライバシーとセキュリティに関しても、同じことをする必要があります。変化する基準と比較するのではなく、一歩下がって、健全な技術エコシステムがどのようなものかを検討する必要があります。つまり、人々のプライバシー権を尊重しながら、企業が提供するサービスのコストを回収できるようなエコシステムです。最終的には、漁業の場合と同様に、全体像を把握し、変化する基準を認識する必要があります。海洋であれインターネットであれ、遺産を次世代に残すには、科学的情報に基づいた民主的な規制プロセスが必要です。あなたのサイトの記事からウェブ上の関連記事 #マイクロソフトのAIスパイスキャンダル #プライバシー基準を再考すべき時