1718972076
2024-06-21 12:00:00
テクノロジー業界のほぼすべての企業が 人工知能 今では、AI は流行の波に乗っており、Apple も例外ではありません。Apple が少し異なるのは、AI に伴うデータ セキュリティとプライバシーの問題にどう対処するつもりかという点です。
毎年恒例の WWDCイベント 今月初め、同社は アップルインテリジェンスAppleは、独自のAIであるChatGPTがAIのプライバシーとセキュリティの新たな基準を確立すると約束している。これは、OpenAIのChatGPTを自社の製品やソフトウェアに「シームレスに統合する」計画があるにもかかわらずだ。
しかし、セキュリティ専門家の中には、アップルの意図は業界にとって独特の利他主義であり、その意図を疑うことはないとしながらも、同社にはやるべきことがたくさんあり、新たな標的にされる可能性もあると指摘する者もいる。
アップルのAIセキュリティとプライバシーに関する約束、そして同社がAI技術をどのように利用する計画かについて透明性を保つという意向は「正しい方向への一歩」だと、企業のシステム内のサードパーティ製ソフトウェアのセキュリティ確保を専門とするウィング・セキュリティの最高執行責任者ラン・センデロヴィッツ氏は述べた。
こうした約束は、データ収集を最小限に抑え、それを営利目的で使わないようにするというアップルの長年の方針と一致しているとセンデロビッツ氏は語った。このことは、規制がまだ整っていないだけでなく、これまで独自の規範や基準を整備できていない業界の「ジャングル」の中で、同社を際立たせている。
アップルとは対照的に、 メタ マイクロソフトとグーグルは、AIが普及するずっと前から、ユーザーデータを収集、共有し、ブローカーや広告主などに販売するというビジネスモデルを構築してきました。
しかし、大きな進歩と革新を推進する可能性を秘めた大規模言語モデルや機械学習などのAIツールの導入には、重大なプライバシーと機密性の問題が伴うとセンデロヴィッツ氏は述べた。
ChatGPT のような LLM にデータを入力することは、「友達に秘密を打ち明け、忘れてほしいと思っているのに忘れてくれないようなものだ」と Senderovitz 氏は言う。その後、そのデータがどこに行くのかを知ったり、制御したりするのは難しい。また、入力されたデータがすぐに破棄されたとしても、LLM がそこから学んだことは生き続ける。
そして、OpenAI の広く普及している LLM は、Apple Intelligence の大きな部分を占めることになる。今年後半から、Siri やライティング ツールなどの機能に表示されるようになるが、Apple は、ユーザーが ChatGPT の使用時期を制御でき、ユーザーの情報が共有される前に許可を求められるようになると約束している。
アップルは従来、収集するデータをソフトウェアやデバイスの動作に必要な最小限のものに限定することで、消費者のデータを安全かつプライベートに保ってきた。さらに、同社は機密データをどこかのクラウドサーバーに送信するのではなく、デバイス上で処理できるだけの十分な処理能力を備えた携帯電話、コンピューター、その他のデバイスを製造してきた。
結局のところ、収集されていないデータは、紛失したり、盗まれたり、販売されたりすることはありません。しかし、AI はその設計によってそれを変えます。LLM はトレーニングしてより強力になるためにデータを必要としますが、一部の AI 操作は標準的な電話やラップトップでは実行できません。
アップルのソフトウェアエンジニアリング担当上級副社長クレイグ・フェデリギ氏は、同社のWWDC基調講演イベントで、AIが本当に役立つためには、ユーザーの日常生活や人間関係などの個人的な状況を理解することが不可欠だが、それは正しい方法で行われなければならないと語った。
「自分の生活の詳細をすべて誰かのAIクラウドに保管し、分析してもらう必要はない」とフェデリギ氏は語った。
Apple によれば、これを確実にするために、同社は可能な限り多くの AI 処理をデバイス上で維持する。そして、電話やコンピューターで実行できない処理は、より優れた処理能力と、より大きな AI モデルへのアクセスを可能にするプライベート クラウド コンピューティング システムに送られる。
フェデリギ氏は、送信されたデータは決して保存されず、アップルがアクセスすることもないと述べ、アップルのデバイスの場合と同様に、独立した専門家がサーバー上で実行されるコードを検査して、アップルがその約束を守っていることを確認できると付け加えた。
プライベートクラウドをプライベートに保つ
トレンドマイクロのトップセキュリティ研究者で、AIシステムで20年以上の経験を持つジョサイア・ハーゲン氏は、アップルがこれらの約束を果たすために最善を尽くすことを疑ってはいない。また、クラウドにはセキュリティ上の利点がいくつかあると同氏は言う。具体的には、クラウドの規模が大きいため、クラウド全体の異常を簡単に見つけることができ、潜在的なセキュリティ上の脅威が問題になる前に阻止できるという。
同氏は、重要なのは、攻撃者が AI を利用して、接続されたアプリで意図された以上のことを行わないようにする制御を Apple が組み込めるかどうかだと述べた。
「AIモデルが悪意ある目的で乗っ取られるケースが見られるようになると思う」とハーゲン氏は述べ、サイバー犯罪者はChatGPTを使って盗まれた大量のデータを掘り返すことができるが、AIを搭載した無料のボットの軍団ならその作業をより迅速かつ安価に行うことができると付け加えた。
ハーゲン氏はまた、このテクノロジー大手がクラウドのセキュリティ確保に外部企業を利用していないという事実を懸念している。自らセキュリティを構築した場合、その弱点を見つけるのは難しいことがあり、オンライン攻撃者より先に弱点を見つけるには外部の視点が重要になる可能性があると同氏は述べた。
「アップルはセキュリティ企業ではない」とハーゲン氏は言う。「自社のエコシステムを保護するのは難しい。誰であっても盲目になってしまうだろう」
それに加えて、長年従来の PC や Windows システムに重点的に取り組んできたサイバー犯罪者が、マルウェアを使って iOS システムを攻撃するケースが増えており、Apple のクローズド システムでその攻撃を阻止できる保証はない。Hagen 氏が心配しているのは、Apple と ChatGPT の関係よりも、このクローズド システム モデルだ。
同氏は、コンピューターシステムの欠陥を探し出し、それを企業に提出してバグ報奨金と呼ばれる報酬を得るフリーランスのセキュリティ専門家が、アップルの防衛においてさらに重要な役割を果たすようになるだろうと述べた。
プライバシーに関しては、法律やコストに関する懸念から、最終的にはアップルがプライバシー慣行の調整を開始し、最終的には消費者データを次期バージョンのAIのトレーニングに使用できるように利用規約を変更するという危険な道に進む可能性があるとハーゲン氏は述べた。
これはセンデロヴィッツ氏にとっても懸念事項であり、同氏と研究者らは、特にOpenAIのようなサードパーティの協力者とのデータ共有慣行に関するAppleの利用規約の変更を注意深く見守っていると述べた。Appleはこれに関する約束は大々的に行っているが、これまでのところ具体的な内容は乏しいと同氏は述べた。
「細かい部分まで確認する必要がある」と彼は語った。
編集者注: CNETはAIエンジンを使用して数十の記事を作成し、それに応じてラベル付けしました。あなたが読んでいる注記は、AIのトピックを実質的に扱っている記事に添付されていますが、すべて当社の熟練した編集者とライターによって作成されています。詳細については、 AI政策。
#AppleはAIデータの安全性とプライバシーを守るという困難な課題に直面している