一般の AI プライバシーへの懸念を和らげるためにはさらなる取り組みが必要: レポート

新しい調査によると、各組織は、自社のデータが人工知能アプリケーションで責任を持って使用されているということを一般の人々に納得させるのにそれほど進んでいないことが示唆されています。

このレポートは、Cisco Systems の 7 回目の年次データ プライバシー ベンチマーク調査であり、 データプライバシー週間に合わせて木曜日にリリースされました。

これには、オーストラリア、ブラジル、中国、フランス、ドイツ、インド、イタリア、日本、メキシコ、スペイン、英国、米国のセキュリティおよびプライバシーの専門家 2,600 人からの回答が含まれています。 調査は2023年夏に実施された。

調査結果の中で、回答者の 91% は、データが AI において意図された正当な目的にのみ使用されていることを顧客に安心させるために、さらに努力する必要があることに同意しました。

シスコは報告書に付随したニュースリリースで、「これは昨年の水準と同様だ」と述べ、「あまり大きなプロセスが達成されていないことを示唆している」と述べた。

回答者のほとんどは、データのプライバシーとセキュリティの問題を理由に、組織が生成 AI (GenAI) の使用を制限していると回答しました。 27％は、自社が少なくとも一時的にその使用を禁止したと回答した。

レポートによると、顧客はデータを信頼できる組織から購入することをますます望んでおり、回答者の94%が、顧客データが適切に保護されていない場合、顧客はその組織から購入しないことに同意しているという。

調査回答の多くは、組織がプライバシーが顧客の信頼を実現する重要な要素であることを認識していることを示しています。 回答者の 80% は、組織がプライバシーへの投資により忠誠心と信頼において大きな利益を得ていると回答しました。 これは2022年の調査の75％、2021年の調査の71％から上昇している。

今年の回答者のほぼ全員 (98%) が 1 つ以上のプライバシー指標を取締役会に報告しており、半数以上が 3 つ以上のプライバシー指標を報告していると回答しました。 レポートによると、監査結果 (44 パーセント)、データ侵害 (43 パーセント)、データ主体の要求 (31 パーセント)、インシデント対応 (29 パーセント) など、トップのプライバシー指標の多くは顧客の信頼の問題と非常に密接に関係しています。パーセント）。

しかし、業界標準のプライバシー成熟度モデルを満たすための進捗状況を取締役会に報告していると回答した企業はわずか 17 パーセント、見つかったプライバシーのギャップを報告している企業は 27 パーセントのみでした。

今年のレポートの回答者らは、プライバシーの経済的メリットは、シスコがプライバシーの追跡を開始した 4 年前よりも依然として高いものの、顕著な違いがあると推定しています。 平均して、2023 年の利益は 290 万米ドルと見積もられています。 これは昨年のピーク時の 340 万米ドルよりも低く、大小の組織でも同様の削減となっています。

「この原因は不明である」と報告書は述べている。「プライバシーの利点がコストを上回っていると回答した回答者、プライバシー投資から多大な経済的利点を得ている回答者、ROI (投資収益率) の計算など、他の財務指向の指標のほとんどが原因となっている」 、すべてがより前向きな経済学を示しています。 引き続き追跡していきます
今後の研究で、これが異常なのか、それとも長期的な傾向なのかを特定する予定です。」

データの信頼を構築する際に組織が直面する課題の 1 つは、
優先順位は顧客の優先順位とは多少異なる可能性があるとレポートは述べています。 調査対象となった消費者は、プライバシーの最優先事項は、自分のデータがどのように使用されているかについて明確な情報を得ることであり (37 パーセント)、マーケティング目的でデータを販売されないこと (24 パーセント) であると述べています。 プライバシー専門家は、プライバシー法の遵守（25％）とデータ侵害の回避（23％）が最優先事項であると述べた。

「これらはすべて重要な目標ですが、 [for firms]特に、AI アルゴリズムがどのように意思決定を行うかを理解するのが難しい AI アプリケーションでは、透明性についてさらに注意を払うことが顧客にとって役立つことを示唆しています」とレポートは述べています。

レポートでは次のような組織を推奨しています。

— 個人データの適用、管理、使用方法についてより透明性を高めます。これは顧客の信頼の構築と維持に大いに役立ちます。
— AI倫理管理プログラムなど、人間を関与させる保護を確立する。
AI を自動化に使用する場合は、プロセスを改善し、アルゴリズムのバイアスを取り除く作業を行います。
顧客データに関わる意思決定。
— 適切な制御メカニズムを適用し、生成型 AI アプリケーションに関連するリスクについて従業員を教育します。
— 重要なビジネス上および経済上の利益を実現するために、プライバシーへの投資を継続します。