マルコ・ジバノヴィッチ | AI パーソナライゼーションがどのようにグループ思考と統一性を促進するか

いいえ、これは AI を徹底的に非難し、AI の支配者が私たちに取って代わって食物連鎖の頂点に立つことについて騒ぐ別の記事ではありません。 これは、私たちが使用するあらゆるサービスやツールで AI を活用した提案と推奨メカニズムを推進するという高まりを続ける傾向に対する重要な見解です。

私は読む 検索、学習、人工知能に関する Slack のプライバシー原則 数日前。 多くのユーザーと同様に、私も、Saleforces の Slack がクライアントからのプライベートな会話を AI のトレーニングにどのように利用するのかを見て嬉しくはありませんでした。 この件についてはネット上で多くの反発があり、すでに全員とその母親がどこかでこの件について意見を共有している。 この山積みに付け加える意味はないと思いますが、そのテキストの別の部分が気になることに気づきました。

現時点では、データがどのように使用されるかに焦点を当てたいと考えています。 Slack がこれを行っている唯一の企業 (または最初の企業) ではないことに注意してください。 これがきっかけで、私たちの住むバブルはさらに小さくなっていくのではないかと改めて考えさせられました。 Slack は、世界中の多くの企業にとって主要なコミュニケーション メディアです。 少し理想主義的に言っておきますが、これらすべての企業は価値を創造したいと考えています。 価値を生み出すには、創造性、新しいアイデア、独創的な考え、もっと欲しいものなどがありますよね。

Slack が「生活を楽にする」ために顧客データをどのように利用するかをいくつか紹介します。

1. オートコンプリート: Slack は、検索クエリやその他のテキストを完成させるための提案を行うことがあります。たとえば、ユーザーが「カスタマー サポート」というフレーズの最初の数文字を入力した後、このフレーズを自動補完します。
2. 絵文字の提案: Slack は、メッセージの内容と感情、絵文字の使用履歴、さまざまな状況でのチーム内での絵文字の使用頻度を使用して、メッセージに対する絵文字の反応を提案する場合があります。
3. の検索結果: 当社の検索機械学習モデルは、特定のクエリに対する適切な結果を識別することで、ユーザーが探しているものを見つけるのに役立ちます。 これは、過去の検索結果と以前のエンゲージメントに基づいて行われます (…)

一見すると、これらの機能は無害であるか、役立つように思えます。 時間を節約し、摩擦を軽減し、ユーザー エクスペリエンスを向上させます。 しかし、水面下では、より厄介な結果が横たわっています。 創造性を抑制し、集団思考を強化する。

オートコンプリート機能を考えてみましょう。 Slack の AI は、過去のデータに基づいて一般的な入力を提案することで、ユーザーが既成概念にとらわれずに考えるのを意図せず妨げてしまう可能性があります。 AI がユーザーを従来のフレーズやアイデアに誘導し続けると、新しい考えの表現が制限される可能性があります。 時間とともに、 これにより、最も一般的なアイデアがさらに支配的になるフィードバック ループが作成される可能性があります。。

絵文字の提案でも同様の問題が発生します。 過去によく使用されていたという理由で、特定の絵文字がより頻繁に提案される場合、感情表現の均質化につながる可能性があります。 これは些細なことのように思えるかもしれませんが、コミュニケーション エクスペリエンス全体が画一的で、予測可能で、退屈なものになってしまうもう 1 つの要因です。

検索結果も過去の行動に影響されます。 AI アルゴリズムが、頻繁に検索され、関与した内容に基づいて結果に優先順位を付けると、人気のあるアイデアを増幅し、あまり一般的ではないアイデアを抑制する自己強化ループを作成する可能性があります。 全員が同じ情報セットに誘導されると、検討されるアイデアや解決策の範囲が狭まってしまいます。。

本質的に、 ツールの AI パーソナライゼーションがエコー チェンバーを引き起こす可能性がある。 それは画一性や集団思考につながる可能性があります。

よく言われることわざに、「仕事には常に正しいものを使いなさい」というものがあります。 「長期的には危険でなければ」という部分を追加すべきかもしれません。