ロボットよりも人間を許す方が簡単です

AI が私たちの運転業務、医療ケア、さらにはカスタマー サポートのやり取りすべてを引き継ぐのに苦労するだろうと私が考える理由の 1 つは、人間と同じくらい優れているだけではロボットには十分ではないということです。 コンピューターに優れている必要があります。 つまり、ほぼ完璧です。 これはスケールするのが難しい基準です。

ちょっと車に乗ってみましょう。 毎年、米国では数万人が自動車事故で死亡しています。 2022 年には正確には 42,795 人でした。 自動運転車の主張は、それを 25% 改善できれば 10,000 人の命を救えるだろうというものです。 信じられないですね！ しかし、それは効果的利他主義の数学でもあり、うまくいかないものでもあります。 現実の世界。

だって、あなたがテスラだとしましょう。 そして突然、アメリカ国民の半数があなたのロボットカーに運転されるようになりました。 あなたの自動運転技術は非常に進んでいます。 人間よりも50％優れています！ つまり、年間 10,000 人の死亡に責任を負うことになります。 うーん！ さて、あなたがさらに一桁優れているとしましょう、それでも 1,000 人の死亡者です。 注文は2つ？ 死者100人。 1年当たり。

計算は簡単ですが、人的要素は難しく、法的な影響はおそらく不可能です。

医療の角度はさらに粘着性があります。 AI は、ほとんどの病気の診断において、平均的な主治医よりもすぐに優れた診断を行うようになるだろうと私は疑いの余地がありません。 もしかしたらすでにそうなっているかもしれません。 しかし、人間の医師は常に誤診をするため、それでも多くの誤診が発生することになります。 医療過誤訴訟は、保険料率や和解金額を通じて医療費の主な要因の 1 つです。

医療過誤訴訟でビジネスが沈没する前に、ヘルスケア AI は何人の誤診患者を処理できるでしょうか? ダース？ 100人？

これにより、これら 3 つの例の中で最も重要度が低い、つまり顧客サービスになります。 私たちは 37signals でこの分野のいくつかのシステムを試してみましたが、多くの場合、AI が困難なケースでも冷静に処理しているのを見るのは、ちょっとすごいことでした。 しかし、間違った答えもたくさんありました。 時には本当に間違っていることもあります。

ロボットに顧客に製品についてナンセンスな話をさせる場合の許容エラー率はどれくらいですか? それは、他の 10 人にあなたの製品を二度と試すなと言うほど彼らを動揺させるかもしれません? わからない！ しかし、それはおそらく5％ではありません。 もしかしたら1%にも満たないかもしれません。 おそらく、顧客サービス ロボットは、方程式の心理学が機能する前に、100 倍 (1%) 頻繁に間違える人間に勝つ前に、実際にエラー率 0.01% に到達する必要があります。

それは魅力的だと思います。 私たち人間は、一連の客観的な尺度で答え A が答え B よりも明らかに優れている 2 つの状況を検討できますが、それでも B を選択するでしょう。 私たちの精神構造と心理的に適合する。

おそらくこれは単なる段階にすぎません。 おそらくAIが十分に広く採用されれば、私たちはロボットのヘルパーを愛することを学び、人間の対応者と同じような同情のようなものを彼らに示し始めるでしょう。

しかし、そうではないかもしれません。 おそらく、間違いを犯しやすい人間は、許されるという点で AI よりも本質的に優れているのではないでしょうか? 見てみましょう。