AI マニフェストは必要ありません – 憲法が必要です

無料のアップデートで最新情報を入手

にサインアップするだけです 人工知能 myFT ダイジェスト — 受信箱に直接配信されます。

著者はディオニュソス・ヘルス社の共同創設者兼主席科学者である。

今日、あなたは仕事を外されました。 あなたは融資を拒否されました。 あなた、あるいはあなたのお子さんが一流大学から不合格になったかもしれません。 そして、あなたはそれが起こったことさえ知りませんでした。 毎日、私たちの生活の最も奥深く、憲法で最も保護されている部分で、人間が面と向かって正当化できないような決定がアルゴリズムによって下されています。

圧力を受けて、企業は倫理の枠組みについて議論し、諮問委員会を設立しています。 私たちには人工知能のマニフェストは必要ありません。憲法が必要なのです。 現在使用されているように、AI は公民権とはまったく相容れません。

の一つの主任研究者として 採用にAIを使用する最初の企業, 私はあなたにその仕事を引き継ぐシステムを構築しました。 私たちの顧客である大規模な雇用主は、あなたの求人応募を待つ必要はありませんでした。 あなたがそれを知っていたかどうかにかかわらず、私たちは事実上あなたに応募しました。 しかし、AI が誰を採用するかを決定するとき、なぜあなたではなかったのかはわかりません。 採用プロセス中に人間があなたの年齢、政治、家族計画について質問することは、公民権の法に基づく侵害となります。 AI があなたの知らないうちに同じことをするのも同様に間違っていますが、完全に視界から隠されています。

一部の雇用主は雇用を超えて、 生産性の低い従業員を自動的に解雇します。 しかし、退職の選択を「支援」できるのに、なぜ解雇する必要があるのでしょうか？ 他の企業は、次のような傾向があると予測される応募者を選別する機械学習ベースの性格評価を開発しています。 賃金上昇を求めて扇動する、労働組合の結成を支持するか、 転職傾向を示す。

融資は歴史的に差別の強力な手段であったにもかかわらず、米国の経済流動性を推進しています。 私はそのバイアスを軽減するために複数のプロジェクトに取り組んできました。 AI。 しかし、私が学んだのは、たとえアルゴリズムが意図したとおりに機能したとしても、それは依然として、アルゴリズムに代金を支払った貸し手への金銭的利益を最適化することだけを目的として設計されているということです。 ローンの申請プロセスはすでにほとんどの人にとってわかりにくいものになっていますが、今ではあなたの期待は高まっています。 家 所有権や中小企業の資金は 50 ミリ秒の計算で消滅します。

医療とバイオテクノロジーの分野では、AI による画期的な進歩が毎週起こっています。 健康においては偏りがないことが望ましいですが、もしあなたが外れ値であれば、その驚くべき新しい診断ツールはあなたを正確に診断できない可能性があります。 未知の会社の独自のアルゴリズムがあなたのような患者を対象にトレーニングされたかどうかをどうやって知ることができますか? そして、あなたの地域のすべての医師が同じツールを使用している場合、セカンドオピニオンを求める場所はありません。 AI を活用した医師が「あなたはヒステリーを起こしているだけだ」と言ったとしても、AI を活用した保険会社が同意する可能性は低いでしょう。

法律上、弁護士と司法審査を受ける権利は米国では憲法で保障されており、世界の多くの地域で確立された公民権です。 これらは市民的自由の基礎です。 アルゴリズムが 鑑定人、あなたに不利な証言をするが反対尋問の影響を受けない場合、これらの権利は単に侵食されるだけではなく、存在しなくなります。

人は完璧ではありません。 AIエンジニアの倫理研修も、ひどく無知な政治家による立法も、この単純な真実を変えることはできない。 ビッグテックの最高経営責任者が悪者であるとか、大企業が悪意を持っていると仮定する必要はなく、彼らの利益になるものが必ずしも私の利益になるとは限らないことを理解してください。 米国憲法の制定者はこの単純な真実を認識し、人間の本性をより大きな利益のために活用しようとしました。 憲法は、人々が常にそのより大きな善に向かって行動することを単純に想定していたわけではありません。 その代わりに、妥協と優れた統治を強制する動的なメカニズム、つまり自己利益と権力の均衡を定義しました。 人々を優れた天使としてではなく、実際の主体として扱うというそのビジョンは、歴史上最も優れた統治の枠組みの 1 つを生み出しました。

AI を活用した産後うつ病の検査を勧められたと想像してください。 私の会社がまさにそのテストを開発したもので、それはあなたの人生を変える力を持っていますが、結果をデータブローカーや活動家の政治家に売ることを恐れて、それを使用しないことを選択することもできます。 あなたには、あなたの健康のためにのみ機能する当社の AI を利用する権利があります。 このような理由から、私は独立した非営利団体を設立しました。 ヒューマントラスト、すべてのデータを保持し、お客様に対する唯一の受託者責任を負ってすべてのアルゴリズムを実行します。 母親は、命を救うための医学的検査を受けるか、公民権を持つかを選択する必要があるべきではありません。

AIは素晴らしいことをすることができます。 しかし公民権は、隠れた計算の世界では存在し得ない。 弁護士や医師と同じように、私たちの利益のために行動する AI が必要です。 AI には憲法が必要です。より正確に言えば、私たちのためにのみ機能する人工知能へのアクセスを公民権として定義する憲法が必要です。