障害者コミュニティにとって、AI の未来は悲惨です

12月、米国国勢調査は障害の分類方法の変更を提案した。 専門家らは、障害者はすでに過小評価されていると述べているが、もしこの変更が実施されれば、障害者としてカウントされるアメリカ人の数は大幅に減少することになるだろう。

国勢調査はその提案をパブリックコメントに公募した。 誰でも連邦政府機関の規則制定についてコメントを自分で送信できます。 しかし、この特定のケースでは、提案によって最も影響を受けた人々が意見を述べる上でより多くの障害を抱えていました。

Data for Progress の上級研究員であるマシュー コートランド氏は、「これらの人々ができる限りコメントを書いて送信できるようにする方法を見つけることは、私にとって非常に重要でした」と述べています。 これを念頭に置いて、彼らは独自のコメントを送信したい人のために GPT-4 ボット アシスタントを作成しました。 コートランドは過去にも障害関連の規制を対象としたコメントキャンペーンを実施したが、AIの支援を活用したのはこれが初めてだった。

ある人は「ありがとう。ずっと作りたかった種類のコメントを作ることができました」と彼らに語った。 「今これを行うには頭の霧が多すぎます。」

誰が数えているかにもよりますが、人口の 12.6 パーセント、あるいは 25 パーセントが障害を持っています。 障害自体は無数に定義されていますが、身体的、知的、認知的障害と慢性疾患が広く含まれます。 身体障害のある人は車椅子を使用する可能性がありますが、長期にわたる新型コロナウイルス感染症などの重度のエネルギー制限疾患により、日常生活のタスクを管理することが困難になる可能性があります。

AI は、自然言語処理、コンピューター ビジョン、または GPT-4 のような生成 AI のいずれの形式であっても、障害者コミュニティにプラスの影響を与える可能性がありますが、一般的に、AI と障害者の将来はかなり厳しいものになっています。

「AI が扱われ、使用される方法は、基本的に骨相学と数学のようなものです」と、優生学の歴史とテクノロジーを結びつけるバージニア大学の助教授、ジョシュア アール氏は言います。 障害について馴染みのない人々は、メディア、ポップカルチャー、規制の枠組み、周囲の人々によって形成された否定的な見方をしており、障害を文化的アイデンティティではなく欠陥として見ています。 慣習や設計によって障害者の命の価値を下げるシステムは、技術製品においてそのような間違いを繰り返し続けるものです。

この姿勢は、新型コロナウイルス感染症パンデミックの真っ只中にあった介護配給をめぐる議論にはっきりと示されている。 それはまた、質調整生存年（QALY）の形でも現れます。これは、誰かの人生の本質的な価値ではなく、外部の指標によって「生活の質」を判断するために医療現場で使用される、AI支援の「費用対効果」ツールです。 たとえば、家から出られないことは、身体活動や雇用を制限する変性疾患と同様に、誰かに対して減点としてカウントされる可能性があります。 スコアが低いと、費用対効果分析における特定の医療介入が拒否される可能性があります。 障害により寿命が縮む可能性が高いと思われる人に、なぜ高額な治療に従事するのでしょうか?

AI の期待は自動化によって仕事が楽になるということですが、具体的に何が楽になるのでしょうか? 2023年、プロパブリカの調査で、保険大手のシグナ社が、補償請求に自動的にフラグを立てる内部アルゴリズムを使用し、医師が大量の拒否を承認できるようにしており、複雑な医療ニーズを持つ障害者を不相応にターゲットにしていたことが明らかになった。 障害者に対してアルゴリズム ツールと AI が機能できるのは医療システムだけではありません。 これは雇用においてますます一般的になってきており、一部の採用担当者が使用する論理パズルやゲーム、一部の面接に伴う視線や表情の追跡と同様、求職者を選別するツールがバイアスをもたらす可能性があります。 障害とテクノロジーを専門とするバージニア工科大学の准教授アシュリー・シュー氏は、より一般的には、障害者を選び出すテクノロジーを通じて「障害者に対する特別な監視が行われる」と述べています。

このようなテクノロジーは、多くの場合、2 つの前提に基づいています。1 つは、多くの人が自分の障害を偽ったり、誇張したりしているため、不正行為の防止が重要になっているということ、もう 1 つは、障害のある人生は生きる価値のある人生ではないということです。 したがって、資源の配分や社会的包摂に関する決定（在宅介護サービス、職場へのアクセス、ソーシャルメディアで人々と連絡を取る能力など）において、障害者を障害のない人と同等に見る必要はない。 その姿勢は、社会が構築する人工知能ツールに反映されています。

このようにする必要はありません。

障害者の政治プロセスへの参加を支援するためのコートランド氏の GPT-4 の独創的な使い方は、AI が適切な手に渡ればどのように価値あるアクセシビリティ ツールになり得るかを示しています。 適切な場所を探せば、この例は無数にあります。たとえば、2023 年の初めに、Midjourney は次のような機能をリリースしました。 画像の代替テキストを生成する、視覚障害者や弱視の人々のアクセシビリティを向上させます。

人間とテクノロジーの間の相互作用を専門とする学者で詩人のエイミー・ガエタ氏も、AI の可能性について次のように考えています。 [disabled people] すでに過労で極度に疲れている人たち」を自動化し、たとえばフォームに記入したり、就職面接や社交の場での会話の練習を提供したりします。 同じテクノロジーは、不当な拒否をめぐる保険会社との争いなどの活動に使用される可能性がある。

「それを使用する人は、おそらく、それが何か間違ったことをしているときを理解するのに最も適している人たちでしょう」とアール氏は、障害者を中心に、あるいは障害者のために開発されたテクノロジーに関して述べていますが、障害者とともに開発されたわけではありません。 AI の真に明るい未来のために、技術コミュニティは最初から障害者をイノベーター、プログラマー、デザイナー、クリエイター、そしてもちろん、周囲の世界を媒介するテクノロジーを物質的に形作ることができるユーザーそのものとして受け入れる必要があります。