LGBTIQ+ の偏見が AI に及ぼす影響: 「私たちはメッセージ内で『クィア』という言葉を避けることを余儀なくされています」 |テクノロジー

アルジュン・サブラモニアンさん（米国、24歳）は、偶然にもカリフォルニアで育った。 グラマー ハリウッド そして何よりも、技術革新のメッカであることが挙げられます。彼 ゴールデンステート ここは何百ものコンピューター産業が集まった発祥の地です。 シリコンバレーこの環境は、彼が幼少期に、将来人間が運転する最先端の自動車にコンピューターがどのように電力を供給するかを想像させたものでした。しかし、カリフォルニア大学でコンピューターサイエンスを学んでいたとき、サブラモニアンの認識に何かが変わりました。当時、彼は自分が同性愛者であることを公言し、テクノロジー業界では 20% 少ない LGBTIQ+ グループの疎外について毎日考えていました。 「インターネットからの情報を使用してトレーニングされた大規模な言語モデルがあります。そして、あなたが女性であろうと、黒人であろうと、同性愛者であろうと、その場所はあなたにとって非常に有毒であることは誰もが知っています」と彼は振り返ります。 アルゴリズムのバイアス またはの 機械学習のシステムに影響を与える一連の望ましくない偏見 生成人工知能 (AI)。

機械学習は、伝統的に社会から排除され、同時に専門分野で過小評価されているグループに対して何百もの歪みを矢のように落とす原因となる偏った結果から自由ではありません。 幹、 サイエンス、テクノロジー、エンジニアリング、数学の英語の頭字語。スブラモニアンもその一人です AIにおけるクィアの主な推進要因この組織は、科学的生産における多様性を可視化するために、世界 47 か国以上に活動家が所属し、2020 年半ばに設立されました。 「検閲は、短期的に私が目にする最大の害の一つです」と彼は警告する。

サブラモニアン氏は、パンデミック中に活動家たちがロケットチャットと呼ばれるメッセージングプラットフォームで集まっていたことを思い出した。彼らがお互いに話そうとしたとき、彼らはこの言葉が 奇妙な何らかの理由で送信されませんでした。 「メッセージの送信が妨げられるため、私たちはその言葉を避けざるを得ませんでした」と彼は言います。 Subramonian 氏によると、これは、プラットフォームのガイドラインやポリシーに準拠するようにユーザー作成コンテンツを管理するブロック リストが存在するために発生します。これは、テキスト、画像、ビデオ、さらにはライブ ストリームからのデータをフィルタリングして管理できるデジタル プロセスです。用語をフィルタリングするために再利用されることがよくあります 奇妙な 大規模な言語モデルなどの AI トレーニング データ。

「特定の言葉が不適切であると認識されることがよくあります」と彼は説明します。たとえば、2012 年までは、 Googleはバイセクシュアルという用語を検討しました 一種のポルノのようなもの。データは AI の原材料であり、部分的な情報でトレーニングされた場合、マシンが提供できる答えは非常に限られています。この種の状況は、2022 年にウクライナで戦争が勃発した後、母国を離れタイを拠点とするトランスジェンダーで人権活動家であるイリア S さん（ロシア、29 歳）に起こりました。「私の声は非常に中性的です。口調が変わることがよくあり、私を老婦人と混同され、場合によっては母親と混同されます」と、安全を守るためにフルネームを明らかにしないことを選択した弁護士は言う。

AI システムに関して彼が経験した最も苦痛な瞬間は、ロシアに住んでいたときに銀行で経験したことです。完了していないトランザクションを確認する必要がありました。銀行幹部は、彼の出生地や口座の残高など、具体的かつ珍しい質問をし始めた。 「それはあなたではありません」というのが彼が受け取ったメッセージだった。なぜならそれがAI音声認識システムの結論だったからである。その後、弁護士は詐欺の疑いでカードをブロックするという脅迫を受けました。 「それが自分であることを証明できなかったので、泣きそうになった」と彼は言う。 「現在は、ビデオ通話を行って自分の顔を写真と比較するオプションがありますが、多くのプラットフォームではこれは当てはまりません」と彼は明確にします。

の検閲 奇妙な

コンテンツのバイアスは、意図的かどうかに関係なく、インターネット上で有害で誤解を招く結果を引き起こす可能性があります。アルジュン・スブラモニアンは、彼の伝記でそのような経験をしました。彼はかつて、すべての情報をオンラインで収集した生成 AI で作成されたテキストに遭遇しました。問題は、彼がノンバイナリーの人であるため、代名詞が間違っていたことでした。このエラーは次のように知られています 性別を間違えたこれはトランスジェンダーとインターセックスの人々に影響を与える現象です。 「コンテンツは監視されており、あなたのコントロールの外にあります。外見に関して多くの検閲が発生する 奇妙な 自分のアイデンティティについて」と彼は振り返る。

イリア・Sさんにとって、これは、この種の困難に苦しむトランスジェンダーの人々が苦しむ普遍的な問題です。ロシアの法学者は、ウラジーミル・プーチン大統領がLGBTIQ+のプロパガンダを禁止する法律を公布した2013年から活動家として活動している。この措置が施行されて以来、ロシアのウェブサイトからこれらのトピックに関するコンテンツの量が消えており、公共図書館の書籍検索システムにも影響を与えている。 「LGBTIQ+ コンテンツに関連する特定の用語を入力しても、タイトルが削除されているため、何も見つかりません」と彼は言います。

専門家によって検出された他の欠陥は、性別、年齢、顔の特徴を通じて人々の顔を同化できるツールである顔認識システムにもあります。イリアの顔は、次のようなアプリケーションの一部でも正しく読み取られません。 ミッドジャーニー。テキストから画像を生成する機能がついたソフトです キャラクターリファレンスで行うこともできます 人間の顔の写真。このプログラムの古いバージョンでは、顔を処理できませんでした。

「時々、これらのアプリは私の顔を老人のように読み取ったり、モンスターを生成したりします。 Midjourney がキャラクターリファレンスを導入したところ、大幅に改善されました」と彼は言います。

良くも悪くもない

AI は同性愛嫌悪、男らしさ、人種差別を再現することができますが、 デウスト大学での研究 私はすでにこのことについて 2023 年に警告しましたが、実際にはそれは良くも悪くもありません、と理論言語学の博士でビッグ オニオンの共同創設者であるクリスティーナ アランダ (スペイン、マドリード、48 歳) は言います。 「これは私の洗濯機のようなもので、どのプログラムをかけるかは私が決めます。 意思決定を行う企業は異性愛者の男性で構成されている 同じ大学で教育を受け、おそらく一緒にバーベキューを祝う中年の人たちだ」と彼は皮肉を込めて言う。

企業と協力して言語によるプロセスを自動化する専門家は、テクノロジー分野にも人文科学のプロフィールが必要であると考えています。 「言葉ほど文献学的なものはない」と彼は言う。この考えに沿って、政治学者で分散型人工知能研究所の研究員であるアディオ・ディニカ氏（ジンバブエ、33歳）は次のように述べています。DAIR、英語の頭字語）は、「物事を発明するツールではない」と考えており、むしろ「シリコンバレーはAIの課題を決定するために来た」という白人のビジョンが勝った製品だと考えています。

数年前、アランダは失業中にブランドが検索エンジンでの地位を確立できるようにするためのコースを受講し、そこでひらめきました。 「インターネットで検索するとき、私たちは言葉を書くことに気づきませんでした。 Google は依然として、語彙意味論的な検索エンジンです」と彼は言います。アランダとは、簡単に言えば、語彙、意味の階層、プラットフォームによって実行される単語の解釈を指します。

データの 80% はインターネット上にあります 構造化されていない分類プロセスには、心理学者や人類学者などの他の専門家も関与することが重要です。 「これらのシステムは賢いのですが、社会的インテリジェンスが欠如しているため、驚くほど愚かです。来て！彼らには道路がありません」とアランダは強調する。

があります 技術封建主義 そして「その人工知能をどうするかを決めているのは大企業だ」と彼は付け加えた。イリア氏は、こうした問題を回避するために普遍的な規制の枠組みを確立することは「非常に難しい」と考えている。それどころか、相談を受けた他の専門家は、これらのバイアスに対処するために特定のパラメーターを確立する必要があることに同意しています。

「私たちが目にするテクノロジーの多くは、監視資本主義に基づいた企業によって開発されています。国民はこれらのシステムの決定に服従しており、その理由だけでも、それは非常に重要だと思います」とアルジュン・サブラモニアンは結論づけています。