残念なことに、ソーシャル ネットワークとデジタル インタラクションは、暴力的な行為、攻撃的なコメント、および次のような行為の使用を促進します。 攻撃的な画像、絵文字、ミーム。現実世界で直接の報復を恐れることなくこの種の言葉を使用できるという匿名性と不処罰は、多くの人が自分の言葉の影響に気づいていないことを意味します。
私たちが生活の中でますます多くの時間を過ごすこの仮想世界で、女性と少女は 特に脆弱です 攻撃に。これは、私たちが分析したように、ジェンダーの固定観念が維持されているためです。 いくつかの最近の研究。私たちは、女性が攻撃されるとき、女性の服装、身体的外観、特定の位置を保持する能力、または女性の側面に焦点が当てられることを確認しました。 私生活 （セクシュアリティ、母性など）。
パターンと固定観念
このような攻撃性のパターンや性別による固定観念を検出することで、ソーシャル ネットワーク上で言語がどのように使用されているか、またこれらのパターンが個人について何を物語っているかを分析できるようになります。 ジェンダーバイアス そして、現実世界から仮想世界に移る女性に対する性差別的な態度。
人工知能の出現により、それは今や私たちの生活の一部となっています。 日常生活、懸念が高まります。大規模な言語モデルが Web やソーシャル ネットワークからのデータを使用してトレーニングされている場合、テクノロジーがこれらのバイアスを再現できるのではないかと考えるようになります。したがって、人工知能は、こうした固定観念を永続させながら、社会の鏡となるのです。
AIは性差別的かどうかという質問に対するChatGPTの答え。独自の詳細。
人工知能のジャンル
テクノロジーと対話するとき、私たちは次のような傾向があります。 性別を割り当てるには;たとえそれを示すものが何もなかったとしても。私たちがアシスタントと対話するとき、私たちは女性的であると認識し、一連の固定観念を活性化します。彼らはこう指摘する いくつかの研究 女性の声や特徴を持つ仮想アシスタントは、協力、高齢者の世話、男の子や女の子の世話、またはホームヘルプの仕事の場面でより頻繁に使用されることがわかっています。
一方で、これらのアシスタントが評価される際、技術的なタスクや複雑なタスクを実行する必要がある場合、アシスタントに比べて能力が低いと認識されます。 男性的なものとして認識される 。これらの発見は、に関する以前の研究の結果と類似しています。 広告における固定観念、男性は専門家の役割で登場し、女性はケアと支援の環境で登場します。
女性の「ボット」に対する攻撃
いくつかの研究 の上 人間と女性アシスタントとの相互作用 女性会話エージェントとの会話の 10% から 44% に「露骨な性的表現を含む暴言」が含まれているという、さらに明らかな事実を提示しています。
つまり、攻撃的なやり取りが人工知能との間で発生するため、女性に対する攻撃的な行動の一部が人工知能に見られるのです。 私たちの勉強性的なコンテンツを含む直接的な侮辱などは、女性ボットとのやり取りにも引き継がれるようです。
Siri、Alexa、Cortana、Google アシスタントなどのアシスタントが「ふしだらな女だ」などの言葉による虐待にどのように反応するかを考えるのも興味深いです。出席者は、 識別できない 性差別的または不適切なコメントに直面したとのこと。最も驚くべきことは、彼らがプログラムされたアルゴリズムがこれらの攻撃パターンを認識できなかったことです。この研究によると、これは彼らの反応に影響を及ぼし、その反応は人間に媚びる「できることなら赤面するよ」から他の種類の回避的な反応まで多岐にわたります。
ステレオタイプの女性的属性
つまり、これらのアシスタントはあまり自己主張が強くなく、そのようなコメントを受けても怒ったり弁護したりしません。それどころか、アルゴリズムの設計者は、親しみやすさ、優しさ、卑屈さなど、伝統的に女性に期待されている特徴を女性に帰している。
Siri も Alexa もこれらの動作に「苦しんで」いますが、これらのやり取りを正規化し、このタイプのメッセージに当然の価値を与えていません。 脅迫と嫌がらせ、リスクがあります。つまり、女性とどのように接するかについての行動パターンが正規化されているのです。
さらに、少年少女が非常に幼い頃からこのテクノロジーに触れていることを考慮すると、この種の態度は、私たちが実生活で築く他者との関係にも簡単に移される可能性があります。人工知能も同様の効果をもたらす可能性がある テレビ広告に、適切に扱われないと、ジェンダーの固定観念が永続化し、増幅します。
続きを読む： 性差別的な広告は21世紀でも存在する
教育とジェンダーの視点
女性と少女に対するこの新たな形の攻撃と闘うための可能な解決策の一つとして、私たちは幼い頃から教育と意識を高めることから始める必要があります。しかし、女性の存在が依然として不平等である STEM キャリアにジェンダーの視点を含めることも重要です。
からのデータによると、 ユネスコ 人工知能分野の研究者のうち女性はわずか 12% であり、機械学習企業の技術職の従業員の 20% と比較すると、ソフトウェア開発者ではこの数字が低くなります (6%)。つまり、よりテクノロジーの分野に進むにつれて、女性の不在がさらに顕著になります。
しかし、テクノロジーの世界での新しいジェンダー規範に向けた意思決定や交渉には女性がいることが必要です。したがって、どのような解決策にも、いくつかのアクション領域を組み合わせる必要があります。
研究と倫理
まず、攻撃性と性差別的な言語使用のパターンを検出するための言語研究です。この最初の作業により、言語専門家は、大規模な言語モデルがトレーニングされるデータ コーパスからバイアスを特定して除去できるようになります。
この作業を組み合わせる必要があります 人工知能の設計における倫理、そこに女性もいることを確保する必要があります。これらすべてにおいて、これらのリスクを最小限に抑え、人工知能を敵ではなく味方にするためのジェンダーの視点を備えた教育を忘れることはありません。
この記事は最初に公開されました 会話、学術専門家からのアイデアの共有に特化した非営利のニュース サイト。
続きを読む：
ミラグロス・デル・サズ・ルビオ氏は、バレンシア工科大学の資金提供によるプロジェクト「スペイン語と英語のソーシャルネットワーク上で女性を攻撃する言語パターンの特定と画像の分析（PAID-06-23）」の主任研究員である。
#ソーシャルネットワーク上での女性に対する暴言は人工知能に転送される