GoogleとAppleが提供するGrokやその他の「ヌード」アプリにより、シリコンバレーは世界的な怒りの中心に – Baltimore Sun

最先端の AI テクノロジーにより、少年も男性も同意なしに少女や女性の服をデジタルで脱ぐことができるようになり、シリコンバレーは男性優位となった。 女性に対して不親切だと長い間批判されてきたxAIのGrokチャットボットが世界的な怒りを引き起こし、GoogleとAppleがアプリストアで数十の「ヌード」アプリを許可したことを受けて、新たに厳しいスポットライトが当たった。

Grok はスタンドアロン アプリであり、イーロン マスク氏のソーシャル メディア プラットフォーム X の機能でもあり、画像編集機能が 12 月にリリースされてから 11 日間で 300 万枚の性的画像を生成しました。 デジタルヘイト対策センターが報告。ユーザーは、画像の中の本物の女性と、2万人以上の子供たちをデジタル的に剥ぎ取り、多くを性的なポーズに操作した。マスク氏はAIが生成したビキニ姿のトースター画像を再投稿し、それについて「笑いが止まらなかった」と軽蔑的な反応を示した。

カリフォルニア当局は笑っていなかった。

ロブ・ボンタ司法長官事務所は「女性と子供を裸で性的に露骨な状況で描いたこの素材は、インターネット上で人々に嫌がらせをするために使用されている」と述べた。 ニュースリリースで述べた 先月、Grok氏が生成した画像が法律に違反していないかどうか調査すると発表した。捜査はまだ進行中であり、ボンタ氏は「この問題を迅速に進めることに尽力している」と水曜日に彼の事務所が発表した。

先月下旬、大手テクノロジー企業の説明責任に特化した「Tech Transparency Project」が、 報告書を発表しましたGoogle Playのアプリストアで55件、Appleのアプリストアで47件のアプリが見つかったと発表したところによると、同意なしに本物の女性の画像を加工して、全裸または半裸にしたり、ビキニやその他の露出度の高い服を着たりする可能性があるという。

Tech Transparency Projectによってヌード化アプリの提供者として注目されている企業は、マスク氏のxAI、Google、Appleほど広く知られておらず、レッドウッドシティのDreamFaceから中国のBodivaまで拠点を置いている。 Tech Transparency Projectの報告によると、Bodivaは写真で女性を裸にする「Show Off Body」機能を提供しており、写真をポルノビデオに変えるオプションも提供しているという。

アプリをめぐる論争は、サンフランシスコのOpenAIが2022年末にユーザーがプロンプトに応じて言葉、音声、画像を生成できる先駆的なChatGPTをリリースして以来、最近勃発したばかりだ。 AIが生成した 法的申告における誤り、学生の宿題での AI 使用の普及と訴訟 チャットボットは自殺を奨励した 警鐘を鳴らしている。

AI で生成された画像には、次のような多くの州法および地方法が適用されます。 連邦政府のテイク・イット・ダウン法 この法律は、共和党のテッド・クルーズ上院議員（テキサス州選出）によって導入されたもので、衣服を脱がせた本物の人々のAIが作成した「ディープフェイク」画像など、同意のない親密な画像をインターネットユーザーが公開することを禁止している。法律の規定では、ウェブサイトやアプリに対し、有効な削除リクエストから 48 時間以内にそのような画像を削除することも求められています。

昨年可決されたカリフォルニア州議会法案 621 は、同意のないディープフェイク ポルノを禁止するものです。この法案の著者であるイーストベイ民主党議会議員レベッカ・バウアー＝カーハン氏はメディアに対し、この法律はまさにグロクが生み出しているものを阻止するために起草されたと語った。

「これらは人々に女性に危害を加える能力を与える道具だ」と全米女性機構カリフォルニア支部会長のカメリーナ・デイビッドソン氏が今週語った。 「AIは女性蔑視を再発明した。」

デビッドソン氏は、テクノロジー企業は男性に対し、「非常に簡単に入手できるAI主導のプラットフォームを利用して、女性に嫌がらせをしたり、女性に対する権力を主張しようとしたりするためのより強力な方法」を提供していると述べた。

Appleは、ガイドラインではあからさまに性的またはポルノ的なコンテンツを禁止しており、Tech Transparency Projectが特定したアプリのうち28個を削除したと述べた。残りの部分については、Appleはアプリ開発者に対し、タイムリーな方法で違反を是正する必要があると警告したと述べた。 Appleは、どのように速やかに救済を行う必要があるかについては説明していない。

Googleは、Tech Transparency Projectによって特定された「ほとんどのアプリ」を停止し、この問題に関する調査は継続していると述べた。

これらのアプリに対して措置を講じているにもかかわらず、Google と Apple はアプリ ストアで Grok を提供し続けています。

Grokは、最近マスク氏のロケット会社スペースXと合併したパロアルトの人工知能会社、マスク氏のxAIが運営しているが、質問には応じなかった。

同社は1月初旬にXに投稿した 「安全措置の欠如」を理由に挙げた それは「緊急に修正中」であると。しかし、そのような緊急性があるとされていたにもかかわらず、ロイター通信は今月、1月14日から16日と1月27日から28日の間に、記者チームが自分たちの着衣写真をGrokにアップロードし、チャットボットに屈辱的なポーズや性的に挑発的なポーズで写真を描くよう依頼したと報じた。

「ほとんどの場合、被験者が同意していないと告げられた場合でも、グロクは性的な画像を返しました。」 ロイター通信が報じた。

1月、マスク氏の子供の一人の母親であるアシュリー・セントクレア氏は、 xAIをニューヨーク最高裁判所に提訴は、Grokがユーザーの要求に応じて、彼女の「無数の性的に虐待的で、親密で、品位を傷つける」画像を作成したと主張した。 「とりわけ、Xユーザーはセントクレアの14歳のときの服を着た写真を掘り出し、彼女の服を脱がせてビキニにさせるようグロクに要求した」と訴状には記載されている。 「グロクは義務を負った。」この訴訟はニューヨークの連邦裁判所に移送され、xAIの弁護士らは現在テキサス連邦裁判所への移送を求めて争っている。

しかし、被害を受けるのはアプリによって服を脱がされた女性や少女だけではないとデビッドソン氏は言う。

「他の女性に対して行われていることを見ると、それは女性に感情的、心理的な影響を与え、女性は自分自身に注目を集めたくないのです」とデービッドソン氏は語った。 「私が知っているオンライン上の女性の多くは、本名を使用していません。攻撃されることを望んでいません。」

女性と子供の虐待と闘うロスアルトスの非営利団体ウィメンズSVのエグゼクティブディレクター、ルース・ダーリーン氏は、ユーザーが本物の女性や少女を性的対象に変えることを可能にすることで、アプリは少年や男性に、少女や女性は「男性の目的を果たすために存在する」というメッセージを送ることになると語る。

「あなたは彼らに対して自分のやりたいことをすることができます。」

性的な写真を目的とした Grok の使用は、世界中で大騒ぎを巻き起こしました。 1月中旬の英国議会議員ら 声明を発表した 「Grok AI を使用して、X 上で女性と子供の性的に露骨で同意のない画像を生成し、広めることを非難しています。これには、未成年者のデジタル的な脱衣や性的な画像も含まれます。」欧州委員会と英国のプライバシー監視機関はいずれも、この問題に関してGrokに対する正式な調査を開始した。

2月3日、フランスの検察当局は、児童のポルノ画像、性的に露骨なAI生成の「ディープフェイク」画像、その他の素材を所持し拡散した疑いがあるとフランス当局が発表した捜査のため、イーロン・マスク氏のソーシャルメディアプラットフォームであるXのオフィスを家宅捜索した。フランス当局に呼び出されたマスク氏は、Xに対して次のように訴えた。 この動きを「政治的攻撃」と呼ぶ。「

マレーシアとインドネシアはいずれも画像編集を理由にGrokをブロックした。

シリコンバレーのテクノロジー業界で長年続いてきたジェンダー関連の論争を受けて、カリフォルニアからクアラルンプールまで怒りが噴出している。 2012年に実業家エレン・パオ氏がメンローパークのベンチャーキャピタル会社クライナー・パーキンスを相手取った性差別訴訟は敗訴したが、テクノロジー業界における女性の扱いに注目が集まった。 2017年、Uber CEOのトラビスは カラニック氏は追放された 真ん中 セクハラスキャンダル、そして翌年、同社は女性とマイノリティを差別したと主張する訴訟の和解のために1,000万ドルを支払うことに同意した。 2018年にも、 何千人ものGoogle従業員が仕事を辞めた 職場のセクハラへの会社の対応を巡って。 4 年後、Google 1億1,800万ドルを支払うことに同意した 女性の給与が男性よりも低く、昇進も遅く、頻度も低いとして、最大1万5500人の女性に数年に及ぶ集団訴訟で和解を求めた。

サンタクララ大学マークラ応用倫理センターのリーダー倫理シニアディレクター、アン・スキート氏は、xAI、グーグル、アップルなどの企業にとって、脱衣アプリの利用可能性はリーダーシップの失敗を意味すると語る。

「彼らが今取り組んでいるような評判のヒット作は、会社の価値を損なう」とスキート氏は語った。 「彼らは実際、彼らが率いる責任を負っている存在そのものに害を与えているのです。」