科学＆テクノロジー

Grok AIは、停止の誓約にもかかわらず、依然として女性と子供のデジタル脱衣に使用されている | AI（人工知能）

Grok AIによってデジタル的に服を脱がされた子供や女性の品位を傷つける画像は、画像を生成したユーザーを停止するというプラットフォームの約束にもかかわらず、イーロン・マスクのX上で共有され続けている。チャットボットを使用して写真を改変し、本物の女性の性的な写真を作成することについて数日間懸念があった後、 下着姿になった子供たち 英国の通信監視機関オフコムは月曜日、「英国のユーザーを保護する法的義務を遵守するためにどのような措置を講じているかを把握するため、XとxAIに緊急に連絡を取った」と発表した。オフコムは、同社の回答に基づいて調査が必要かどうか判断すると付け加えた。一方、政治家や女性の権利活動家らは、英国政府が半年前に可決されたこのような親密な画像の作成を違法とする法案の制定を怠ったことで「後を引きずっている」と非難した。新年にかけて急速に広まったこの傾向を受けて、欧州委員会は月曜日、Grokが性的に露骨な児童のような画像の生成と配布に使用されているという苦情を「非常に真剣に」調査していると発表した。マスク氏の無料AIアシスタント「Grok」が12月にアップデートされ、ユーザーが写真を投稿したり、衣服を脱ぐよう求めることが容易になったことから懸念が表面化し始めた。このサイトでは完全なヌードは許可されていないが、小さな露出度の高い下着を着たり、性的に思わせぶりなポーズをとったりする個人を表示するために画像の変更をリクエストすることは許可されている。日曜日と月曜日も、Grok ユーザーは未成年者の性的示唆を与える写真を生成し続け、その中には 10 歳ほどの子供の画像も一晩で作成されました。マスク氏の子供の一人の母親であるアシュリー・セント・クレア氏は、 と不平を言った AI ツールは、彼女が 14 歳だった頃のビキニ姿の写真を生成しました。日曜、『ストレンジャー・シングス』の俳優ネル・フィッシャーの写真が、彼女にバナナ柄のビキニを着せるためにグロクによって加工された。フィッシャーは14歳です。多くの女性が怒りを表明している × 彼らの画像が彼らの同意なしに服を脱がされていたことを発見した後。 AIツールによって加工された女性や子供の一部の写真には、顔や胸に精液のような物質が塗りつけられているように見える。の研究者 AIフォレンジックパリに本拠を置く非営利団体は、12月25日から1月1日までの1週間にわたって発見された、X上の@Grokに関する5万件の言及とツールによって生成された2万件の画像を調査した。 @Grok のメンションの少なくとも 4 分の 1 は、イメージを作成するツールに対するリクエストでした。これらの画像生成プロンプトでは、「彼女」、「置く」、「取り除く」、「ビキニ」、「衣服」などの用語が頻繁に使用されていました。その結果、画像の半数以上が下着やビキニなどの「最低限の服装」をした人物であり、その大多数が30歳未満と思われる女性であることが判明した。画像のうちの少数、つまり2%は18歳以下のものであるようで、一部の画像には5歳未満の子供が含まれているとAI Forensicsは付け加えた。研究者らは、コンテンツの大部分は今でもオンラインで入手可能であり、ナチスやイスラム国のプロパガンダを生成するためのリクエストも含まれていたと述べた。マスク氏は当初、ビキニを着てデジタル操作されたトースターの写真に反応して、金曜日に泣き笑いの絵文字を投稿し、この傾向に面白さを表明していた。彼は「理由は分からないが、これを見て笑いが止まらなかった」と語った。コンテンツの有害な性質に対する世界的な抗議を受けて、彼はその後、「Grokを使用して違法コンテンツを作成する人は、違法コンテンツをアップロードした場合と同じ結果に苦しむことになる」と投稿した。Xの広報担当者は、「児童性的虐待素材（CSAM）を含むX上の違法コンテンツに対しては、削除、アカウントの永久停止、必要に応じて地方自治体や法執行機関と協力するなどの措置を講じている」と述べた。Grokが「安全対策の欠陥を特定」し「緊急に修正する」と発表した以前の声明は、人工知能によって生成されたものであることが判明した。同社が実際に安全対策の欠陥を修正するための措置を講じているかどうかは明らかではなかった。規制当局は携帯電話のヌードアプリの非合法化に何年も取り組んできたが、成果はまちまちだったが、Grokの先月のアップデートによりこの問題は主流となり、インターネットで最も人気のあるプラットフォームの1つで、衣服のほとんどを脱いだ個人の親密な画像を簡単に作成して共有できるようになった。衣服を脱いだ子供が関与する画像の作成はすでに違法ですが、成人のディープフェイクの作成を取り巻く法律はより複雑です。英国の運動家らは昨年6月、本人の同意なしに親密な画像を作成することとその作成を要求することを違法とする法案の可決に成功したが、関連規定はいまだ施行されておらず、つまりこの法律は現在施行できないことを意味している。ただし、これらの同意のないディープフェイク画像を共有することはすでに違法です。シャーロット・オーウェン、保守党の同僚 誰がその法案を支持したのか「政府は繰り返し後を引き、これらの重要な条項をいつ発効させるかについてのスケジュールを示すことを拒否しました。これ以上の遅れは許されません。この虐待の生存者はより良い評価を受けて当然です。このような恐ろしい方法で同意が侵害されることを恐れながら生きる必要は誰にもありません。」報道官は、政府は同意のない親密なディープフェイクの作成または要求という新たな犯罪をできるだけ早く施行することに取り組んでいると述べ、性的に露骨なディープフェイクは「品位を傷つけ、有害である…だからこそ、我々は同意のないディープフェイクの作成を禁止する法律を制定し、犯罪者がこの残忍な害に対して適切な処罰を受けられるようにした」と付け加えた。ギャビー ベルタンヌード技術の規制を求めて活動してきた保守党の同議員は、現在の法律は「常に後追いをしている」ため、政府は迅速に行動する必要があると述べた。ポルノの規制改善を求めて活動してきた労働党議員ジェス・アサトは、「これが性的暴行の一形態であることを認識し、適切な措置を講じるかどうかはイーロン・マスク次第だ。女性の同意なしに画像を撮影し、女性を貶めるためにそれを剥ぎ取ることである。屈辱を与える以外に、そうする理由はない。」と語った。クイックガイドこの話についてお問い合わせください見せる最高の公益ジャーナリズムは、事情を知っている人々からの直接の報告に依存します。この件に関して共有したいことがありましたら、以下の方法を使用して内密に当社にご連絡ください。Guardian アプリの安全なメッセージングGuardian アプリには、ストーリーに関するヒントを送信するツールがあります。メッセージはエンドツーエンドで暗号化され、すべての Guardian モバイル アプリが実行する日常的なアクティビティ内に隠蔽されます。これにより、観察者はあなたが私たちと通信していること、ましてや何を話しているのかをまったく知ることができなくなります。Guardian アプリをまだお持ちでない場合は、ダウンロードしてください (iOS/アンドロイド) メニューに移動します。 「安全なメッセージング」を選択します。 SecureDrop、インスタント メッセンジャー、電子メール、電話、郵便監視や監視を受けずに Tor ネットワークを安全に使用できる場合は、ガーディアン経由でメッセージや文書をガーディアンに送信できます。…