企業

マレーシアとインドネシア、露骨な性的ディープフェイクを巡りXチャットボットをブロック

マレーシアとインドネシアは、性的に露骨なディープフェイクを作成する能力を理由に、イーロン・マスク氏の人工知能（AI）チャットボット「Grok」へのアクセスを遮断した。Musk の X プラットフォーム上のツールである Grok を使用すると、ユーザーはイメージを生成できます。しかし、ここ数週間では、露出度の高い服装をした人物を見せるために、実際の人物の画像を編集するために使用されています。東南アジア諸国は、Grokが女性や子供を含むポルノ的で同意のない画像の制作に使用される可能性があると述べた。彼らは世界で初めてAIツールを禁止した。BBCはGrokプラットフォームにコメントを求めた。マスク氏は以前、自身のプラットフォームを批判する人々が「検閲のあらゆる言い訳」を探していると述べていた。Grokとその親会社Xは、オンライン安全法に従わないとしてソーシャルメディアプラットフォームへのアクセスをブロックする要求をリズ・ケンドール技術長官が支持したことを受け、英国でも圧力にさらされている。マレーシアとインドネシアの通信省は週末、個別の声明でグロクに対する動きを発表した。マレーシア通信・マルチメディア委員会は日曜日、有害なコンテンツを生成するためにGrokが「繰り返し悪用されている」ことが判明したことを受け、今年初めにXに対し、より厳格な措置を求める通知を出したと発表した。しかし規制当局は、X社はその対応の中で、プラットフォームの設計に内在するリスクに対処できず、主にユーザーへの報告プロセスに重点を置いたと述べた。さらに、効果的な安全対策が講じられるまでGrokはブロックされると付け加え、有害なオンラインコンテンツを報告するよう国民に呼び掛けた。インドネシアの通信・デジタル問題大臣、メウティヤ・ハフィド氏はインスタグラムへの投稿で、Grokを使用して露骨な性的コンテンツを作成することは人権、尊厳、オンラインの安全性の侵害であると述べた。同省はまた、マスク氏のXに対し、Grokの使用について説明するよう求めた。インドネシア当局は近年、他のオンラインポルノソースを取り締まり、OnlyFansやPornhubなどのプラットフォームはすでに同国で禁止されている。英国のメディア規制当局オフコムは、グロクに対する対応を近く決定するとみられている。性的な画像を生成するために Grok を使用することは、英国首相のキア・スターマー氏を含む世界中の指導者によって非難されており、「恥ずべき」「不快な」ものだと述べた。 #マレーシアとインドネシア露骨な性的ディープフェイクを巡りXチャットボットをブロック