「ラファに注目」：AI画像が拡散、倫理的問題提起

難民のテントは広大な砂漠に広がっており、何万ものテントが整然と並んでおり、中央には「ラファに全員注目」と書かれているものもあった。

この投稿は、ノーベル平和賞受賞者のマララ・ユスフザイ、映画「ブリジャートン家」の女優ニコラ・コフラン、モデルのベラ・ハディッドなど、世界中の何百万人もの人々にシェアされ、 イスラエルのミサイル攻撃で民間人数十人が死亡 ガザ地区南部の都市にあるパレスチナ避難民キャンプにて。

しかし 画像は、ぼやけや異常な影、人工知能特有のパターンの繰り返しが特徴で、偽物と思われる。専門家は、これはAIが生成した活動家イメージの新しい形を表していると述べている。

「これは、バイラル活動にAIが利用された最初の大きな例の一つだ」と、英国を拠点とするソーシャルメディアコンサルタントのマット・ナバラ氏は語る。「これは、ソーシャルメディアプラットフォームを利用して、潜在的にバイラルに広がり、メディアや政治家の注目を集める可能性のあるメッセージを生成するという、これまで見てきたものの進化だ。」

ナバラ氏は、AIから画像を生成することで、活動家は著作権侵害を避けたり、ソーシャルメディアプラットフォームの暴力や扇動に関する規則を回避したりできると述べた。イスラエルとハマスの戦争の過程で、多くの活動家、ジャーナリスト、人権団体が、インスタグラムやフェイスブックを所有するメタなどのソーシャルメディア企業が、負傷したり殺害されたパレスチナ人の写真を含む、ガザでの残酷な内容や暴力の画像や動画を削除したと苦情を訴えてきた。

「平均的な人は、著作権を侵害しない、あるいは人々が好まない、あるいはMetaがプラットフォームに投稿してほしくないようなひどい内容のコンテンツや、Photoshopの使用やソースの取得が特に得意ではありません」とナバラ氏は言う。「確かに、AIは活動家によるバイラル投稿を生み出す機会を生み出します。」

しかし、生成型 AI の登場により、活動家はストック写真に頼ったりメタルールに違反したりすることなく、より簡単かつ安価に強力な画像を作成できるようになったが、同時に悪用される可能性もある。専門家は、一部のコンテンツ作成者が AI で生成された非常に魅力的な画像を作成し、虚偽の情報を宣伝したり、スパムへのリンクを追加したりする可能性があると懸念している。

「おそらく、その目的は、たくさんの注目を集め、たくさんの「いいね！」やシェア、コメントを獲得することでしょう」とナバラ氏は言う。「そして、それが拡散したら、そのページをめくってスパムコンテンツやフィッシングコンテンツへのリンクを追加したり、その他の否定的またはスパム的な方法で使用したりするのです。」

ジャーナリストや活動家がソーシャルメディアでガザの実際の写真を共有するのに苦労しているときに、AI画像はラファ難民キャンプの無害化されたバージョンを提供していると主張する人もいる。

「意識を高めるために、非常に生々しく不快なコンテンツを投稿する人がいますが、それが検閲される一方で、合成メディアが拡散するのは不快です」と、ヒューマン・ライツ・ウォッチのデジタル権利に関する上級研究員で擁護者のデボラ・ブラウン氏は述べた。同氏は昨年12月に報告書を共同執筆した。

「ラファに注目」というフレーズは、イスラエルが5月6日にラファでハマスに対する攻撃を開始し、エジプト国境に近いガザ南部の都市から100万人以上の人々が避難する前に作られたものだ。

リッチピーパーコーン世界保健機関（WHO）のガザ地区およびヨルダン川西岸地区事務所を率いるアハメド・アハメド・アハメド氏は2月、イスラエルがハマスの拠点を破壊するためにラファ周辺地域に侵攻する計画に反対する発言をした際にこのフレーズを使用した。

「すべての目がラファに向けられている」ピーパーコーン 言った WHOの記者会見で、ラファは避難したパレスチナ人にとって残された最後の避難所の一つであると指摘した。

このスローガンは、ここ数ヶ月親パレスチナ派や人道支援団体によって採用され、大学のキャンパスのあちこちのプラカードに落書きされたもので、日曜日にイスラエルの攻撃で45人が死亡、200人が負傷した後、ソーシャルメディアで流行したとガザ保健省は発表した。ベンヤミン・ネタニヤフ首相は、イスラエルが3週間前に攻撃を開始して以来、同市に対する最も致命的な攻撃となったこの攻撃を「悲劇的な過ち。」

インスタグラムは、同サイトで4000万回以上シェアされた「ラファに注目」画像について、ユーザーにAIによって生成されたことを知らせるラベルをまだ付けていない。

「合成コンテンツがラベル付けされておらず、現場で実際に起こっていることに関して混乱を招いたり、混乱を招いたりするのであれば、それは問題だ」とブラウン氏は語った。

イスラエルのミサイル攻撃後のラファの難民キャンプの写真は、AIが示した青空の下の整然としたキャンプよりも、さらに陰鬱で混沌とした現実を示している。ミサイル攻撃から数時間後、キャンプは瓦礫で散乱し、いくつかのテントだけが残っており、灰色の空に灰色の煙を吹き出すオレンジ色の燃えさしだけがくすぶっていた。

イスラエルが日曜日にラファを攻撃して以来、ジャーナリストや活動家らは、攻撃による人的被害の写真をソーシャルメディアで共有できていないと述べている。月曜日、ニューヨークを拠点とする独立調査ジャーナリストのリラ・ハッサンは、 投稿 ラファで首を切られた子供の写真をシェアしようとして以来、彼女はインスタグラムで交流したり投稿したりすることができなかったという。

「警告も受けておらず、苦情を申し立てることすらできない」とハッサンさんは言う。 書きました ソーシャルメディアプラットフォームXで。「これは私が回避できない検閲だ」

ヒューマン・ライツ・ウォッチによれば、メタなどのソーシャルメディア企業は、負傷したり殺害されたパレスチナ人の写真を含む、ガザでの残酷な内容や暴力の画像や動画を繰り返し削除している。

昨年12月、ニューヨークを拠点とする非政府組織は、イスラエルとハマスの戦争中のメタの政治的制限を記録した51ページの報告書を発表した。「Meta の破られた約束: Instagram と Facebook でのパレスチナ関連コンテンツの組織的検閲報告書によると、2023年10月から11月の間に、パレスチナ人とその支持者によってインスタグラムとフェイスブックに投稿された1,050件を超える「コンテンツの削除およびその他の抑制」が記録されている。

検閲された写真の中には、イスラエル人がパレスチナ人に放尿する動画や、妹を殺された後に「アラブ人はどこだ？」と叫ぶパレスチナ人の子供の動画などがあった。メタは、これらが暴力と扇動に関する同社の方針に違反していると主張した。

「これらのケースでは、共有されたコンテンツのニュース価値が非常に高いため、暴力と扇動に関する方針に基づいてこのコンテンツをブロックするという決定を正当化することは困難である」と報告書は主張している。

「ラファに注目」が拡散した後、親イスラエル派の活動家らは「10月7日にはどこに注目していたのか？」と反論した。 1つ 赤い髪の幼児の上に立つハマス兵士の絵が描かれたこの投稿は、後にインスタグラムによって削除されたという。 イスラエルタイムズ「ラファに目が向いているなら、人質を見つけるのを手伝ってください」と、別のインスタグラムストーリーで書かれている。 今すぐ家に連れて帰りましょう。

他のユダヤ人批評家は、「オール・アイズ・オン・ラファ」が「怠惰」で「非生産的」な活動を奨励していると非難した。

「ガザとは全く似ていないAI画像を共有すると、実際何が起こるのか？」 書きました ロンドンを拠点とするジューイッシュ・クロニクルのデジタル部門責任者、ジョシュ・カプラン氏。

「『ラファフに全目』の投稿は、『私は気にかけている』と述べるための、またもや空虚で怠惰な方法であり、『私はできるだけ人々の苦しみを少なくして紛争を終わらせることを気にかけている』とは言っていない」とカプラン氏は述べた。「殺されたすべての民間人のことを気にかけている」