認めたくないのですが、私はこのホリデー ショッピング シーズンにオンラインでかなりのお金を使いました。そして当然のことながら、それらの購入の中には私の期待を満たさないものもありました。購入したフォトブックが輸送中に破損したため、写真を数枚撮って販売者にメールで送信し、返金してもらいました。オンライン ショッピング プラットフォームは長い間、返金リクエストが正当なものであることを確認するために、顧客が送信した写真に依存してきました。しかし、生成 AI がそのシステムを打ち破り始めています。
怪しすぎるピンチ
WIREDは、中国のソーシャルメディアアプリRedNoteで、AIが生成したとされる返金請求について苦情を訴えるeコマース販売者や顧客サービス担当者からの投稿を少なくとも12件発見した。あるケースでは、購入したベッドシーツが引き裂かれていたが、配送ラベルの漢字が意味不明であると顧客から苦情が寄せられました。別の写真では、購入者は紙の破れのようなひび割れのあるコーヒーマグの写真を送ってきました。 「これはセラミックのカップであり、ボール紙のカップではありません。誰がセラミックのカップをこのように層に引き裂くことができますか?」売り手は書いた。
販売業者は、AI によって生成されたダメージ写真が最も悪用されている商品カテゴリーがいくつかあると報告しました。 生鮮食料品、 低価格の美容製品、セラミックカップなどの壊れやすいもの。販売者は、払い戻しを行う前にこれらの商品を返品するよう顧客に求めないことが多いため、返品詐欺に遭いやすくなります。
11月、中国版TikTok「Douyin」で生きたカニを販売する業者が顧客から受け取った写真では、購入したカニのほとんどがすでに死んだ状態で到着し、残りの2匹は逃げ出したかのようなものだった。購入者は、死んだカニが人間の指でつつかれている様子を映したビデオさえ送った。しかし、何かが違っていました。
「私の家族は30年以上カニを養殖しています。足が上を向いて死んだカニを見たことがありません」と販売者のガオ・ジンさんは後にDouyinに投稿したビデオで語った。しかし、最終的に問題を解決したのは、カニの性別でした。最初のビデオには男性 2 名、女性 4 名が含まれていましたが、2 番目のビデオには男性 3 名、女性 3 名が含まれていました。そのうちの 1 つは、足が 8 つではなく 9 つもありました。
高氏がオンラインで共有した警察の通知によると、後に高氏は詐欺を警察に通報したところ、警察はビデオが確かに捏造されたものであると判断し、購入者を8日間拘留したという。この事件は中国のソーシャルメディアで広く注目を集めたが、その理由の一つは、この種のAI返金詐欺としては初めてのことであり、規制対応のきっかけとなったことも理由の一つだった。
障壁を下げる
この問題は中国に限ったものではありません。ニューヨークに本拠を置く詐欺検出会社フォーター社は、払い戻し請求に使用される AI 加工画像が年初から 15% 以上増加し、世界的に増加し続けていると推定しています。
「この傾向は 2024 年半ばに始まりましたが、画像生成ツールが広くアクセス可能になり、信じられないほど使いやすくなったことで、この 1 年で加速しました。」 Forter 社の CEO 兼共同創設者である Michael Reitblat 氏は次のように述べています。同氏は、小売の最前線で働く従業員や返金審査チームには各画像を綿密に精査する時間がない可能性があるため、AI がすべてを正しく理解する必要はない、と付け加えた。
#中国の詐欺師は返金を受けるためにAI生成画像を使用している