ロバート・H・ラスティグ博士は、カリフォルニア大学サンフランシスコ校の小児科の名誉教授であり、肥満に関するベストセラーの本の著者である内分泌学者であり、
彼は絶対にそうではありません – あなたがFacebookで見たり聞いたりするかもしれないものにもかかわらず、減量について疑わしい主張で「液体真珠」をホーキングしています。 「注射も手術も、結果もありません」と彼は1つの投稿で言っているようです。
代わりに、誰かが人工知能を使用して、彼と彼の声を模倣するビデオを作成しました。
問題を追跡した医師、政府職員、研究者によると、この投稿は、著名な医療専門家のオンラインペルソナをハイジャックして、証明されていない健康製品を販売するか、単にだまされやすい顧客を詐欺するための詐欺の世界的な急増の一部です。
ヘルスケアには長い間吸収されてきましたが、Big Techによって開発されたAIツールは、これらのなりすましの背後にいる人々が何百万人ものオンラインに到達し、利益を得ることができます。その結果、偽情報を播種し、職業への信頼を損ない、患者を危険にさらす可能性があります。
製品が危険ではない場合でも、役に立たないサプリメントを販売することは、必要な治療を受けるべき人の間で誤った希望を高めることができます。
「これには非常に多くのことが間違っています」と、実際のものであるLustigは、なりすましについて連絡を受けたときのインタビューで述べました。インタビューは、彼が彼らについて学んだのは初めてでした。
食品医薬品局やその他の政府機関、擁護団体や私的なウォッチドッグは、偽造品や不正な健康製品に関する警告をオンラインで強化しましたが、潮を抑えるためにほとんど何もしていないようです。
AIツールの進歩により、説得力のあるコンテンツを生成し、詐欺に対する独自のポリシーを強制しないことが多いソーシャルメディアプラットフォームやeコマースサイトに拡散することが容易になりました。
AIの詐欺的な使用を追跡する会社であるPindropのCEOであるVijay Balasubramaniyan氏は、誰かのイメージと声を再現するために何百ものツールが設計されていると述べています。このテクノロジーは非常に洗練されているため、Swindlersはほんの数匹のクリップや写真から説得力のある詐欺師を作成できます。
「私は実際にあなたのように見え、LinkedInプロフィールから本格的な会話をするAIボットを作成できます」と彼は言いました。
英国のかかりつけの医師であり、栄養と健康に関する2冊の本の著者であるジェマ・ニューマン博士は、4月にインスタグラムに連れて行き、彼女がビタミンB12のカプセルと「純粋な栄養豊富なbe鳥」のカプセルを促進するように変化したティクトクに関するビデオについてフォロワーに警告しました。
ニューマンは恐ろしかった：彼女の肖像は、女性の不安を果たすことで、高用量で有害である可能性のあるサプリメントを押し進めていました。
ビデオはとても現実的で、彼女自身の母親はそれが彼女だと信じていました。
「私のイメージがそこにあり、私が信じていないものを支持するので、それは二重の裏切りです」と彼女は言いました。
医療専門家のなりすましは、証明されていないサプリメントを超えています。
サンディエゴのScripps Research Transulational Instituteの創設者であるEric Topol博士は、Amazonで彼の最新の本の何十もの明らかなAIスピンオフがあることを発見しました。彼の患者の一人は、カバーにトポルのAIに生成された肖像画を備えた偽の回想録を無意識のうちに購入しました。
スタンフォードの栄養科学者であるクリストファー・ガードナーは、最近、「栄養オタク」と呼ばれるものを含む、少なくとも6つのYouTubeチャンネルの無意識の顔を見つけました。
一緒に、チャンネルには何百ものビデオがあり、多くはガードナーの声のAI生成バージョンによってナレーションされています。ビデオのほとんどは、高齢者をターゲットにし、彼が支持しないアドバイスを提供し、関節炎の痛みや筋肉の喪失などの問題に対処します。このようななりすましは、広告収入のシェアを獲得するためのプログラムの資格を得るために、プラットフォーム上に十分な十分なフォローを構築する努力かもしれません。
Facebook、Instagram、Tiktokで詐欺師を見つけた腫瘍医であるEleonora Teplinsky博士は、これらの偽物の広がりは、オンラインでの健康情報をオンラインで見つける方法について標準的なアドバイスをしていると述べています。
「これは、オンラインで誤った情報を見つける方法について人々に話すすべてのことを損なうものです。彼らは本当の人々ですか？彼らは病院のページを持っていますか？」彼女は言った。 「どうして人々はそれが私ではないことを知っているのでしょうか？」
ガードナーは、オンラインで栄養誤った情報の量を心配していると述べた。彼はソーシャルメディアで活動しており、レコードをまっすぐに設定するためにポッドキャストに出演していると彼は言った。
さて、ガードナーは、それらの努力が彼に裏目に出てきたのではないかと考えています。彼のような経験は、他の専門家がオンラインの会話に挑戦することを思いとどまらせるかもしれない、と彼は言った。 「その後、信頼できる声はさらにownれます。」
ガードナーとスタンフォードの代表者は、YouTubeと連邦当局にビデオを報告するのに何時間も費やしました。彼らはまた、ビデオにビデオが誤ってガードナーになりすましていることを警告するビデオにコメントを投稿しましたが、それらのコメントのほとんどは1分以内に削除されました。
YouTubeの広報担当者であるJack Malonは、New York Timesに、プラットフォームがスパムに対するポリシーに違反するために「いくつかのチャネル」を削除したと語った。ティクトクは声明で、ほとんどのなりすましを許可していないが、ニューマンのビデオに対処しなかったと述べた。
他の医師は、詐欺師を報告することに運がありませんでしたが、ページを削除するために、より絶望的な道に変わりました。
繰り返し報告と1つの脅迫的な法的手紙は、メタによって無視されたように見えます。ティファニートロソサンドバル博士は、女性の癌に焦点を当てた教育ページを運営しており、Fiverrの誰かに約260ドルを支払い、小規模サービスのオンラインマーケットプレイスで、詐欺師のFacebookページを取得することを約束しました。うまくいきませんでした。
FacebookでLustigになりすましたサプリメントのブランドは、オーストラリアとアイルランドの本物の医師をフィーチャーした国を含む、他の多くの国で偽の投稿を作成しました。
地理的範囲は、それが世界中のブランドにとってますます脅威になりつつある大規模で洗練された事業であることを示した、とイスラエルのサイバーセキュリティ会社BrandShieldのCEOであるYoav Kerenは、それを発見したと述べた。
ケレン氏によると、彼らは香港に登録されているここに販売されていますが、まさにその背後にいる人は不明のままです。
不確実な出所と虚偽のマーケティングにもかかわらず、この製品は最近までAmazonやWalmartを含む主要なeコマースプラットフォームで購入でき、Google Searchesにはスポンサー製品として登場していました。 （Amazonはニューヨークタイムズから連絡を受けた後、それを削除し始めました。ウォルマートは、製品は店舗で販売されていないが、小売業者のポリシーに違反してサードパーティのベンダーは、電子商取引サイトで製品を販売していたと言いました。その後、ベンダーは削除されました。）
ブランドシールドによると、医師へのなりすましに加えて、マーケティングキャンペーンでは、メキシコ、ノルウェー、イギリス、カナダ、ニュージーランドを含むいくつかの国の規制機関または擁護団体のロゴを特集しました。米国では、グループには肥満協会が含まれており、そのウェブサイトには「eコマース詐欺」と呼ばれるものについてのポップアップ警告があります。
ブリガムアンドウィメンズ病院の体重管理とウェルネスセンターの共同ディレクターであり、ハーバード大学医学部の教授であるキャロラインアポビアン博士は、患者がテキストメッセージとメールを送信して、Facebookで「彼女の支持」と思われるものを尋ねたときにピーカの無意識のハックスターになったことを知りました。
Apovianと彼女の同僚は、最終的に彼女になりすましている20のアカウントを見つけました。投稿と広告は、彼女自身のFacebookとLinkedInアカウントの本物の詳細と実際の写真から一緒になりました。彼女はキャンペーンを「陰湿で危険な」と呼びました。
Facebookユーザー自身が、偽の投稿に応答するコメントや減量に捧げられたグループで、製品について疑問を投げかけています。それはそれが主張されていたものではないと警告する人もいます。それを買った一人の女性は、パッケージから明らかではなかったので、偽のアポビアンに投与量に関するアドバイスを求めました。
オーストラリアのビクトリア郊外に住んでいるカム・カーターは、ピーカがオーストラリアで作られたと主張したが、彼が購入した3つの箱は中国から到着したと述べた。彼はまた、PayPalで過充電され、部分的な払い戻しのみを取得するためにスクランブルしなければなりませんでした。
「宣伝されているようには何もしません」と彼は彼の経験についての質問に答えて書いた。
Facebookを所有している会社であるメタは、プラットフォームへのなりすましを禁止していますが、ニューヨークタイムズが連絡するまで偽のアカウントを認識していないことを示しました。最近、関係する数人の医師の削除を開始し始めたと同社は述べた。
「見逃す可能性のあるものの例があることを知っています」と同社は声明で、公人や有名人のなりすましを検出するための新しい努力を展開していると述べました。
オーストラリアのアデレード大学アデレード大学アデレード病院の胃腸科の著名な研究者であるマイケル・ホロウィッツは、詐欺は減量や糖尿病で一生苦労し、承認された本物のGLP-1医薬品を買う余裕がないかもしれない人々に餌食になったと述べた。
「彼らは、彼らが提供しているものがまったく役に立たないことを知って、脆弱な人々を特定しています」と彼は言いました。 「だから私はそれを非難できる行動と考えています。」
このストーリーはもともとNYTIMES.comで公開されました。 ここでそれを読んでください。
#医師は本物ですがセールスピッチは詐欺です