Calmara AI アプリは本当にセックスパートナーの感染を検出できるのでしょうか?

先月末、サンフランシスコを拠点とするスタートアップ HeHealth は、Calmara.ai の立ち上げを発表しました。Calmara.ai は、同社が「STI チェックのためのテクノロジーに精通した BFF」と呼ぶ、陽気で絵文字満載の Web サイトです。

コンセプトはシンプルです。 パートナーの性的健康状態を心配するユーザーは、パートナーのペニス（ソフトウェアが認識するように訓練されている人体の唯一の部分）の写真を（同意を得て、サービスノートに）撮り、それを Calmara にアップロードするだけです。

数秒以内に、サイトは画像をスキャンし、次の 2 つのメッセージのいずれかを返します。 今のところ性感染症の目に見える兆候は見つかっていない」または「待ってください!!!」 私たちは何かを発見しました。」

Calmara 氏は、この無料サービスについて、「最大 94.4% の精度」を備えた人工知能を活用した「簡単なチェックのための臨床検査の次善の策」であると説明しています (ただし、サイトの詳細な文字には、その実際のパフォーマンスが「65% ～ 65%」であることが明記されています)さまざまな条件下で 96%。」)

デビュー以来、プライバシーと公衆衛生の専門家は、薄っぺらな同意確認、児童ポルノを受け取る可能性、よくある条件をスクリーニングするための画像への過度の依存など、カルマラの設計における多くの重大な見落としを警戒の目で指摘してきた。見えない。

しかし、人間の特定の器官における性感染症の視覚的兆候を検出する初歩的なスクリーニングツールであるにもかかわらず、カルマラのテストでは、このサービスが不正確で信頼性が低く、親会社が対抗したいとしているのと同じ種類の偏見を与える情報にさらされやすいことが判明した。

ロサンゼルス・タイムズの記者が、疾病管理予防センターから採取した広範囲にわたるペニスの画像をカルマラにアップロードした 公衆衛生画像ライブラリ、 ニューヨーク州STDセンターとロイヤル・オーストラリアン・カレッジ・オブ・ジェネラル・プラクティショナーズ。

カルマラは「ホールド!!!」を発した。 梅毒、クラミジア、ヘルペス、性器いぼを引き起こすウイルスであるヒトパピローマウイルスなどの性感染症によって引き起こされる陰茎の病変や隆起の複数の画像。

しかし、このサイトは性感染症に関する教科書の画像の一部を認識できなかった。 下疳潰瘍 梅毒の症例では、包皮がもう引っ込めることができなくなっていました。

Calmara の AI は、自然に発生する病的ではない陰茎の隆起を感染症の兆候として頻繁に不正確に識別し、病気のない臓器の複数の画像に「何かの疑い」としてフラグを立てていました。

また、無生物と人間の生殖器の区別にも苦労し、「クリア！」と元気いっぱいの声を出しました。 斬新なペニスの形をした花瓶とペニスの形をしたケーキの両方の画像に。

「このアプリには問題点が多すぎて、どこから始めればいいのかさえ分かりません」と、CDCの医療コンサルタントを務めるカリフォルニア大学サンフランシスコ校教授のイナ・パーク博士は語った。 性感染症予防課。 「性感染症の検査では、偽陰性や偽陽性の可能性が常にあります。 このアプリの問題は、その両方が蔓延しているように見えることです。」

南カリフォルニア大学ケック医科大学の感染症専門家であり、HeHealth の科学顧問であるジェフリー・クラウスナー博士は、カルマラを「スクリーニング検査として推進することはできない」と認めた。

「性感染症の検査を受けるには、血液検査を受けなければなりません。 尿検査を受けなければなりません」と彼は言いました。 「誰かにペニスを見てもらったり、デジタルアシスタントにペニスを見てもらったりしても、HIV、梅毒、クラミジア、淋病を検出できるわけではありません。 ヘルペスのほとんどの場合でも無症状です。」

Calmara は、ユーザーが送信した自分の陰茎の画像をスキャンし、医療提供者によるフォローアップに値するものにフラグを付ける有料サービスである HeHealth の代表的な製品とは「まったく異なるもの」であると同氏は述べた。

クラウスナー氏は、アプリの正確性に関する追加コメントの要請に応じなかった。

HeHealth と Calmara はどちらも同じ基礎となる AI を使用していますが、2 つのサイトは「懸念される問題を特定する点で違いがあるかもしれません」と共同創設者兼 CEO の Yudara Kularathne 博士は述べました。

Calmara の Web サイトには、「特許取得済みの HeHealth ウィザードリー (SAT に合格したのではないかと思われるほど優れた AI を考えてください) を搭載した当社の AI は、40,000 人以上のユーザーによって実戦テストされています」と書かれており、その精度は 65% から 96% であると述べられています。 。

「彼らがそれを明らかにしたのは素晴らしいことだが、65％というのはひどいことだ」とUCI救急医学教授でカリフォルニア大学予測技術研究所のエグゼクティブディレクターであるショーン・ヤング博士は語った。 「公衆衛生の観点から見ると、人々に 65% の精度を提供しているのであれば、なぜ誰かに何かを伝える必要があるのでしょうか? それは有益であるよりも有害である可能性が高いのです。」

クララスネ氏は、この精度範囲は「性感染症や陰茎のその他の目に見える状態を検出することの複雑さを浮き彫りにしており、それぞれに独自の特性と課題がある」と述べた。 さらに彼は次のように付け加えた。「これはカルマラにとって単なる出発点であることを理解することが重要です。 より多くの洞察を得て AI を改良するにつれて、これらの数値は改善されると期待しています。」

HeHealth について Webサイトクララトネ氏は、友人が「オンラインの誤った情報によって増幅された性感染症の恐怖」を受けて自殺願望を抱いたことが、会社を立ち上げるきっかけになったと語った。

「数多くの生理学的症状が性感染症と間違われることがよくありますが、当社のテクノロジーはこうした状況でも安心感を与えることができます。」とクララスネ氏は述べています。 投稿されました 火曜日は LinkedIn で。 「私たちのテクノロジーは、若者、特にZ世代に明晰さをもたらすことを目指しています。」

Calmara の AI はまた、いくつかの生理学的状態を性感染症と誤認しました。

タイムズ紙は、スキンタグ、目に見える皮脂腺、毛細血管の拡大など、性感染症と混同されることがある人間の陰茎の非伝染性、非病理学的解剖学的変化の例として、医療ウェブサイトに掲載された多数の画像をサイトにアップロードした。 。

カルマラ氏は、それぞれを「何か」と特定しました。

このような不正確な情報は、若いユーザーにとって、創設者が意図した「明確さ」とはまったく逆の影響を与える可能性があると、カリフォルニア大学サンルイスオビスポ校の助教授で、キャンパスを運営するジョニ・ロバーツ博士は述べた。 性と生殖に関する健康研究室。

「18歳だったら、人間の体の一部として当たり前のことを写真に撮りますが、 [and] これは「sus」だということですね？ 今はストレスがたまっている」とロバーツさんは語った。

「私たちはすでにメンタルヘルスの問題を知っています。 [issues are] この人口の中で非常に高い。 ソーシャルメディアは人々の自己イメージ、価値観、うつ病などに大混乱をもたらしている」と彼女は語った。 「情報を提供せずに何かを『サス』と言うのは問題がある。」

クララトネ氏はサイトの言語選択を擁護した。 同氏は電子メールで「曖昧さを示し、さらなる調査の必要性を示唆するために『何かサス』という表現を意図的に選んだ」と述べた。 「これはユーザーに専門家のアドバイスを求めるよう促すものであり、慎重さと責任の文化を育みます。」

それでも、「もしそうなった場合、健康な解剖学的構造を『何か問題がある』と誤認することは、確かに我々が目指す結果ではない」と彼は書いている。

写真に「保留」通知が発行されたユーザーは HeHealth に誘導され、追加のスキャンのために有料でペニスの追加写真を送信できます。

「クリア」の結果が出た人には、「今のところ性感染症の目に見える兆候は見られません。」と言われます。 。 。 しかし、これで性感染症がすべて解決したわけではありません」と、性感染症の多くは無症候性で目に見えないことを正しく指摘しています。 Calmara の FAQ をクリックして閲覧すると、「Clear!」という免責事項も表示されます。 通知は「さらなる検査を省略できるという意味ではありません。」

ヤング氏は、一部の人が自分の性的健康について即座に決定を下すためにアプリを使用する可能性があると懸念を表明した。

「自社のデータと実践について透明性と明確性を保ち、他の多くの企業が非医療分野で使用する典型的なスタートアップアプローチを使用しないことには、より倫理的な義務があります」と同氏は述べた。

現在の形態では、Calmara は「不正確な診断を下したり、すべてのデジタル ヘルス ツールやアプリは単なる大きな偽物であると人々に主張させることで、性感染症だけでなくデジタル ヘルスにもさらに汚名を与える可能性がある」と同氏は述べた。

共同創設者のメイリン・ルー氏によると、HeHealth.aiは2019年の設立以来、約110万ドルを調達したという。 PitchBook によると、同社は現在、投資家からさらに 150 万ドルを求めているという。

この記事のためにインタビューした医療専門家は、性的医療への障壁を減らすためにテクノロジーを活用することが可能であり、そうすべきだと述べた。 プロバイダーを含む 計画的子育て そしてその メイヨークリニック 性的健康教育とデジタルテクノロジーを研究するカリフォルニア大学サンフランシスコ校の疫学者マラ・デッカー氏は、人々はAIツールを使用して精査した情報を患者と共有していると述べた。

しかし、カルマラのアプローチに関しては、「基本的にはマイナス面しか見えず、メリットは何もない」とデッカー氏は言う。 「アプリを『発疹や目立った痛みがある場合は検査を受けてください』という標識に置き換えることも簡単にできます。」