Google はユーザーを危険にさらしています。どうやって？

英国版ガーディアン紙 主張するGoogleは、AIが生成した不完全な可能性のある医療アドバイスに関連する安全上の警告を強調しないことで、人々を危害の危険にさらしていると主張した。同社は、AI からの医療アドバイスを最初に表示するときに、リスク警告テキストを含めていません。

Googleによれば、健康などのデリケートなトピックに関するクエリに回答する際、検索結果の上に表示されるAIを活用したレビューにより、ユーザーは短い説明だけに頼るのではなく、専門家の助けを求めるよう促されるという。

しかし、ガーディアン紙は、ユーザーがさらに健康情報を要求して「もっと見る」ボタンをクリックした場合にのみ、Googleが警告を発することを発見した。それでも、警告は、生成 AI を使用して収集された追加の医療アドバイスの下に、より小さく明るいフォントでのみ表示されます。

ガーディアンの調査を検討したAI専門家や患者擁護者らは懸念を表明した。彼らは、警告は重要であり、最初にユーザーに医学的アドバイスを提供するときに目立つようにすべきだと主張しています。

「最初にユーザーに健康情報を提供する際に注意事項が欠けていると、多くの深刻な危険が生じます。」マサチューセッツ工科大学（MIT）の助教授、技術者、研究者であり、AIと人間とコンピューターのインタラクションの世界的に有名な専門家であるパット・パタラヌタポーン氏はこう語る。

「第一に、今日の最先端の AI モデルでさえ、依然として誤った情報を生成したり、精度よりもユーザーの満足を優先する卑劣な行動を示したりします。医療の文脈では、これは非常に危険です。第二に、問題は AI の限界だけでなく、人的要因にもあります。ユーザーは必要な情報をすべて提供しなかったり、間違った質問をしたりして症状を誤って判断する可能性があります。」」と専門家は説明した。

何か話したいことはありますか？私たちに手紙を書いてください 電報ボット。匿名だし早いし