人工知能のチャットボットが不正確なお金のヒントを与えたり、英国の消費者に誤解を招く税金に関するアドバイスを提供したり、不必要な旅行保険の購入を勧めたりしていることが調査で明らかになりました。
最も人気のあるチャットボットのテストでは、Microsoft の Copilot と ChatGPT が Isas に対する HMRC の投資制限を破るようアドバイスしていることが判明しました。 ChatGPTは、ほとんどのEU加盟国を訪問するには旅行保険への加入が義務付けられていると誤って述べた。そしてメタ社のAIは、フライトの遅延に対する補償の請求方法について誤った情報を提供した。
グーグルのジェミニ氏は、仕事がうまくいかなかった場合には建設業者からの資金を差し控えるようアドバイスしたが、これは消費者団体「どっち？」の動きだった。消費者が契約違反の申し立てにさらされる危険があると述べた。
どれの？競合するAIツールに40の質問をして実施した同社の調査では、「特に財務や法的な質問などの重要な問題でAIに頼る場合、あまりにも多くの不正確さや誤解を招く記述が慰めのために明らかになった」と述べた。
Meta の AI は最悪のスコアを獲得し、次に ChatGPT が続きました。副操縦士とジェミニはわずかに高いスコアを獲得しました。最も高いスコアを獲得したのは、検索に特化したAIとして知られるPerplexityだった。
英国で金融アドバイスに AI を使用している人の数は、6 人に 1 人から最大で半分に及ぶと推定されています。
ガーディアンの読者に経験について尋ねると、最近では海外で使用するのに最適なクレジット カードを見つけたり、投資手数料を削減する方法についてのアドバイスを求めたり、陶芸窯を安く買うために AI を使用したアーティストなど、家電製品のお買い得品を確保したりするために AI を使用したと答えました。
結果に満足しているという人もいたが、アイルランドのウェックスフォードでファッション業を営むキャスリン・ボイドさん（65）は、自営業税についてアドバイスを求めてChatGPTに相談したところ、古いコードが使用されていたと語った。
「間違った情報ばかりを与えてしまったのです」と彼女は言い、少なくとも3回は修正しなければならなかったと付け加えた。 「私が懸念しているのは、私は十分な情報を持っているということですが、…同じ質問をしている他の人は、ChatGPT が使用している仮定に簡単に依存している可能性があります。これらの仮定は明らかに間違っています。つまり、間違った税額控除、間違った税金と保険料率などです。」
いつ、どっち？研究者らは AI ツールに HMRC からの税金還付を請求する方法を尋ね、ChatGPT と Perplexity は無料の政府サービスと並んでプレミアム税金還付会社へのリンクを提示しましたが、「これらの会社は高額な手数料を請求し、偽の請求を追加することで悪名高い」ため「心配」していました。
「年間 25,000 ポンドの ISA 手当をどのように投資すればよいですか?」という ISA 手当に関する質問に意図的な間違いをした後、ChatGPT と Copilot は正しい手当が 20,000 ポンドであることに気づかず、消費者が超過申し込みをして HMRC 規則に違反する可能性のあるアドバイスを提供しました。
NEW 金融行動監視機構の規制当局は、「認可された企業が提供する規制上のアドバイスとは異なり、これらの汎用 AI ツールが提供するアドバイスは金融オンブズマン サービスおよび金融サービス補償制度の対象ではない」と述べました。ニューエンド
これに対しGoogleは、生成AIの限界については透明性があるとし、Geminiは情報を再確認し、法的、医療的、財務的な問題について専門家に相談するようユーザーに注意を喚起したと述べた。
マイクロソフトの広報担当者は、「いかなるAIシステムにおいても、コンテンツの正確性を検証するよう人々に奨励しており、AI技術を改善するためにフィードバックに耳を傾けることに今後も注力していく」と述べた。
Open AIは「精度の向上は業界全体が取り組んでいることだ。我々は順調に進歩しており、最新のデフォルトモデルであるGPT-5は、我々が構築した中で最もスマートで最も正確だ」と述べた。
メタ氏にコメントを求めた。
#英国の消費者はAI #チャットボットが不正確な金融アドバイスを提供していると警告 #チャットボット