英国の著名な消費者団体である「Which?（ウィッチ）」は、2025年11月にAIチャットボットが提供する金融および保険に関するアドバイスに重大な不正確さや誤解を招く内容が含まれているとして、英国の消費者に向けた警告を発表しました。
Which?は、ChatGPTやMicrosoft Copilot、Google Gemini、Meta AIといった大手テクノロジー企業が提供する人気のAIツールを対象とし、これらのシステムが英国特有の税制や投資ルール、さらには消費者保護に関して問題がないか調査しました。
その結果、ユーザーを金銭的なリスクに晒す可能性のある誤った情報を提供していることが明らかになりました。
これは、多くの人々が日常的な情報収集だけでなく、より複雑な金銭的な決定においてもAIに頼り始めている現代において、その信頼性と責任の所在について深刻な議論を巻き起こすものとして注目を集めています。その詳細について紹介していきます。
英国の消費者機関による調査で判明した具体的な誤報事例
Which?が実施した調査では、競合する複数のAIチャットボットに対し、英国の金融・保険に関する40の具体的な質問が投げかけられました。
その結果、特に財務や法律といった重要な領域において、看過できないレベルの誤りが多発していることが判明しました。
ISA（個人貯蓄口座）の投資制限違反を推奨
英国の税制において重要な「ISA（Individual Savings Account：個人貯蓄口座）」に関する質問では、ChatGPTとCopilotは、ユーザーに対し英国歳入関税庁（HMRC）が定める年間投資制限に違反するようなアドバイスを提供しました。
- 誤ったアドバイスの危険性
ISAの制限を超過して投資を行った場合、超過分に対して税金が課されるだけでなく、HMRCからの罰則を受ける可能性があります。
AIが誤って制限超過を推奨することは、ユーザーの税務上のコンプライアンスを破綻させる直接的な原因となり得ます。
誤った旅行保険・遅延補償のアドバイス
保険の分野でも不正確さが目立つ結果がうかがえています。
- 旅行保険の誤解
ChatGPTは、ほとんどの欧州諸国への旅行において旅行保険の加入が必須であると誤って主張しました。
実際には、シェンゲン圏への旅行では特定のケース（ビザ申請など）を除き、一般的に必須ではありません。
不要な保険の購入は、消費者の無駄な支出につながります。
- フライト遅延補償の誤情報
Meta AIは、フライト遅延時の補償請求方法について誤った情報を提供しました。
これにより、消費者が正当な補償を受ける機会を逃したり、誤った手続きで時間と労力を費やしたりする可能性があります。
契約上のトラブルに関する危険な助言
Google Geminiは、工事に不具合があった場合、建設業者への支払いを差し控えるよう提案しました。
- 契約違反のリスク
Which?は、このような行為は消費者自身が契約違反の訴訟に巻き込まれるリスクを招くと警告しています。
英国の消費者保護法では、このような状況に対処するための適切な手順が定められていますが、AIはその法的文脈を無視した助言を行いました。
有料の税金還付サービスへの誘導
HMRCへの税金還付申請方法に関する質問に対し、ChatGPTとPerplexityは、無料の政府サービスではなく、高額な手数料を請求する可能性のある有料の税金還付会社を推奨しました。
- 手数料と詐欺のリスク
これらの有料サービスの中には、高額な手数料を請求したり、サービス内容が不明瞭であったりする悪質な業者が存在する可能性があり、AIがそれを推奨することは、ユーザーを金銭的な搾取のリスクに晒すことになります。
金融・保険関連でAIによる誤報が生じた理由
これらの生成AIは、インターネット上の膨大なデータから学習していますが、そのデータには誤った情報や古い情報、そして特定の地域や法律に特化していない一般的な情報が混在しています。
特に金融や税務のアドバイスにおいて、AIが間違いを犯す主要な要因は以下の通りです。
- 「ハルシネーション（Hallucination）」のリスク
AIは、事実に基づかない情報を「もっともらしい虚偽」として生成する傾向があります。
特に、法規制や税制のように厳密な最新情報が必要な分野では、AIが誤った規則や数値を自信満々に提示する「ハルシネーション」は極めて危険です。
- 地域固有の法規制への対応不足
英国のISAのように、特定の国や地域に固有の厳密なルールや税制は、グローバルに訓練されたAIモデルにとって「ニッチな情報」と見なされ、最新かつ正確な情報を反映しにくい傾向があります。
- 情報源の品質と鮮度
AIが参照する情報源が古かったり、個人のブログやフォーラムのような信頼性の低い情報源を含んでいたりする場合、生成されるアドバイスの質も低下します。
- 免責事項の限界
多くのAIチャットボットは、金融・医療・法律のアドバイスではない旨の免責事項（Disclaimer）を表示していますが、ユーザーはしばしばこの警告を無視し、AIの回答を専門家の意見として信頼してしまいます。
AIの誤報による消費者への影響
規制当局の動き：FCAの関心
英国の金融行動監督局（FCA）は、AIによる金融サービスの提供に対する規制の枠組みについて検討を始めています。
AIが提供するアドバイスが、規制対象となる「アドバイス」に該当するかどうか、また提供された誤情報によって消費者に生じた損害に対する責任を誰が負うのか（AI開発企業か、それを利用した金融機関か）は現時点で不明確であり、今後の焦点としても注目されています。
消費者への影響とWhich?の勧告
Which?の調査では、英国の成人の最大半数が何らかの形で金融アドバイスのためにAIを利用していると推定されており、この誤報問題の潜在的な影響は甚大です。
AIが提供する不正確なアドバイスを信じることで、ユーザーは不必要な支出や税務違反、または法的なトラブルに巻き込まれる可能性もあります。
そのため、Which?は消費者に対し以下の点を強く勧告しています。
- 重要な財務・法律上の決定
ISAの投資限度額や税金の申告、保険請求といった重要な金銭的・法的な決定については、AIチャットボットのアドバイスを鵜呑みにせず、必ずHMRCやFCAのような公的機関のウェブサイト、または資格を持つ専門家に確認すること。
- AIの利用は「アイデア出し」に限定
AIツールは、クレジットカードの比較や一般的な市場動向の調査など、「アイデアやヒント」を得るためのアシスタントとしてのみ利用し、最終的な行動の決定は控えること。
まとめ
AIチャットボットは、情報の検索や整理において非常に強力なツールであり、金融分野でもその利便性は高まっています。
とはいえ、金融アドバイスという分野は個々のユーザーの状況や最新の法規制、税制などに深く関わるため、その正確性には十分注意する必要があります。
今回のWhich?の警告は、AI技術が社会に深く浸透する中で、その利便性と裏腹にある固有のリスクを浮き彫りにしたといわれています。
AIの開発企業には、金融・法律といった機密性の高い分野における情報の正確性を高めるための緊急の対策が求められています。
それと同時に、消費者自身もAIが提供する情報を批判的に検証するリテラシーを身につけることが重要です。
この問題は、AI時代における「信頼できる情報」の定義と、デジタル時代における消費者保護の新たな枠組みを構築するための重要なターニングポイントとして注目されています。
コメント