承認済み医療 AI の 6 割が薬剤名を誤記、存在しない症状も — オンタリオ州監査

カナダ・オンタリオ州の 監査総長事務所が、州内で「承認済み」となっている AI 医療記録作成システム (AI Scribe) を一斉検証 した結果、複数の重大な事実誤認が継続的に発生していたことが判明した。AI が医療現場の発話を文字起こし・要約する用途は急速に広がっているが、本件はその 「承認プロセスの中身」自体が機能していなかった ことを示す。

検証で見つかった誤動作 #

監査対象となった 20 システムのうち、12 で薬剤名の取り違え ― 処方された薬と無関係な別薬を診療記録に書き込む ― が確認された。さらに 9 システムが架空の治療計画を生成、そして 17 システムが患者から明示された自殺念慮など重要なメンタルヘルス情報を取り落として いた。録音に存在しない「しこりは見つからなかった」「患者は不安を訴えている」といった文言が記録に紛れ込むケースもあった。患者被害の確定事例は今回の調査では報告されていないが、これは 模擬診療での検証結果 であって、実診療での被害は十分に追跡されていない、と監査側は釘を刺している。

「承認」という言葉のミスリード #

最も深刻なのは、これらが個別ベンダーのバグ事例ではなく 州政府の承認プロセスを通過したシステム という点だ。州の評価基準では「州内ビジネスプレゼンス」が 配点全体の 30 % を占めた一方、診療メモの正確性はわずか 4 % にすぎなかった。誤りを医師が手で訂正することが運用上前提とされていたが、承認システム側に 訂正の必須化を強制する機能すらなかった。AI 医療記録は工数削減の名目で導入が進む領域だが、誤りを検知する責任を最終的に 医師の目視レビューに全部押し付ける 構造では、エラーは時間とともに必ず流出する。AI の問題というより、調達と評価設計の問題 として読むのが正しい事案だ。

参考 #

• 診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も (GIGAZINE, 2026-05-18)