医療・ケアにおけるAIへの過度な依存:自動化バイアスと「確認可能な協働」に関する対象限定レビュー

要旨

医療・ケアに人工知能（AI）を導入する際、「AIは補助にとどまり、人間が最終判断を行う」という原則が広く用いられる。しかし、人間が形式上の最終判断者であることは、AIの誤りを発見し、適切に修正できることを意味しない。本研究報告書は、医療・ケアにおける自動化バイアスの発生要因、臨床判断への影響、対策の実証状況を整理し、作業療法とETIC 2.0への含意を検討することを目的とした。PubMed、PMC、出版社ページおよび国際機関の公式資料を用い、自動化バイアス、確認の複雑さ、説明可能AI、信頼較正、認知的強制、AI出力の保留に関する主要なレビューと実験研究を対象限定で探索した。既存研究からは、正しいAIが臨床家の判断を改善しうる一方、誤ったAIは経験者を含む臨床家の判断を悪化させること、説明を付加しても誤誘導を十分に防げないこと、確認作業の認知負荷が高いほど人間による監督が機能しにくいことが示された。独立した初期判断、重要情報の並列表示、具体的な反証確認、低信頼出力の保留、利用後監査などは有望であるが、患者・生活アウトカムに対する効果は確立していない。作業療法・リハビリテーションを直接対象とした研究は乏しく、診断支援研究からの一般化には注意を要する。AIへの過信は個人の注意力だけでなく、人、AI、画面、業務環境、組織ルールの関係から生じる設計課題である。医療・ケアAIの評価では、AI単体の精度ではなく、誤答時を含む人間-AIチーム全体の成績と、採用・修正・却下・保留の過程を検証する必要がある。

引用情報

Morimoto D. 医療・ケアにおけるAIへの過度な依存:自動化バイアスと「確認可能な協働」に関する対象限定レビュー. Unknown Lab; 2026. Version 1.0. doi:10.5281/zenodo.21327355.

文書種別

研究報告書（対象限定レビュー）・未査読

英語題名

Overreliance on Artificial Intelligence in Health and Care: A Focused Review of Automation Bias and Verifiable Human-AI Collaboration

DOI

10.5281/zenodo.21327355

ORCID

0009-0009-6444-750X

ライセンス

CC BY 4.0

ライセンスは各資料に記載された適用範囲に従う。引用元の図表・文章等の権利は各権利者に帰属する。