「人が最後に確認する」だけで安全か:AI診断支援における信頼較正と人間監督の限界

要旨

医療やケアでAIを利用するとき、『最後は人が確認する』という安全策がしばしば置かれる。Sakamotoらは日本の医師20人を対象に、AIの上位10鑑別に正解が含まれるかを症例ごとに確認させる介入を検討した。診断正確性は介入群41.5%、対照群46.0%で、有意な改善は認められなかった。一方、AIリストの正誤を正しく判断できた症例では診断も正しい傾向があったが、これは介入の因果効果を示すものではない。本稿は、広い確認質問を加えることと、確認を実行できる条件を設計することを区別する。ETIC 2.0への含意として、人間責任を最終承認の役割だけでなく、独立した見立て、具体的な矛盾確認、保留と相談の権限、事後監査を実行できるケア生態系として具体化する必要性を論じる。

引用情報

Morimoto D. 「人が最後に確認する」だけで安全か:AI診断支援における信頼較正と人間監督の限界. Unknown Lab; 2026. Version 1.0. doi:10.5281/zenodo.21429496.

文書種別

論評記事（先行研究の批判的解説）・未査読

DOI

10.5281/zenodo.21429496

ORCID

0009-0009-6444-750X

ライセンス

CC BY 4.0

ライセンスは各資料に記載された適用範囲に従う。引用元の図表・文章等の権利は各権利者に帰属する。