敢拒答的医疗AI,才敢上临床。
承接EP.112问诊workflow,这一期讲知识库RAG的边界。
调embedding、接向量库、跑通发朋友圈——人人都会。但医疗场景里,"不胡说"比"答得全"重要100倍。
模型不知道自己不知道——比模型答错更危险。该闭嘴的时候硬答,就是事故源头。
幻觉出在该拒答时硬答
拒答率的系统 最危险
不是一股脑全塞。分层才能按权限检索,才能控制边界。
诊疗指南、医学教材
科室操作规范、专家共识
机构私有 · 权限隔离
能引用 = 说明答得出
会拒答 = 说明知道边界
一个医疗AI什么都敢答,拒答率为0——那是最危险的。合理的拒答率,恰恰说明它知道自己不知道什么。
什么都敢答 = 事故炸弹
知道边界 = 产品成熟度
敢答的不是好AI。
敢拒答的,才是。