01 / 10
EP.113 · 实操第二弹

让AI学会
"我不知道"

敢拒答的医疗AI,才敢上临床。
承接EP.112问诊workflow,这一期讲知识库RAG的边界。

第 113 期
降维打击

会搭RAG不牛
拒答才牛

调embedding、接向量库、跑通发朋友圈——人人都会。但医疗场景里,"不胡说"比"答得全"重要100倍。

拒答
是医疗RAG的第一性能力
数字冲击

72% 的医疗幻觉
出在"不会拒答"

模型不知道自己不知道——比模型答错更危险。该闭嘴的时候硬答,就是事故源头。

72%

幻觉出在该拒答时硬答

0%

拒答率的系统 最危险

意料外干货 · 第一步

知识库
三层分层

不是一股脑全塞。分层才能按权限检索,才能控制边界。

L1 · 通用
指南 · 教材

诊疗指南、医学教材

L2 · 专业
科室细则

科室操作规范、专家共识

L3 · 机构
本院规范

机构私有 · 权限隔离

反转 · 第二步

引用 拒答
两套规则

引用规则
每条输出标来源

能引用 = 说明答得出

拒答规则
超范围/不确定/急重症

会拒答 = 说明知道边界

两个都要 · 缺一不可
数字冲击 · 第三步 评测

RAGAS
4个指标 · 一行命令

① 忠实度回答是否忠于检索内容
② 相关度回答是否切中问题
③ 精确率检索内容是否精准
④ 拒答率该拒答时是否拒了
跑完报告 → 直接贴简历
降维打击 · 反直觉

拒答率
不是越低越好

一个医疗AI什么都敢答,拒答率为0——那是最危险的。合理的拒答率,恰恰说明它知道自己不知道什么

❌ 危险信号
拒答率 = 0

什么都敢答 = 事故炸弹

✅ 成熟信号
拒答率合理

知道边界 = 产品成熟度

强证据 · 不是理论

MedAIBox
就是这么做的

知识库三层分层
每条回答可溯源
超范围直接拒答
这不是课程作业,是跑着的系统
一句话记住

可控的AI
才是医疗AI

敢答的不是好AI。
敢拒答的,才是。

评论留
「RAG评测」

知识库分层模板 + 引用拒答规则表 + RAGAS评测脚本

下期:HRV+ECG → 睡眠健康筛查demo

关注 · 别错过下期