脑机网 脑机网LOGIC.WANG
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章
ESC

百川弃通用模型押注医疗,自测幻觉率3.5%仍待临床验证

拿一个通用聊天机器人问罕见病,它可能给出一段流畅回答,附带一条根本不存在的文献。在消费软件里这让人恼火,在诊室里却危险。有家中国模型公司认定,产品要做的不是拓宽知识面,而是压低这类错误。

2026-11-22 · 1721 字 · 脑机网信息截止 2026-11-22

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

拿一个通用聊天机器人问罕见病,它可能给出一段流畅回答,附带一条根本不存在的文献。在消费软件里这让人恼火,在诊室里却危险。有家中国模型公司认定,产品要做的不是拓宽知识面,而是压低这类错误。

百川智能由王小川在2023年创立,他此前是搜索引擎搜狗的创始人。2025年4月,在通用模型赛道挤了两年之后,王小川把公司收窄到医疗。2026年1月,公司开源医疗模型百川-M3;5月又发布M4,同时推出名为百小应的AI家庭医生产品。

关键要点

  • 2025年4月从通用大模型转向医疗AI。
  • M3于2026年1月13日开源,5月发布M4并推出家庭医生应用。
  • 公司称M3发布时医疗幻觉率为3.5%,使用自有评测。
  • 训练方法叫事实感知强化学习,把事实一致性写进奖励信号。
  • 公司宣称的基准领先尚未经独立临床试验确认。

具体问题

医疗问题对语言模型格外不友好:答案必须是最新的、有出处的,而且对不确定性保持谨慎。一个看似合理却错误的药物相互作用,比没有答案更糟,而患者分辨不出来。

按公司自述,百川的办法是把事实一致性做成强化学习的一部分,而不是事后加一道过滤。思路是:一个因事实对齐而获奖的模型,会在证据不足时学会留余地,而不是用自信的文字把空缺填满。公司还称用了检索和证据锚定,让结论能追溯到期刊论文或指南段落。

这和通用助手的理念不同——后者以有用和广博为目标。按百川的逻辑,一个更常说"我不知道"的医疗模型,是更好的产品。

仔细看基准声明

在1月的M3发布会上,百川说模型在OpenAI的医疗基准HealthBench上排名第一,在更难的HealthBench Hard子集上也第一。它还报告医疗幻觉率3.5%,并说M3已通过百小应助手提供。

这些都是公司报告的结果。基准测的是固定题集,永远无法完整代表临床实践。一个模型可以在HealthBench上登顶,却在患者用杂乱、不完整的话描述症状时失败。诚实的解读是:百川公布了一个鼓舞人心的内部结果,而不是已经确立了临床优势。

对M4的发布也应持同样谨慎。5月发布时,媒体报道描述了与清华大学的合作,并给出多个基准上的低幻觉数字。同样,这些数字来自开发方。

商业赌注

王小川表示,公司可能于2027年启动上市流程,并称在1月采访时有约30亿元(约合4.2亿美元)现金。这笔缓冲很重要,因为医疗AI变现很慢:医院按采购周期买东西,要求监管许可,还期待来自真实临床使用的证据。

产品策略也透着耐心。中国监管限制直接下诊断或开处方,这些工具选择帮患者理解治疗方案、为就诊做准备。王小川描述的路径是:先做免费的消费产品,收入之后来自服务包或与药企、器械企业的合作。这条路线说得通,但前提是收费前先攒到足够大的用户群。

转向是有代价的。百川曾和其他几家资金充裕的中国模型创业公司被归为一类。留在通用模型赛道的同行已经上市,或以更高估值融资。百川用更窄的位置,换了一个它相信自己能守住的地盘。

为什么这事超出一家公司

医疗AI,是围绕幻觉的抽象争论真正落地的地方。如果模型要进入卫生系统,行业需要衡量事实错误的共同标准,而不是每家厂商各挑一个自己擅长的基准。一家公司公布自己的数字,哪怕是自报的,也给标准化增加了压力。

还有语言维度。主要用英语训练的临床语言模型,迁移过来并不服帖。中文医学术语、药名和诊疗习惯都需要本地数据。一个为中国医院造的国产模型,在本地要紧的任务上可能胜过全球知名模型——但这必须被证明,不能靠假定。

诚实的局限

  • 本文所有基准排名和幻觉率均为公司报告,我没找到在同行评议期刊上发表的独立临床验证。
  • 现金储备和上市时点来自界面新闻报道的一次采访,不是经审计的披露。
  • M4发布细节取自中国媒体对活动的描述,我没有拿到技术报告。
  • 我排除了几条自媒体广为流传的数字,因为它们无法追溯到一手来源。
  • HealthBench测的是限定任务集,高分不等于真实临床使用中安全。

普通人现在能做什么

  • 用AI工具问健康问题时,查看它是否引用了你能打开、能核实的来源。一个自信却没有可追溯来源的回答,不该改变你的治疗决定。
  • 把"排名第一"当作关于某个基准的说法,而不是关于你医生面对的问题。问清是哪个基准、谁跑的。
  • 对从业者,坚持本地验证。在别处评测过的模型,未必反映你的患者群体和用药规则。

数据与信源

信息截止 2026-11-22。文中数据以该日期前已公开的信息为准。

本文引用 公开报道与公司公告(未逐条列示)。

本站历史文章在正文中标注了来源机构与时间,但未逐条附原始链接。如需核验文中任一具体数字,请在评论区注明段落与数据,我们会在 2 个工作日内补出处。

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

查看「AI大模型」更多内容 → · 返回首页

引用本文

欢迎媒体、智库与研究机构引用。引用时请注明来源「脑机网」并保留原文链接,同时保留文章页标注的「信息截止」日期。转载规则见 引用与转载规范。

GB/T 7714脑机网编辑部. 百川弃通用模型押注医疗,自测幻觉率3.5%仍待临床验证[EB/OL]. (脑机网)[2026-11-22]. 北京: 脑机网, https://aiai.cafe/a/njw-5522fe. 2026-11-23.
APA脑机网编辑部. (2026, November 22). 百川弃通用模型押注医疗,自测幻觉率3.5%仍待临床验证. 脑机网. https://aiai.cafe/a/njw-5522fe
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章