医疗AI有哪些潜在法律风险？

诊疗结束，患者才知报告出自AI（人工智能）；挂了专家号，专家却转头向AI寻求答案；AI误判，侵权责任鉴定竟陷盲区……过去几年，AI以强劲之势全面渗透医疗卫生行业各个场景。然而，在人们享受便利之余，新型法律风险也逐渐浮出水面。医疗AI面临哪些潜在风险？又该如何通过立法从源头防范？

AI是核心基础设施

中国医学科学院医学信息研究所医疗卫生法制研究室主任曹艳林介绍，据不完全统计，截至2025年10月，我国已有超过1000家医疗机构完成AI大模型的本地化部署，并积极探索其在知识库建立与维护、科学研究与成果转化、辅助诊断、数据驱动决策等场景中的创新应用。

在以“数字重庆”建设为标志的巴渝山城，AI大模型已在医疗机构遍地开花。重庆医科大学附属儿童医院大数据工程中心主任宋萍分享了该院实践。医院依托院企联合研发的“钱乙慧儿”儿科垂域大模型，开发了“重儿·小乙”儿科AI家庭医生（简称“小乙医生”），可24小时提供病情分析、报告解读等在线服务。

为确保“小乙医生”决策专业可靠，医院构建了涵盖逾5.3万条儿科学专业教材、2.6万条临床指南/共识、1.4万条高质量学术论文数据以及4200个临床诊疗规范、5300篇健康宣教文档、1500份专家科普视频、30万条互联网问诊信息的儿科专属知识库。此外，医院组建专业全覆盖的儿科专家团队，对模型进行持续标注与优化迭代，促使“小乙医生”不断接受训练、迈向成熟。在宋萍看来，“小乙医生”已经是一名合格的基层儿科家庭医生。不仅如此，“小乙医生”核心服务在覆盖川渝地区的同时，也广泛辐射至西藏、新疆、云南、贵州等偏远地区，让更多患儿家庭享受到高水平儿科专业指导。

不只在院墙之内，医疗AI的使用主体已经从医疗机构延伸至居民个人和监管部门，形成立体化的应用生态。在个人健康管理场景中，“蚂蚁阿福”“微小医”等AI健康管家已成为公众日常健康管理的“贴身助手”。在卫生健康和医保监管领域，相关部门探索建立了智能监测预警系统，高效精准监管各类服务，有效防范违法违规行为。

曹艳林认为，医疗AI并非可有可无的辅助工具，而是深度融入医疗卫生每一个环节的“核心基础设施”。

AI是一把双刃剑

“技术狂奔的路上，新型法律风险不容小觑。”北京大学第一医院信息中心副主任李昱熙向记者讲述了两则值得深思的案例。

某医疗机构部署了一项基于大模型的医学影像自动分析系统，但在使用几年之后发现，该系统在不断迭代升级的过程中，针对同一份患者影像资料会给出完全不同的结论。

在越来越多的医疗机构中，不少临床医生尤其是年轻医生愈发依赖AI进行影像诊断、病历书写等。国际最新研究表明，过度依赖AI有可能导致年轻医生及医学生失去从临床实践中获得能力的基本技能。

类似案例陆续上演，暴露出医疗AI发展中亟待解决的诸多痛点。据了解，部分医疗AI产品未经充分验证便进入临床，为误诊、漏诊埋下隐患。部分医务人员过度依赖AI输出结果，削弱了独立判断能力，影响了患者诊疗安全与就医获得感。医疗数据泄露、非法使用等问题频现，带来了严峻的数据安全与隐私保护挑战。而侵权责任界定模糊、监管体系尚不完善，则进一步加剧了追责与治理层面的现实困境。这些问题，既制约了AI在医疗卫生行业的普惠落地，也影响着公众的就医体验与健康权益。

法治须臾不可离

AI的终极价值在于“科技向善、赋能民生”，而法治则是确保这一价值实现的根本保障。

曹艳林认为，当务之急是通过立法明确部门监管职责。由卫生健康部门牵头，会同网信、药监、医保等部门协同开展监管，依托现有体系守住医疗AI临床应用的安全底线。

李昱熙聚焦临床诊疗类AI产品的应用和伦理合规，提出相关立法建议。其一，应从国家层面统筹推进强制性标准与技术规范体系建设，完成测试验证与准入程序的产品方可进入临床；产品研发者/注册人/备案人/提供者发现安全缺陷、算法漏洞等风险的，应立即采取补救措施，并按规定报告。其二，应从国家层面统筹建立伦理审查指导机制，统一审查标准与操作规范；研发项目立项前、产品上市前及重大更新前，应完成伦理审查，重点评估数据获取合规性与正当性、算法公平性与可解释性、风险收益比及对医患关系、资源分配等社会影响。其三，产品引发损害的，因系统缺陷、算法漏洞、训练数据偏差或维护不当导致的，由研发者/注册人/备案人/提供者依法承担相应责任；因医务人员未合理复核、超适用范围使用、操作不当或未遵循规范流程导致的，由医疗机构依法承担相应责任；责任认定应结合医学与技术专业鉴定，综合考量系统特性与医疗行为复杂性，准确划分责任。

关于医疗AI的几个法律问题了解一下

1、从权责划分层面来看，人工智能不具备法律主体资格，仅能定位为医疗辅助工具。依据《互联网诊疗监管细则（试行）》，疾病确诊、开具处方、制定专业治疗方案等核心医疗行为，只能由具备执业资质的医务人员完成，明令禁止AI独立诊疗、自动生成药方。多地卫健部门也相继出台配套监管细则，持续收紧相关监管尺度，从制度层面封堵无资质AI自主诊疗的漏洞。

2、对于AI给出错误健康指引造成人身伤害的责任界定，在司法实践中，采用“人为核心、AI为辅”的归责逻辑：医疗机构与在岗医师承担诊疗首要责任，医务人员使用AI辅助判断时，必须自主复核、甄别算法输出内容，若完全依赖AI结论放弃专业研判，由此产生的损害后果由医疗机构先行承担赔偿；AI研发、运营企业承担产品质量责任，倘若因算法设计缺陷、训练样本片面、未标注明确风险提示造成误导，平台需要承担相应赔偿，医疗机构赔付后可依法向技术提供方追偿；通用智能平台如果未充分提示自身无医疗执业资质、刻意弱化局限性误导群众放弃线下就医，需承担服务过错责任。但大众脱离医疗机构单独使用健康AI自诊时，会出现无医师兜底、追责链条断裂的空白地带。

3、AI健康服务存在敏感个人信息泄露风险。用户在平台上传的体检报告、影像资料、病史记录、用药情况等，受个人信息保护法、数据安全法双重严格保护，属于敏感个人信息与民生核心数据。部分中小型健康AI平台数据管理机制存在明显短板，缺少规范的用户授权流程、加密存储与脱敏处理手段，存在过度采集健康数据、私自调取用户信息用于算法训练、违规对外流转病历资料等违法行为。

现行法律明确要求健康AI运营主体落实网络安全等级保护、常态化开展数据安全风险评估，未经用户单独、明确同意，不得擅自共享、出售医疗隐私数据，违规将面临高额行政处罚，情节严重的，相关责任人还将触及刑事责任。也有平台借助虚拟AI医师形象夸大诊疗效果，捆绑推销保健品、医疗器械，此类误导性宣传已被市场监管部门依据广告法认定为虚假宣传，纳入常态化执法查处范围。 综合健康报、法治日报