王晨光：安全性是不可逾越的红线 | 医疗AI的七大风险与嵌入式监管

本文由清华大学法学院王晨光教授撰写，背景是医疗人工智能（AI）的迅猛发展正深刻改变医疗服务模式，但其安全性是必须坚守的红线。研究目的在于探讨在AI技术迭代速度远超传统监管模式的情况下，如何构建一种新型的法律监管模式以应对挑战。文章提出“嵌入式法律监管模式”，强调将监管机制内置于AI产品从研发到使用的全生命周期中。结论指出，该模式需建立在硬法与软法基础之上，包含质量标准、内部合规岗位、伦理审查及跨学科协作等机制。文章详细分析了医疗AI面临的七大风险：算法设计缺陷、黑箱问题、数据质量参差、数据标注偏差、AI幻觉、讨好倾向及欺骗行为。最后，提出了以人的自主权、人机对齐、透明度、风险治理和可问责性为原则的治理框架，并针对各类风险给出了具体对策。嵌入式监管被视为保障医疗AI健康发展、助力健康中国与法治中国建设的必要举措。