医疗保健领域实施人工智能的伦理评估工具：CARE-AI

IF 58.7 1区医学 Q1 BIOCHEMISTRY & MOLECULAR BIOLOGY

Nature Medicine Pub Date : 2024-10-18 DOI:10.1038/s41591-024-03310-1

Yilin Ning, Xiaoxuan Liu, Gary S. Collins, Karel G. M. Moons, Melissa McCradden, Daniel Shu Wei Ting, Jasmine Chiat Ling Ong, Benjamin Alan Goldstein, Siegfried K. Wagner, Pearse A. Keane, Eric J. Topol, Nan Liu

引用次数: 0

摘要

在医疗保健领域部署由人工智能（AI）驱动的预测模型可能会引发对其实施和推广的伦理问题。例如，如果人工智能预测模型在没有明确理由的情况下按性别或种族和民族提出不同的诊断或治疗建议，可能会妨碍临床决策。最近的指南（如世界卫生组织关于人工智能用于医疗卫生的伦理和治理指南以及荷兰关于人工智能用于医疗卫生的指南）和立法（如欧盟人工智能法案和美国白宫关于安全、可靠和值得信赖地开发和使用人工智能的行政命令）概述了实施人工智能的重要原则，包括伦理方面的考虑1,2。医疗系统已通过建立管理委员会和流程来确保安全、公平地实施人工智能工具3。人工智能预测模型的开发和验证得益于详细的报告和偏倚风险工具，如用于公平性和偏倚控制的 TRIPOD+AI4 和 PROBAST（及其即将推出的人工智能扩展），以及用于人工智能成像研究的数据隐私、安全性和可解释性的 CLAIM5。然而，当计划在医疗实践中实施一个经过严格开发且性能良好的人工智能预测模型时，现有的伦理建议和指导并不多，也缺乏操作细节。例如，DECIDE-AI 报告指南6 包含了少量与伦理相关的建议，适用于人工智能的早期临床评估，涉及公平性、安全性和人与人工智能的互动，而 FUTURE-AI7 则根据模型设计、开发、验证和部署中的六项原则（公平性、普遍性、可追溯性、可用性、稳健性和可解释性）提出了建议。需要一个以生物伦理为中心的交付科学工具包，以便在医疗保健领域负责任地实施人工智能8。

本文章由计算机程序翻译，如有差异，请以英文原文为准。

查看原文本刊更多论文

An ethics assessment tool for artificial intelligence implementation in healthcare: CARE-AI

求助全文

通过发布文献求助，成功后即可免费获取论文全文。去求助

来源期刊

Nature Medicine 医学-生化与分子生物学

CiteScore

100.90

自引率

0.70%

发文量

525

审稿时长

1 months

期刊介绍： Nature Medicine is a monthly journal publishing original peer-reviewed research in all areas of medicine. The publication focuses on originality, timeliness, interdisciplinary interest, and the impact on improving human health. In addition to research articles, Nature Medicine also publishes commissioned content such as News, Reviews, and Perspectives. This content aims to provide context for the latest advances in translational and clinical research, reaching a wide audience of M.D. and Ph.D. readers. All editorial decisions for the journal are made by a team of full-time professional editors. Nature Medicine consider all types of clinical research, including: -Case-reports and small case series -Clinical trials, whether phase 1, 2, 3 or 4 -Observational studies -Meta-analyses -Biomarker studies -Public and global health studies Nature Medicine is also committed to facilitating communication between translational and clinical researchers. As such, we consider “hybrid” studies with preclinical and translational findings reported alongside data from clinical studies.