Intelligence artificielle et diagnostic médical, quels enjeux éthiques ? Limites et fantasmes, le point de vue du chercheur

Abstract

Alors que les applications de l’intelligence artificielle (IA) en imagerie médicale sont de plus en plus nombreuses, les bénéfices attendus sont accompagnés de défis, et de nombreuses questions restent ouvertes. Cet article, à la suite d’une table ronde lors des JFR 2023, résume les deux principaux paradigmes de l’IA, s’appuyant sur la représentation des connaissances et sur la modélisation du raisonnement pour le premier, et sur l’apprentissage à partir de grandes bases de données pour le second, et montre les avantages de leur combinaison dans des approches hybrides. La question des biais, tant statistiques que cognitifs, est abordée, ainsi que celle de l’explicabilité, centrale pour l’adoption de techniques d’IA. Les liens avec les questions éthiques sont évoqués. Les conditions de développement d’un système ou d’un algorithme, les données qui ont été utilisées pour le faire, la validation sur des bases indépendantes, les conditions d’utilisation (type d’image, type de problème ou de question à résoudre, etc.), les biais et limites sont autant de paramètres qui doivent être clairement définis. La place de l’humain reste primordiale, de la conception des méthodes jusqu’à l’interprétation des résultats, dans une réflexion pluridisciplinaire.

While the applications of artificial intelligence in medical imaging are becoming increasingly numerous, the expected benefits are accompanied by challenges, and many questions remain open. This article, following a round table discussion at JFR 2023, summarizes the two main AI paradigms – based on knowledge representation and reasoning modeling for the former, and learning from large databases for the latter – and shows the advantages of combining them, in hybrid approaches. The question of bias, both statistical and cognitive, is addressed, as is that of explicability, central to the adoption of AI techniques. Links with ethical issues are also discussed. The conditions under which a system or algorithm was developed, the data used for training, the validation on independent bases, the conditions of use (type of image, type of problem or question to be solved…), biases and limits, are all parameters that need to be clearly defined. The role of the human beings remains essential, from the design of the methods to the interpretation of the results, framed in a multi-disciplinary approach.