Soigner par algorithmes, entre santé et discipline

Abstract

Les arbres décisionnels sont devenus omniprésents dans le domaine de la santé. Ils constituent un outil pour soigner, auquel est associé un poids contraignant. La problématique de cette analyse était d’étudier en quoi l’utilisation d’algorithmes permet d’améliorer la santé ou de discipliner soignants et patients, d’abord à l’échelle individuelle dans la pratique clinique, puis à l’échelle populationnelle. Dans la pratique clinique, l’usage d’arbres décisionnels peut augmenter la sécurité des soins à la condition que des soignants responsables puissent y opposer leur décision. Cependant, critiquer un algorithme est difficile pour un soignant, notamment à cause d’une modification en profondeur du savoir médical. Ceci peut transformer l’outil-algorithme en un but à suivre. Le risque est alors d’exposer les patients à la négligence des soignants et de détériorer certaines pratiques associées au bon soin. À l’échelle de la population, l’utilisation des algorithmes s’apparente à une technologie de pouvoir relevant de la biopolitique décrite par Michel Foucault, qui consiste en une utilisation des soignants dans le but de promouvoir la santé. Cependant, l’utilisation d’algorithmes ne garantit pas à elle-seule la lutte contre les inégalités en santé, ni le choix des objectifs de santé visés. Comprendre les bénéfices et risques de l’utilisation d’algorithmes est nécessaire pour déterminer ce que nous en attendons dans le domaine médical, et pour appréhender le développement de l’intelligence artificielle en santé.

Decision trees have become ubiquitous in healthcare. They constitute a tool for healing, to which is associated a constraining weight. The issue of this analysis was to determine how the use of algorithms can improve health, or discipline caregivers and patients, firstly on individual health in clinical practice, then on population health. In clinical practice, algorithms can increase safety of care if responsible caregivers can oppose their decision. However, criticizing an algorithm is difficult for a caregiver, in particular because of a profound change in medical knowledge. This can turn the tool-algorithm into a goal to follow. Then, the risk is to expose patients to the negligence of caregivers and to deteriorate certain practices associated with good care. At the population level, the use of algorithms is similar to a technology of power falling within the biopolitics described by Michel Foucault, which consists of the use of caregivers with the aim of promoting health. However, the use of algorithms does not guarantee either the fight against health inequalities or the choice of targeted health objectives. Understanding the benefits and risks of using algorithms is necessary to determine what we expect from them in the medical field, and to understand the development of artificial intelligence in health.