Les algorithmes sont-ils racistes ?

Abstract

Suivant une perspective sociologique, cet article propose une vue d’ensemble documentée des questions de racisme et de discriminations en contexte numérique, notamment depuis l’irruption lors de la première décennie du xxie siècle d’une série de technologies avancées liées à l’intelligence artificielle. Le fonctionnement de certains algorithmes (ceux utilisant le machine learning ou apprentissage automatique) est interrogé, et une réflexion sur les données d’entraînement, les biais algorithmiques et les choix sociaux derrière l’élaboration de ces outils techniques est menée. Une attention particulière est accordée aux algorithmes de recommandation de contenus des réseaux sociaux, considérés comme les outils de l’intelligence artificielle posant les défis sociaux les plus importants aujourd’hui. Ce travail s’appuie sur les productions et définitions établies par les sociologies du racisme, des discriminations ou encore de la race, et mobilise également la littérature technique en sécurité et fiabilité de l’apprentissage machine.