REDEVABILITÉ, EXPLICABILITÉ ET TRANSPARENCE DE L’IA : UNE MISSION IMPOSSIBLE ?

Abstract

Les systèmes algorithmiques d’intelligence artificielle produisent des effets ambivalents, appréciés ou critiqués mais qui peuvent également être indésirables, voire dangereux. Dès lors, apparaît l’idée qu’ils puissent rendre compte, autrement dit être redevable des effets et actions qu’ils causent. Ainsi, l’objectif est ici d’initier une réflexion sur cette “redevabilité” (accountability) des systèmes algorithmiques d’intelligence artificielle et les difficultés de sa mise en œuvre. En particulier, deux types d’obstacles sont mis en relief : la distanciation entre une myriade d’acteurs humains et non-humains et la complexité inhérente aux systèmes algorithmiques. Dès lors, les principes d’E. Morin pour penser cette complexité ouvrent des perspectives.