Diskriminierung durch algorithmische Entscheidungen: „Equality Through Algorithmic Design“

Abstract

Ist die derzeitige „Big Data-Revolution“, wie viele behaupten, genauso schädlich für die Gesellschaft im 21. Jahrhundert wie Henry Fords System der Massenproduktion im späten 19. Jahrhundert?1 Klar ist, dass technologischer Fortschritt maßgeblich zur Veränderung der Art und Weise wie wir in der heutigen Zeit arbeiten beiträgt. Diese Veränderungen haben viele positive Entwicklungen mit sich gebracht, von denen durchaus nicht nur Arbeitgeber/innen profitieren. Dennoch stellt insbesondere der Einsatz von Algorithmen in der Arbeitswelt, sei es die vollautomatisierte Bewerbungssoftware, die die Suche nach geeignete/n Kandidaten/innen erleichtert2 oder die Firmensoftware die die Anwesenheit und Arbeitsproduktivität der Arbeitenden misst und analysiert, das Arbeitsrecht und insbesondere das Gleichbehandlungsund Antidiskriminierungsrecht vor neue Herausforderungen.3 Algorithmen sind weder neutral noch wertfrei, da sie von Menschen für Menschen entwickelt werden und die Daten anhand welcher (teils) automatisierte algorithmische Entscheidungen getroffen werden, von Menschen produziert werden.4 Wie O’Neil schreibt: „The I.