Fehlgeleitete Hoffnungen?

Abstract

Zusammenfassung: Algorithmusbasierte Systeme unterstützen zunehmend Entscheidungen mit zukunftsentscheidenden Konsequenzen. Um positive Aspekte algorithmusbasierter Systeme nutzbar zu machen und gleichzeitig Risiken im Einsatz zu minimieren, wird von verschiedenen Interessensgruppen die Rolle menschlicher Aufsicht betont. Ziel dieses Positionspapiers ist es, anhand des Beispiels algorithmusbasierter Personalauswahl und mit dem Fokus auf Fairness und Diskriminierung zu betonen, dass Hoffnungen, die auf menschlicher Aufsicht ruhen, womöglich fehlgeleitet sind und menschliche Aufsicht beim Einsatz von Systemen nur ein Puzzleteil für deren effektiven und sicheren Einsatz ist. Darüber hinaus müssen die Bedingungen effektiver menschlicher Aufsicht beim Einsatz algorithmusbasierter Systeme besser verstanden werden, wofür die Psychologie eine tragende Rolle spielen kann.