Beslutningsunderstøttende algoritmer i det offentlige: påvirkningen af sagsbehandlerens skøn og begrundelse

Abstract

Sagsbehandlerne i forvaltningen skal træffe afgørelser på et oplyst og objektivt grundlag og være i stand til at begrunde afgørelserne. De assisteres dog i stigende grad af beslutningsunderstøttende algoritmer, der er skabt til at generere output fremfor at tilvejebringe en forklaring. Denne udvikling kan effektivisere og forbedre arbejdsgange, men kan også udfordre forvaltningsretlige krav til skøn og begrundelse, der hviler på grundlæggende retssikkerhedsmæssige principper om blandt andet en tilstrækkelig sagsoplysning og forudberegnelighed. Ved at bruge ASTA-rapportens data om sagsbehandleres oplevelser af og praksis med brugen af algoritmer i risikovurderingen af nyledige illustreres, hvordan automation bias og black box-paradokset kan påvirke sagsbehandlerens skøn og begrundelse. Så på trods af en måske mere effektiv håndtering af større datamængder via algoritmer kan det udfordre nogle af retsstatens grundlæggende principper.