Viés racial em sistemas de inteligência artificial

Abstract

Este artigo aborda os desafios para a responsabilização civil por ilícitos relacionados a falhas de sistemas de inteligência artificial enviesados em relação a questões raciais. Explora-se a possibilidade de um algoritmo ser considerado racista – o que não se confirma nas conclusões – e como isso pode causar danos pela ação omissiva de quem não realiza adequada curadoria de dados que conduzem ao viés algorítmico. Além disso, discute-se a necessidade de parametrização normativa baseada na gradação do risco, em linha com o modelo que segue em discussão na União Europeia. A pesquisa utiliza o método dedutivo, com embasamento bibliográfico e revisitação de conceitos teóricos. O objetivo é buscar uma conclusão diante desse tema problemático, considerando a preservação dos direitos humanos e os desafios apresentados pela evolução dos algoritmos e dos sistemas de inteligência artificial.