Discrimination analysis of intelligent voice assistants

Abstract

Assistentes de Voz Inteligentes (AVI) estão se tornando cada vez mais populares em todo o mundo, provendo fácil interação para realização de serviços e acessos a dispositivos. No entanto, o treinamento desses assistentes de voz pode estar limitado a falas padronizadas gerando o risco de desestimular a adoção desta tecnologia inclusiva por grupos com características de fala distintas da padrão. A eventual diferença de qualidade de desempenho dos assistentes em virtude das formas específicas da fala de diferentes grupos de pessoas nos países em desenvolvimento pode ser considerado um viés, bem como um fator que discriminará principalmente os grupos mais vulneráveis e, consequentemente, aumentará a lacuna digital nestes países. Neste trabalho, apresentamos um estudo de caso que analisa a presença de viés na interação por voz com os assistentes, ou seja, uma diferença na qualidade do desempenho dadas características específicas de fala dos usuários. Avaliamos o comportamento do Google Assistente e da Siri para grupos de pessoas distribuídas por gênero e região do país, avaliando duas características da linguagem: a cacoépia e a disfluência. Resultados preliminares indicam que a cacoépia e a disfluência estão relacionadas com a região de origem do falante e têm impacto no desempenho dos assistentes de voz.