Viés, ética e responsabilidade social em modelos preditivos

Abstract

Modelos preditivos baseados em Aprendizado de Máquina têm sido amplamente empregados para apoiar processos diversos de tomada de decisões. Suas decisões, entretanto, podem ter impacto em direitos humanos em diferentes grupos da sociedade. Isso porque os modelos são treinados com base em dados oriundos da própria sociedade, muitas vezes, com vieses embutidos ou aprendidos. Nesse sentido, é necessário ir além do tradicional objetivo de se obter modelos preditivos com alto desempenho e incorporar princípios éticos e responsáveis em sua concepção, treinamento e implantação para garantir o bem social. Este artigo discute aspectos associados a vieses, ética e responsabilidade social na construção de modelos preditivos.