kalissa / tccii_vies_agentes

A problemática de viés de gênero em interações com agentes virtuais: um estudo baseado em aprendizado de máquina

Trabalho de Conclusão II apresentado como requisito parcial à obtenção do grau de Bacharel em Sistemas de Informação na Pontifícia Universidade Católica do Rio Grande do Sul.
Elaborado por Kalissa Rodrigues e Paulo Monteiro, sob orientação da professora Silvia Moraes.

Resumo

Pensando em ter atratividade online, grandes marcas passaram a agregar agentes virtuais à sua publicidade, criando seus próprios influenciadores virtuais: é o caso das varejistas Magazine Luiza e Casas Bahias. Inicia-se, assim, a geração de um grande rastro de dados útil para os negócios composto pelas trocas de mensagens entre agentes virtuais (empresas) e usuários de redes sociais.
Todavia, há sempre o ônus e o bônus: a agente virtual Magalu vem sofrendo, desde 2018, ataques virtuais em virtude de seu gênero (assédio e cibersexismo). Além dela, outras grandes marcas brasileiras relataram assédios a suas assistentes virtuais, e já foram constatados diversos casos de viés de gênero e violências sofridas pelo gênero feminino em contextos de tecnologia da informação.
Em consequência disto, elaboramos uma hipótese central: "Existe diferença no tratamento entre agentes virtuais de diferentes gêneros", e de forma a validar tal hipótese, construímos uma base de dados de respostas aos perfis destes dois agentes virtuais (Magalu e Baianinho), na rede social Twitter.
Com isto, utilizando análise de sentimentos através da API identificadora de comentários tóxicos da Google, Perspective, análise manual e visual, comparamos as respostas para a agente feminina e para o agente masculino, e analisamos o quão tóxicas tais podem vir a ser: construímos um corpus com 1.007 mensagens com anotações de toxidade em português, sendo duas delas não encontradas na literatura (Sexual Explícito e Assédio).
A partir deste corpus, foram criados dois classificadores de texto utilizando o algoritmo de aprendizado de máquina kNN, com classificação de toxidade em dois níveis (Toxidade e Conotação Sexual Explícita). Com isto e através de análise dos dados, nossa hipótese foi validada.

Contribuições

• Corpus Anotado
• Classificador de Toxidade em dois níveis (Toxidade e Sexual Explícito)
• Análises discorridas sobre a validação das hipóteses do trabalho.