ONG brasileira cria IA anti-ódio contra LGBT+ e processa big techs por violência digital

‘A gente transformou ódio em riqueza, em potência para combater através da IA’, aponta diretora da Código Não Binário Um ataque coordenado de ódio de extrema direita, potencializado pelos algoritmos das redes sociais, motivou a ONG Código Não Binário a criar uma ferramenta de inteligência artificial para detecção de discurso de ódio anti-LGBT+ e a acionar a Justiça contra as big techs Meta (proprietária do Facebook, do Instagram e do Whatsapp), Google (responsável pelo YouTube), X e ByteDance (TikTok) em ação civil pública que denuncia a violência digital. As diretoras da Código Não Binário, Veronyka Gimenes e Amanda Claro, participaram nesta segunda-feira (2) do jornal Conexão BdF, da Rádio Brasil de Fato, e contaram sobre o processo que levaram à criação da ferramenta e ao processo judicial – protocolado com apoio do Instituto Brasileiro de Transmasculinidades (Ibrat), do Fórum Nacional de Travestis e Transexuais Negras e Negros (Fonatrans) e da revista AzMina. Em maio de 2024, um corte de um episódio do podcast Entre Amigues, da Código Não Binário, viralizou nas principais redes. O vídeo falava sobre o termo “boyceta”, usado na periferia de São Paulo para se referir a pessoas transmasculinas. O assunto foi o mais comentado do Brasil no X (rede de Elon Musk) por dois dias, em grande parte com discurso de ódio. O conteúdo também foi impulsionado pelo algoritmo do TikTok para milhões de perfis. Ao partir para a análise do conteúdo, o grupo, em busca de preservar a saúde mental das pessoas envolvidas, desenvolveu uma metodologia de extração de dados. Dois mil comentários foram classificados manualmente, e, a partir daí, uma ferramenta de inteligência artificial (IA) passou a realizar a análise dos demais. Um relatório técnico foi elaborado e baseou a Ação Civil Pública. A IA desenvolvida pelo grupo foi batizada de TybyrIA, e homenageia Tybyra do Maranhão, primeira pessoa vítima oficial de LGBTfobia durante a colonização do território do Brasil. Segundo relatos, ele foi amarrado à boca de um canhão, que foi disparado, causando a morte instantaneamente. A ferramenta, gratuita e com código aberto, está disponível no site da Código Não Binário. “Já que dizem que os dados são o ‘novo petróleo’, a gente levou isso ao pé da letra, e transformou esse ódio nessa riqueza, nessa potência de combater essa circulação de ódio através dessa IA”, resumiu Veronyka na entrevista ao Conexão BdF. A especialista destacou também a importância de desmitificar alguns conceitos a respeito da inteligência artificial. O tema ganhou força nos últimos anos e seguirá fazendo parte do cotidiano, e as ferramentas não devem ser demonizadas. “Esse modelo de IA, não é como o ChatGPT”, comparou. “Não tem nada a ver com os grandes modelos de linguagem que geram esse interesse comercial super ganancioso, de criar datacenters do tamanho de cidade pelo mundo inteiro. A gente precisa diferenciar isso, mas é algo que afasta as pessoas da IA e é um desconhecimento sobre o campo”, ponderou. Os números apurados pela Inteligência artificial mostraram que comentários de ódio têm mais respostas que a média. Foi possível identificar que os algoritmos operam para trabalhar com as emoções mais profundas das pessoas, o que inclui a raiva, e intensificar as respostas a essas emoções, “premiando” esse tipo de conteúdo. “O nosso direito ainda não é adaptado para entender e para cuidar das redes sociais com a velocidade que as mudanças ocorrem. A iniciativa trabalha nesse sentido”, afirmou Amanda Claro. Os dados produzidos com a IA e as análises do caso permitiram que fosse lançada a iniciativa jurídica inédita. O processo judicial mira todas as principais redes sociais ao mesmo tempo. Na avaliação do grupo, elas atuam conjuntamente. “Elas [as redes] formam e operam como um sistema desregulado que permite a circulação livre do ódio e premia esses conteúdos. Não é só um espaço, neutro, que não faz nada. O ódio opera através das regras de engajamento dessas plataformas”, completou Amanda. Para ouvir e assistir O jornal Conexão BdF vai ao ar em duas edições, de segunda a sexta-feira: a primeira às 12h e a segunda às 17h, na Rádio Brasil de Fato, 98.9 FM na Grande São Paulo, com transmissão simultânea também pelo YouTube do Brasil de Fato.