Algoritmo do Twitter favorece mulheres jovens e magras

Algoritmo do twitter favorece mulheres jovens e magras. Concurso para identificação de viés na ia do algoritmo do twitter descobriu o favorecimento de estereótipos de gênero, raça, idade e cultura na plataforma
Concurso para identificação de viés na IA do algoritmo do Twitter descobriu o favorecimento de estereótipos de gênero, raça, idade e cultura na plataforma

Em um concurso promovido para descobrir vieses no algoritmo do Twitter, um desenvolvedor descobriu que a inteligência artificial por trás dos cortes de imagens na pré-visualização de um tweet favorece o foco em mulheres jovens e magras. Essa é mais uma revelação para se juntar ao número de polêmicas da inteligência artificial do algoritmo do Twitter. Veja a seguir mais descobertas deste mesmo estudo.

Como foi descoberto o viés do algoritmo do Twitter

Algoritmo do twitter
Exemplo do algoritmo do Twitter em ação.

A descoberta, feita por Bogdan Kulunych, estudante da Suíça, durante o concurso de identificação de viés patrocinado pelo próprio Twitter, usou ‘softwares’ de deepfake para criar diferentes rostos, e testou o algoritmo do Twitter em cortes de imagem para ver como ele se comportava. O resultado, segundo os dados coletados, é que quanto mais jovem, feminino e magra for a pessoa na imagem, mais favorecida ela será. Segundo um dos juízes da competição, Ariel Herbert-Voss, um pesquisador de segurança na OpenAI, isso reflete os vieses dos criadores do algoritmo.

Algoritmo do twitter favorece mulheres jovens e magras. Concurso para identificação de viés na ia do algoritmo do twitter descobriu o favorecimento de estereótipos de gênero, raça, idade e cultura na plataforma
Exemplo de imagem usada para a descoberta do viés ao alfabeto romano.

Outros vieses foram descobertos também na competição, como o favorecimento do algoritmo ao alfabeto romano em detrimento ao árabe, dando uma centralização ocidental para as imagens. Esse detalhe foi descoberto por Roya Pakzad, que fez os testes a partir de memes bilíngues.

Algoritmo do twitter favorece mulheres jovens e magras. Concurso para identificação de viés na ia do algoritmo do twitter descobriu o favorecimento de estereótipos de gênero, raça, idade e cultura na plataforma
Exemplo de imagem usadas para a identificação com viés de cabelo branco.

Outra descoberta foi que o algoritmo também desfavorece imagens com pessoas com cabelo branco, ou seja, prefere pessoas com visual mais jovem na maioria do tempo. A descoberta foi feita pelo grupo HALT AI, um grupo de desenvolvedores localizados em Toronto, que usou softwares para mudar artificialmente a cor do cabelo de pessoas em imagens para branca, mostrando o que o Twitter favorecia.

Essas são só mais algumas descobertas sobre o viés do algoritmo do Twitter. Em setembro de 2020, um estudante canadense identificou que a plataforma favorecia imagens de mulheres brancas quando realizava o corte da imagem para ser exibido na prévia de um tweet. Isso causou várias acusações de racismo contra o algoritmo, principalmente quando era notável que pessoas pretas nunca apareciam na prévia se estavam junto de pessoas brancas. Para resolver o problema, o Twitter está oferecendo recompensas para quem identificar vieses da plataforma, para ela poder trabalhar em removê-los. Porém, o processo não é tão simples, já que envolve a reprogramação total da IA além de detalhes específicos que, muitas vezes, podem não estar tão facilmente visíveis para os desenvolvedores.

Confira o tweet de Bogdan Kulunych com as informações sobre o viés do algoritmo:

Fonte: Wired

Para mais novidades do Twitter, como o Super Follow, fique de olho no Showmetech.

Receba notícias como essa no seu email. Inscreva-se aqui:
Tags

Adicionar Comentário

Clique aqui para postar um comentário