App transfóbico permite apenas mulheres cis com ajuda de ia

App rejeita mulheres trans e negras com ajuda de IA

Avatar of lucas gomes
O aplicativo Giggle também não reconhece traços de mulheres não-brancas. Transfobia é assunto em pauta também no BBB 22, com ataques à artista Linn da Quebrada

Muito se fala sobre espaços seguros para minorias sociais, que tanto são perseguidas e violentadas diariamente. Seja na vida real ou na internet, é fato que mulheres, negros, a comunidade LGBTQIA+ e outras minorias são alvo de discriminação. O Giggle pretende ser um local seguro para mulheres, entretanto o app rejeita mulheres trans e negras, ganhando a alcunha de “app transfóbico” pelas minorias. A inteligência artificial que avalia o gênero dos participantes barra a participação de mulheres trans e não-brancas de acessar a plataforma. Entenda o caso.

Sobre o Giggle

O aplicativo funciona da seguinte maneira: você instala em seu smartphone e assim que começa a configurá-lo, é solicitado que tire uma foto sua para confirmar que você é, de fato, uma mulher — o público alvo do app. Neste momento o aplicativo analisa a foto e se, de acordo com a inteligência artificial, você for considerada uma mulher, você poderá utilizá-lo, caso contrário, será rejeitado.

Interface e recursos do giggle. Reprodução: app store
Interface e recursos do Giggle. Reprodução: App Store

Sall Grover, fundadora e CEO do Giggle, afirmou que realmente decidiu excluir mulheres trans do aplicativo após um grande adesão de ativistas trans no aplicativo. Grover foi considerada como TERF, que significa “trans-exclusionary radical feminist“, ou seja, uma feminista radical que exclui mulheres trans de seu movimento.

Essa combinação específica de categorização de gênero, reconhecimento facial e raça é algo que sabemos absolutamente ser um problema

Casey Fiesler, professor na Universidade do Colorado sobre as problemáticas do aplicativo Giggle

A rede social envia essa selfie para uma empresa chamada Kairos, que faz a avaliação da foto. Se a inteligência artificial do Kairos tiver pelo menos 95% de certeza de que aquela pessoa é uma mulher, ela estará dentro. No site do Giggle há o informe de que “através de visão computadorizada e deep learning, a IA consegue reconhecer mulheres em vídeos, fotos e no mundo real”.

Relatos de tentativas

Uma moça chamada Victoria Morris ouviu falar do aplicativo Giggle através de fóruns com temática trans no Reddit. A moça disse ter baixado o aplicativo mas nunca conseguiu mexer nele e decidiu tweetar sobre o caso, que inclusive estava na época recheado de avaliações negativas na App Store. Esse tweet foi retweetado mais de 4 mil vezes, e ainda recebeu comentários como “esse app transfóbico só aceita feições euro centradas, excluindo mulheres trans e negras”.

Há alguns anos, outra garota chamada Jenny também havia conseguido acessar o aplicativo, dizendo que era até fácil burlar o filtro: demorou um pouco mas conforme você vai tentando, uma hora consegue. Ela acessou novamente o aplicativo recentemente, após os burburinhos que tomaram a internet, e nesse tweet Sall Grover foi marcada e comentou apenas algo sinalizando que Jenny havia sido pega. Pouco tempo depois, a moça perdeu seu acesso ao aplicativo sem maiores explicações.

As TERFs criaram um aplicativo chamado ‘Giggle’ projetado apenas para mulheres cis e usa IA para determinar se você nasceu mulher cis gênero, mas parece filtrar involuntariamente um pouco de mulheres cis que não são ‘femininas’ o suficiente

Victoria em seu relato via Twitter

Transfóbico e racista

O aplicativo Giggle não apenas exclui mulheres trans gênero, mas também não identifica outras mulheres — cis ou trans — que não possuam características de mulheres brancas. O aplicativo chega a funcionar até mesmo em homens que são brancos, mas mulheres negras e as que possuem algum tom mais escuro, acabam sendo rejeitadas no momento da análise da inteligência artificial.

App rejeita mulheres trans e negras com ajuda de ia. Reprodução: women-in-technology
App rejeita mulheres trans e negras com ajuda de IA. Reprodução: women-in-technology

Uma pesquisa em 2019 feita por Joy Buolamwini apontou que a tecnologia utilizada pela Kairos para o reconhecimento facial do Giggle, de acordo com todas as mulheres negras que se submeteram ao processo, aprovou apenas 22,5% delas, o que significa menos de um quarto das usuárias. Na época a CEO da Kairo, Melissa Doval, afirmou que pesquisas para melhoras na inteligência artificial seriam aplicadas.

Mulheres de qualquer raça não são somente bem-vindas no Giggle como há mulheres de todas as raças no Giggle

Sall Grover, fundadora e CEO do Giggle sobre as acusações racistas em torno do aplicativo

Apesar dos relatos em toda a internet e a pesquisa realizada, Grover mantém-se negando que a inteligência artificial da plataforma de alguma forma exclua mulheres não-brancas. E que em qualquer caso semelhante, que a usuária entre em contato com o aplicativo.

Origem da discriminação

Sall Grover e sua mãe tiveram a ideia de criar um aplicativo exclusivamente para mulheres, uma vez que elas queriam um lugar que fosse completamente seguro para que as usuárias pudessem compartilhar suas vivências, experiências e o dia a dia sem medo.

À esquerda, sall grover, e à direita, sua mãe. Reprodução: womenpwr
À esquerda, Sall Grover, e à direita, sua mãe. Reprodução: womenpwr

Atualmente, ao ler um pouco sobre o Giggle, é possível encontrar diversas maneiras pelo qual a palavra “feminino(a)” é empregada, e isso é intencional. De acordo com Grover, a palavra “mulher” tem sido altamente apropriada e que sentiu uma necessidade de deixar claro a proposta do app.

Queríamos um lugar onde as mulheres pudessem ajudar umas às outras. Um espaço feminino, na palma da mão. Onde as mulheres pudessem encontrar apoio, conexão e refúgio entre outras mulheres, não importa onde estivessem ou o que estivessem fazendo

Sall Grover, fundadora e CEO do Giggle sobre o intuito do aplicativo

Ela decidiu excluir mulheres trans do aplicativo depois dessas postarem ofensas a TERFs que estavam no app. Ela percebeu que após esse procedimento, acabou sendo reconhecida, também, como TERF, bem como o aplicativo Giggle ficou conhecido como app transfóbico. Ainda neste mês de janeiro Grover defendeu J. K. Rowling, a criadora de Harry Potter, que é declaradamente TERF.

Cenário brasileiro

Há alguns anos o Brasil, infelizmente, é reconhecido como o país que mais mata transexuais no mundo. Dada essa informação, estamos vendo o caso de Linn da Quebrada, participante do BBB 22 que é uma mulher trans e sofre, diariamente, ataques transfóbicos. Esses eventos não ocorrem exclusivamente dentro da casa, mas também fora, com ameaças, insultos e difamações nas redes sociais da artista. Um exemplo público sobre como a maioria das pessoas desrespeitam mulheres trans e travestis.

Linn da quebrada, atriz e cantora, participante do bbb 22. Reprodução: globo
Linn da Quebrada, atriz e cantora, participante do BBB 22. Reprodução: Globo

Durante a primeira semana em que o programa está sendo exibido, vimos episódios claros de transfobia, como a utilização de pronomes pelos quais a pessoa não se identifica. Lina — nome real de Linn — se identifica com os pronomes ela/dela (inclusive tendo o pronome “ELA” tatuado em sua testa), e mesmo assim participantes do reality, em momentos diferentes, se referiram à artista no masculino, referindo-se a ela como “ele” e “solteiro”.

No Twitter, usuários entendem que há uma desinformação proposital, para criar embates que geram tensões entre os participantes da casa e desqualifiquem o posicionamento e a luta das minorias. Um exemplo disso são os participantes do BBB 22 que esperam que as minorias ensinem sobre o mínimo de tratamento e respeito — algo que, se quisessem saber de verdade, já teriam pesquisado anteriormente e se informado.

Veja também:

Confira o que foi descoberto recentemente sobre o caso de Anne Frank.

Fonte: Insider.

Inscreva-se para receber nossas notícias:

Total
3
Shares
Deixe um comentário

O seu endereço de e-mail não será publicado.

Posts Relacionados