Nudes falsas são criadas por meio de deepfakes no Telegram

nudes falsos destaque
Por meio do software DeepNude, mais de 100.000 nudes falsas foram criadas por bots e compartilhadas pelo Telegram

Pesquisadores descobriram todo um submundo de bots deepfakes criadores de nudes falsas a partir do aplicativo de troca de mensagens Telegram. Pegando fotos de várias redes sociais, esses bots criam nudes falsas de variadas mulheres e depois essas fotos são usadas em trocas entre os usuários de vários chats do aplicativo.

Bots são pagos para exibir nudez completa de deepfakes

nudes falsas deepfake
A tecnologia deepfake é cada vez mais usada no mundo – da produção de memes até mesmo para criação de coisas encriminadoras.

A pesquisa da firma de segurança Sensity, que tem como foco analisar ameaças virtuais por meio de imagens, fez a investigação e descobriu que mais de 100.000 imagens já foram compartilhadas em canais públicos do Telegram até julho de 2020 e também descobriu que 70% dos usuários nesses canais são moradores da Rússia e seus países vizinhos.

O uso dos bots é gratuito inicialmente, com ele produzindo imagens que, embora já contenham conteúdo falso, contam com marcas d’água ou nudez parcial. Ao pagar uma quantia de dinheiro, o bot libera a imagem sem nenhuma marca e com nudez completa. A Sensity indica que um certo número das imagens criadas pelos bots e compartilhadas incluíam menores de idade, se encaixando em pedofilia.

Software usado para criação das imagens já foi centro de polêmicas

Nudes falsas são criadas por meio de deepfakes no Telegram
Enquete dentro de um dos canais de compartilhamento no Telegram. Fonte: Sensity

O software usado para a criação dos nudes falsos é o DeepNude, que quando foi descoberto em junho de 2019 gerou discussões sobre quais os limites morais do uso da tecnologia deepfake. Embora o seu criador já tenha retirado do ar a possibilidade de adquirir o DeepNude, o software continua se espalhando por meios ilegais e segundo a Sensity sofreu engenharia-reversa e agora pode ser encontrados em versões com mais ferramentas do que a versão original.

O DeepNude usa uma técnica de IA conhecida como GANs para gerar os nudes falsos, com resultados de qualidade variável. Muitas das fotos obviamente são falsas, com a pele pixelada, mas em alguns casos os resultados podem se passar por nudes reais. A Sensity acredita que a maioria dessas criações está sendo usado para pessoas que querem consumir pornografia deepfake, mas que o mercado desses nudes falsos é perigoso pelo possível uso dessas fotos em situações de chantagem e campanhas de difamação.

Historicamente, a criação de nudes falsos é tão antigo quanto a Internet, com sites dedicados a criações de nudes sem o uso de IA, só com editores de imagem, mas a chegada do deepfake nesta área pode significar um aumento enorme na circulação de material desse tipo e a maior incidência de crimes como os citados acima. Além disso, já existem exemplos de pessoas que foram vítimas de difamação por meio de nudes falsos, se assemelhando com o que Fake News tentam fazer mas com um efeito mais imediato.

Fonte: The Verge

Receba notícias como essa no seu email. Inscreva-se aqui:

Adicionar Comentário

Clique aqui para postar um comentário

Assine nossa Newsletter