Uma das preocupações mais recentes relacionadas a sistemas de inteligência artificial são os problemas de privacidade existentes no uso indiscriminado de algoritmos de reconhecimento facial, e em como empresas do setor estariam coletando nossos rostos sem consentimento para alimentar essa tecnologia. E foi a preocupação com este tipo de uso que fez com que pesquisadores criassem o Fawkes, uma ferramenta que permite proteger as pessoas de softwares de reconhecimento do rosto.
Desenvolvido por cientistas da Universidade de Chicago (EUA), esta tecnologia foi batizada em homenagem a Guy Fawkes, protagonista da HQ V de Vingança. Na história, Fawkes utiliza uma máscara para poder lutar contra um governo ditatorial de maneira anônima.
Mas, ao contrário do personagem das HQs — que utiliza bombas, espadas e armas de fogo — o software Fawkes é bem mais discreto: o que ele faz não é tornar a pessoa “invisível” para os softwares de reconhecimento facial, e sim efetua mudanças nas suas fotos que são praticamente imperceptíveis a olho nu — mas o suficiente para que qualquer algoritmo de reconhecimento facial acredite se tratar de outra pessoa — algo como colocar uma máscara que é invisível para os olhos humanos mas que esconde seu rosto real da varredura feita por um computador.
Assim, caso um desses sistemas de reconhecimento tenha sido treinado com imagens suas que passaram pelo tratamento do Fawkes, quando uma câmera ligada a este sistema focalizar o seu rosto, ela não irá fazer a ligação à sua pessoa, mas a alguém não classificado pelo software pelo motivo de, no banco de dados dele, a identificação que consta como “você” está ligada a um rosto que, para o computador, é totalmente diferente daquele flagrado pela câmera.
De acordo com os cientistas que o desenvolveram, o Fawkes consegue esconder o rosto de alguém com 100% de sucesso dos principais serviços de reconhecimento facial existentes no mercado — nominalmente o Azure Face da Microsoft, o Rekognition da Amazon e o Face++ da chinesa Megvii.
Reconhecimento facial e privacidade
Apesar de terem desenvolvido uma ferramenta perfeita para garantir que as pessoas possam manter sua privacidade mesmo em um mundo cada vez mais monitorado por sistemas de reconhecimento facial, o maior desafio do Fawkes é conseguir que o uso desse sistema seja adotado de forma massiva pelas pessoas de todo o mundo. Isto porque, caso apenas algumas pessoas utilizem uma proteção do tipo, ao invés de proteger a privacidade de todos o Fawkes só estará contribuindo para amplificar os vieses discriminatórios que já existem nesses sistemas de reconhecimento facial.
De acordo com Hoan Ton-That, CEO da Clearview (sistema de reconhecimento facial usado pelos departamentos de polícia de algumas das maiores cidades dos Estados Unidos), já é tarde demais para as pessoas se protegerem desses sistemas, pois eles já possuem bilhões de imagens coletadas em postagens públicas feitas ao redor da internet (como redes sociais e postagens em blogs) e que uma tecnologia como o Fawkes só se tornaria realmente disruptiva caso fosse adotada antes das empresas de reconhecimento facial já terem montado suas bases de dados.
Mas a equipe que desenvolveu o Fawkes discorda que o programa seja inútil. Eles dizem que, apesar da Clearview afirmar que eles já possuem bilhões de fotos em seus bancos de dados, isso não quer dizer muita coisa quando falamos de toda a população mundial, e é bem provável que, em muitos casos, eles tenham apenas uma ou duas imagens públicas sobre alguém em específico.
Mesmo assim, a equipe concorda que o software só fará mesmo diferença se for adotado de forma massiva no mundo todo, e por isso eles estão atrás de empresas de tecnologia que podem ter interesse em algo do tipo — como o Facebook, que pode vender para seus usuários um diferencial de proteger toda e qualquer foto postada na rede social de ser usada para identificá-los em sistemas de reconhecimento facial de qualquer autoridade no mundo.
Por enquanto, o Fawkes está disponibilizado em forma de software para que você possa “mascarar” suas fotos antes de postá-las na internet. Este software existe nas versões para Windows e macOS, e pode ser baixado gratuitamente na página do projeto.
Fonte: The Verge, Universidade de Chicago
