Algoritmo de corte de foto do Twitter funciona melhor com rostos jovens e de pele clara, demonstra estudante

Pesquisador ganhou prêmio de US$ 3.500 da rede social em competição que examinou viés. Ferramenta foi criticada por fazer recortes incorretos em imagens com pessoas negras. À esquerda, a linha do tempo que corta a as imagens. À direita, a visualização da linha do tempo com o novo teste do Twitter.

Reprodução/Twitter

O algoritmo de recortes de imagens do Twitter tem tendência a priorizar rostos jovens, magros e de pele clara, demonstrou um pesquisador da Escola Politécnica Federal de Lausana, na Suíça.

Bogdan Kulynych foi o vencedor de uma competição promovida pelo próprio Twitter para examinar vieses e danos causados por seus sistemas automatizados. Como recompensa, ele recebeu US$ 3.500.

A pesquisa dele mostrou que o sistema da rede social favorece rostos que são "fino, jovens, de cor de pele clara ou cálida e textura de pele suave, e com traços faciais de estereótipos femininos".

RELEMBRE: Twitter diz que irá analisar algoritmo de prévia de imagens após queixas de racismo por usuários

Twitter exclui algoritmo de recorte de imagem por viés contra minorias

Para chegar a essa conclusão, Kulynych usou um programa de inteligência artificial chamado StyleGAN2 para gerar imagens aleatórias de rostos com características realistas. Depois, foram feitos ajustes na cor da pele e atributos que tornassem o modelo masculino ou feminino.

Algumas das imagens geradas por inteligência artificial que foram testadas pelo pesquisador

Bogdan Kulynych via GitHub

As imagens foram testadas no algoritmo do Twitter, que possui uma pontuação de "saliência" para decidir qual será o objeto de destaque.

"Esse viés poderia resultar na exclusão de populações minoritárias e perpetuação de padrões estereotipados de beleza em milhares de imagens", disse o pesquisador.

A rede social já havia reconhecido que havia um problema na ferramenta que fazia recortes automáticos nas imagens para que elas coubessem no feed do aplicativo da rede social e disse ter deixado de usá-lo.

As críticas começaram depois que usuários fizeram testes ao publicarem imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.

Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.

p

Outros vieses

Outros três projetos de pesquisa foram premiados na competição do Twitter:

o 2º colocado demonstrou que o sistema costumava ignorar pessoas com cabelos brancos ou grisalhos, sugerindo um viés com idade;

o 3º colocado detectou que a ferramenta favorecia imagens que continham texto em inglês, com alfabeto latino, na comparação com alfabeto árabe;

o prêmio para o projeto mais inovador mostrou que o algoritmo também favorecia emojis com tons de pele mais claro em relação às figuras que representavam pessoas de pele escura.

Em seu perfil no Twitter, o vencedor do prêmio disse que "os danos dos algoritmos não são apenas 'bugs'" ou "erros involuntários". Para ele, há um problema na concepção dos projetos.

"Isso parte da maximização do engajamento e, no geral, do lucro que transfere os custos para os outros", escreveu Kulynych.

Patrick Hall, pesquisador de inteligência artificial e um dos integrantes do júri da competição, afirmou que os vieses existem em todos os sistemas de inteligência artificial e que as empresas precisam trabalhar de forma ativa para encontrá-los.

Esse tipo de problema não acontece somente nas redes sociais. O uso de algoritmos e inteligências artificiais pelo poder público, principalmente na área de segurança, gera preocupações entre especialistas.

Muitos deles apontam que há menor precisão em pessoas negras e de origem asiática em sistemas de reconhecimento facial, por exemplo.

SAIBA MAIS: Reconhecimento facial deve ser banido, diz regulador de privacidade da UE

Por que a Cufa interrompeu o uso de reconhecimento facial após polêmica