Twitter oferece recompensas a quem corrigir vieses raciais e sexistas em seus algoritmos de corte de imagens

Perfis apontaram que o recurso teria inclinação a escolher rostos de pessoas brancas em imagens que também possuem rostos de pessoas negras. Agora, rede social quer ajuda para resolver o problema. Sede do Twitter em São Francisco, nos EUA.

Jeff Chiu/AP

O Twitter anunciou na última sexta-feira (30) que irá oferecer recompensas em dinheiro a usuários e pesquisadores que descobrirem possíveis vieses sexistas ou racistas nos algoritmos de recorte de imagens em sua plataforma.

Segundo o Twitter, essa seria "a primeira competição de recompensas desse tipo na indústria", com prêmios de até US$ 3.500 (cerca de R$ 17.970, na cotação atual).

A decisão acontece meses depois de usuários da rede social apontarem um viés racial no recurso que recortava automaticamente as fotos publicadas para que elas coubessem na linha do tempo.

Em setembro de 2020, perfis publicaram imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte. Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.

Em maio de 2021, o Twitter reconheceu que havia um problema e disse que esse algoritmo favorecia usuários homens e brancos em vez de negros e mulheres, além de ter o que chamaram de "olhar masculino", concentrando o recorte no peito ou nas pernas de mulheres.

RELEMBRE: Twitter exclui algoritmo de recorte de imagem por viés contra minorias

A competição se baseia em programas de "recompensa por erros" (ou "bug bounty", em inglês) oferecidos por alguns sites e plataformas para detectar falhas de segurança e vulnerabilidades, explicaram os executivos do Twitter Rumman Chowdhury e Jutta Williams.

"Encontrar distorções em modelos de aprendizagem automática é difícil. Às vezes, as empresas tomam conhecimento de violações éticas indesejadas apenas depois que elas chegam ao público. Queremos mudar isso."

Os executivos consideraram promissor o modelo de oferecer recompensas a hackers para encontrarem distorções nos algoritmos.

"É inspirador como a pesquisa e as comunidades de hackers ajudaram o campo da segurança a definir as melhores práticas para identificar e eliminar as vulnerabilidades, a fim de proteger o público. Queremos cultivar uma comunidade semelhante, para uma identificação pró-ativa e coletiva de danos de algoritmo."

O Twitter vai liberar os seus códigos para análise e os trabalhos indicando possíveis mudanças nos algoritmos precisam ser entregues até o dia 6 de agosto. As principais soluções serão anunciadas no dia 8:

O 1º colocado ficará com US$ 3.500;

O 2º colocado ficará com US$ 1.000;

O 3º colocado ficará com US$ 500;

A solução mais inovadora ganhará US$ 1.000;

A solução mais "generalista", que se aplicar a mais algoritmos, também ganhará US$ 1.000.

1xVelocidade de reprodução0.5xNormal1.2x1.5x2x