As mulheres têm dito ao Twitter há anos que sofrem muitos abusos na plataforma. Um novo estudo realizado pela organização de defesa dos direitos humanos Amnistia Internacional tenta avaliar exactamente quanto.

Muito, na verdade. Cerca de 7% dos tweets que mulheres proeminentes do governo e do jornalismo recebem foram considerados abusivos ou problemáticos. As mulheres negras foram 84% mais propensas do que as mulheres brancas a serem mencionadas em tweets problemáticos.

Depois de uma análise que incluiu quase 15 milhões de tweets, a Amnistia Internacional divulgou os resultados e, no seu relatório, descreveu o Twitter como um "lugar tóxico para as mulheres". A organização, que talvez seja mais conhecida pelos seus esforços para libertar prisioneiros políticos internacionais, voltou a sua atenção para as empresas de tecnologia recentemente e pediu que a rede social "disponibilize dados significativos e abrangentes sobre a escala e a natureza do abuso na sua plataforma, bem como sobre o modo em que o problema está a ser abordado".

"O Twitter comprometeu-se publicamente a melhorar a saúde colectiva, a abertura e o civismo da conversação pública no serviço", disse Vijaya Gadde, responsável pelo departamento jurídico e de política, confiança e segurança do Twitter, num comunicado em resposta ao relatório.

"A saúde do Twitter é medida pela forma como ajudamos a incentivar um debate mais saudável, conversas e pensamento crítico. Por outro lado, o abuso, a automação maliciosa e a manipulação prejudicam a saúde do Twitter. Estamos comprometidos a nos manter publicamente responsáveis pelo progresso nesse sentido."

Juntamente com a start-up de inteligência artificial Element AI, que tem sede em Montreal, o projecto chamado "Troll Patrol" começou a analisar tweets dirigidos a quase 800 mulheres jornalistas e políticas dos EUA e do Reino Unido. Mais de 6.500 voluntários analisaram 288.000 posts e rotularam os que continham palavras abusivas ou problemáticas ("conteúdo ofensivo ou hostil" que não chega necessariamente a ser abusivo). Cada tweet foi analisado por três pessoas, de acordo com Julien Cornebise, que gere o escritório da Element em Londres, e especialistas em violência e abuso contra as mulheres também verificaram a classificação feita pelos voluntários.

O projecto também teve como objectivo usar estas considerações feitas por seres humanos para elaborar e testar um algoritmo de aprendizagem da máquina capaz de identificar abuso - em teoria, o tipo de coisa que uma rede social como o Twitter poderia usar para proteger os seus utilizadores. A equipa de Cornebise usou a aprendizagem de máquina para extrapolar a análise gerada por seres humanos para um conjunto de 14,5 milhões de tweets que mencionam as mesmas personalidades. Eles também asseguraram que os tweets examinados pelos voluntários fossem representativos e que as conclusões fossem exactas.

Em seguida, a sua equipa usou os dados criados para treinar um algoritmo de detecção de abuso e comparou as conclusões do algoritmo com as dos voluntários e especialistas. Esse tipo de trabalho está a tornar-se cada vez mais importante à medida que empresas como Facebook e YouTube usam a aprendizagem de máquina para identificar conteúdo que precisa de moderação. Numa carta em resposta ao relatório da Amnistia Internacional, o Twitter afirmou que a aprendizagem de máquina é "uma das áreas de maior potencial para lidar com utilizadores abusivos", afirmou o grupo no relatório.

(Texto original: Twitter Is ‘Toxic Place for Women,’ Says Amnesty International)