A guerra na Faixa de Gaza trouxe desafios ao TikTok. A rede social luta para remover vídeos de vítimas do grupo Hamas, que a 7 de outubro atacou Israel. De acordo com uma análise da Bloomberg, são vários os vídeos falsos que circulam naquela plataforma. 

Os conteúdos em causa simulam, com recurso à inteligência artificial, a imagem de alegadas vítimas mortais no ataque, sendo difícil perceber se se trata ou não da pessoa real.

De acordo a Bloomberg, especialistas em IA intitulam estes vídeos como "ressurreição digital". Todos os vídeos seguem um padrão semelhante: poucos dias ou até horas depois de os meios de comunicação darem conta de uma morte ou de identificarem as vítimas, surgem vídeos na plataforma dessas mesmas pessoas a explicarem como perderam a vida.

Os vídeos conseguem fugir às regras de moderação de conteúdo da plataforma, como o consentimento para o uso de imagem, e rapidamente se tornam virais. Uma das regras é, precisamente, que "todos os vídeos sintéticos ou manipulados que mostrem cenas realistas" sejam devidamente identificados.

De crianças a figuras públicas e privadas, são dezenas os casos que a Bloomberg diz ter encontrado.

"Contar histórias é muitas vezes a melhor forma de persuadir a audiência a interagir e, neste caso, ter uma pessoa falecida a falar sobre as suas histórias pode ser muito efetivo na propagação de ideias ou a persuadir outros a mudarem as suas visões", afirmou Chris Chu, professor assistente na Universidade da Flórida, à Bloomberg.

"Como outras plataformas, o TikTok continua a investir na deteção, transparência e parcerias na indústria para endereçar esta crescente tecnologia. Temos em vigor políticas fortes para remover conteúdos danosos gerados por IA na nossa plataforma", afirmou um porta-voz da rede social chinesa, em declarações à Bloomberg.

Já no final de novembro, em reação às exigências da União Europeia, a plataforma garantiu "o foco em reforçar as regras contra conteúdos de ódio e violentos, assim como a desinformação", mas admitiu que este é "um período desafiante para a comunidade". Só entre o dia 7 e o dia 17 desse mês, revelou, foram removidos mais de 1,1 milhões de vídeos.

A proliferação de desinformação e vídeos falsos no TikTok há muito que tem gerado preocupação entre os especialistas.

Num artigo publicado em novembro do ano passado, Henry Ajder, especialista em informação sintética e manipulada, dizia à Bloomberg que "este tipo de manipulação está a tornar-se mais persistente". "Quando este volume de informação pode ser criado tão rápido e a esta escala, muda totalmente o panorama", afirmou, relativamente à rede social.

* Com Bloomberg