Foi um dos momentos mais comentados da edição deste ano do Met Gala, um evento que reúne centenas de famosos para angariar fundos para o Metropolitan Museum of Art, em Nova Iorque. Katy Perry, cantora norte-americana, apareceu numa fotografia, que tinha como pano de fundo as icónicas escadas do evento, trajada com um vestido longo e floreal, cujas extremidades estavam adornadas de um material que se assemelhava a relva – não fosse o tema deste ano inspirado no conto "O Jardim do Tempo", de JG Ballard.

No entanto, a artista nunca chegou a comparecer ao evento. Depois de a fotografia ter sido publicada na rede social X (antigo Twitter) e ter reunido milhares de gostos e "reposts", uma nota foi criada no final da publicação a informar que a fotografia não era verdadeira – mas sim criada por Inteligência Artificial (IA). A cantora até chegou a ser vítima desta tecnologia uma segunda vez durante a duração do Met. As falsificações foram tão realistas, que a própria mãe de Katy Perry pensou que a artista tinha comparecido ao evento.

Katy Perry. That’s it. #MetGala pic.twitter.com/OT51H6wJ9i

Leia Também

“A IA tem um risco significativo de aumentar as desigualdades”

— javi (@jxries) May 6, 2024

Com a crescente facilidade e acessibilidade que as novas ferramentas de Inteligência Artificial concedem para criar imagens digitalmente, as chamadas "deepfakes" de celebridades têm proliferado pela internet – e nem todas são criações digitais inocentes de famosos em eventos a que não compareceram. Em janeiro, imagens sexualmente explícitas de Taylor Swift, criadas com recurso a IA, percorreram as principais redes sociais, com uma das maiores publicações a arrecadar cerca de 27 milhões de visualizações - antes que a rede social detida por Elon Musk conseguisse retirar o conteúdo do X.

Como distinguir uma imagem real de uma digitalmente criada?

A resposta não é simples e nem os detetores de IA online que já existem conseguem ter resultados infalíveis. Sam Gregory, diretor-executivo da Witness, passou as duas imagens de Katy Perry por um desses detetores e, enquanto uma das fotografarias deu como resultado "provavelmente criada por IA", a outra acusou "provavelmente real". "O meu ponto de partida com este tipo de imagens é não confiar nos detetores online, uma vez que existem demasiadas variáveis para estes conseguirem fornecer um resultado preciso", contou à rádio norte-americana NPR.

Em eventos com grande exposição mediática, como o Met Gala, Gregory sugere que se utilizem estratégias de "literacia mediática", como a verificação da informação em diversas fontes. "Se procurarmos várias fotografias do evento em fontes tradicionalmente confiáveis, conseguimos perceber facilmente que aquela imagem não era verdadeira", acrescentou.

Por exemplo, ao analisar as diversas fotografias oficiais que foram publicadas durante o evento, rapidamente conseguiríamos perceber que a "passadeira" pela qual Katy Perry aparentemente desfilava era diferente da real. Enquanto na imagem digitalmente criada as laterais da "passadeira" estão embelezadas de vermelho, nas fotografias oficiais do evento pode ver-se que a mesma está, na realidade, manchada de verde.

Além disso, e apesar de novas atualizações estarem, cada vez mais, a eliminar estas características, a grande parte das imagens criadas digitalmente tem certos elementos que permitem identificá-las. Por exemplo, muitas destas imagens têm "uma espécie de efeito estético de suavização" que deixa a pele "praticamente perfeita", como conta Henry Ajder, um especialista em IA da Latent Space Advisory, à Associated Press. A consistência das sombras e da luz na fotografia também constitui uma característica identificadora de imagens criadas através de IA, bem como elementos em segundo plano, que costumam ser menos realistas.

Também há que ter em conta uma técnica utilizada na criação de "deepfakes", o chamado "face swapping". Aqui, a Inteligência Artificial troca, literalmente, a cara de uma pessoa, substituindo-a por outra, muitas vezes sem ter atenção à cor da pele ou ao formato da cara. É através destas incongruências que Ajder afirma que é possível detetar imagens digitalmente criadas, uma noção que também se expande à criação de vídeos com auxílio da IA.

No entanto, Gregory questiona se deveríamos deixar cair o ónus da responsabilidade de identificar este tipo de imagens no utilizador comum, e não nas plataformas onde elas são partilhadas. A União Europeia, preocupada também com as consequências que a IA pode vir a ter nas eleições para o Parlamento Europeu, pediu, em março, a todas as plataformas tecnológicas que começassem a "rotular, inequivocamente, conteúdo criado" através desta tecnologia.

A Meta, empresa que detém redes sociais como o Facebook e o Instagram, já anunciou que iria começar a rotular as imagens criadas digitalmente nas suas plataformas, a partir de maio.