TikTok apaga vídeos de IA com teor sexual envolvendo mulheres negras após investigação

O TikTok removeu 20 contas após uma reportagem da BBC revelar o uso de imagens de mulheres negras geradas por inteligência artificial para atrair usuários a sites com conteúdo sexualmente explícito.

Segundo a investigação, os perfis utilizavam imagens e vídeos produzidos por IA, sem qualquer identificação de que eram conteúdos artificiais, prática que pode violar as diretrizes da própria plataforma.

Como ocorreu a investigação?

O material faz parte de uma tendência crescente observada tanto no TikTok quanto no Instagram, em que contas criam personagens digitais hipersexualizadas de mulheres negras. Especialistas apontam que esse tipo de conteúdo é problemático por reforçar estereótipos raciais e enganar o público.

VEJA MAIS

A apuração da BBC, em parceria com pesquisadores da Riddance, publicação independente focada em inteligência artificial, identificou dezenas de contas nas duas redes sociais que utilizavam avatares ou personagens digitais com essas características.

Sexualização e racismo

Os conteúdos, além de explorarem a sexualização, não informavam que haviam sido gerados por IA. As imagens chamam atenção por apresentar corpos com proporções exageradas, além de características visuais manipuladas digitalmente.

Em alguns casos, os personagens exibiam tons de pele extremamente escuros, com aparência artificial, levantando suspeitas sobre o uso de edição avançada para reforçar determinados traços. Os nomes das contas também seguem um padrão, com o uso recorrente de termos como “preto”, “noir”, “escuro” e “ébano”, indicando uma estratégia direcionada.

Já nas legendas e interações, diversas postagens trazem menções explícitas a homens brancos, com frases como “amo homens brancos” e “por que preciso de um cara branco na minha vida”.

Remoção dos conteúdos

Em poucos dias após a repercussão do caso, ao menos 20 contas foram identificadas como “banidas” no TikTok, indicando a remoção dos perfis envolvidos na divulgação do conteúdo.

Procurada, a plataforma informou, por meio de porta-voz, que suas políticas são rígidas em relação ao uso de inteligência artificial: “O TikTok proíbe conteúdos gerados por IA que utilizem a imagem de indivíduos sem autorização. Também adotamos tolerância zero para materiais que promovam serviços sexuais fora da plataforma”, destacou.

A empresa acrescentou que mantém diretrizes específicas para coibir práticas consideradas prejudiciais ou enganosas. Entre elas, está a exigência de que conteúdos realistas produzidos por inteligência artificial sejam devidamente identificados

(*Gabrielle Borges, estagiária de jornalismo sob supervisão de Felipe Saraiva, editor web de OLiberal.com)