Especialistas alertam para riscos de chatbots com IA em redes sociais no aliciamento de crianças

As novas possibilidades que as Inteligências Artificiais (IAs) estão permitindo trazem também novos riscos nas redes sociais e na internet. Os chatbots – ferramentas automáticas que conversam com usuários imitando pessoas reais – podem ser usados por criminosos para manipular crianças e adolescentes. A vítima enganada pode ser aliciada e sofrer abusos virtuais com graves consequências psicológicas. Especialistas alertam para a necessidade de regulação das redes sociais para controlar as ferramentas.

Na última segunda-feira (18), a Advocacia-Geral da União (AGU) notificou às redes sociais Instagram, Facebook e WhatsApp para excluir esses robôs de inteligência artificial que simulam aparência infantil e realizam diálogos com conteúdo sexual. A Meta - empresa proprietária das redes - tem 72 horas para excluir os robôs e esclarecer quais medidas têm sido adotadas para evitar que crianças e adolescentes tenham acesso a conteúdo sexual e erótico.

A AGU argumenta que chatbots criados por meio da ferramenta Meta IA Studio podem promover a erotização infantil. O órgão também acrescentou que as plataformas da Meta estão disponíveis para menores de idade, a partir dos 13 anos, e não existe filtro para verificar a idade dos usuários entre 13 e 18 anos, o que amplia de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso.

A psicóloga infantojuvenil Camila Ferreira, idealizadora da clínica Psicobrincar, especializada em atendimento às crianças e adolescentes, enfatiza que a internet e as redes sociais são lugares perigosos para crianças e adolescentes. “A internet e redes sociais não são lugares seguros para crianças e adolescentes, muito menos quando não há regulamentação e monitoração para o uso destes espaços. As redes sociais, as quais estão inseridas num sistema-mundo nocivo que incentiva e alimenta ciclos de abusos e assédios, a exposição de crianças, por exemplo, gera engajamento e lucro e este é o objetivo destas plataformas, o lucro”, alerta.

O tema sobre a erotização de crianças nas redes sociais está sendo amplamente discutido pela sociedade nas últimas semanas após o influenciador Felipe Bressanim, mais conhecido como Felca, elaborar um vídeo denunciando o assunto da adultização infantil nas redes sociais. “Quando crianças são expostas a conteúdos inapropriados para a sua idade. Isso tende gerar impactos emocionais e físicos com afetam a autoestima, a autopercepção e tornam-se crianças ainda mais vulneráveis e manipuláveis por criminosos, em busca de uma validação estética, construída a partir de violação de seu próprio eu e de expectativas inatingíveis”, detalha a psicóloga. 

O professor do curso de Ciência da Computação e pesquisador na área de Rede Computadores e Segurança da Universidade da Amazônia (Unama), Diego Abreu, explica que o assunto das Inteligências Artificiais é muito novo e as plataformas não têm sido reguladas adequadamente nesse sentido. “Embora as leis atuais possam dar algum suporte, a regulação para combater esses abusos ainda está em desenvolvimento, e muitas plataformas priorizam o crescimento rápido de usuários e a monetização”, reflete Abreu. 

FUNCIONAMENTO - Os chatbots têm um risco real de serem utilizados por aliciadores e abusadores. Os dados brutos coletados pelas IAs, como textos e imagens podem ser analisados pela ferramenta para entender os sentimentos ou medos da pessoa. Com essas informações os criminosos manipulam ainda mais a vítima.

 “O grande risco é que esses bots podem normalizar o abuso e, aos poucos, manipular a criança ou adolescente para compartilhar dados pessoais ou até conteúdo íntimo. Além disso, muitos desses bots capturam dados sensíveis das vítimas, como preferências ou informações privadas, o que pode ser usado contra elas no futuro”, explica.

As ferramentas podem até mesmo imitar a voz de crianças com o intuito de confundir as vítimas. “Tecnicamente, esses bots podem ser programados para imitar o comportamento e a voz de uma criança, o que gera uma falsa sensação de segurança para as vítimas. O uso de LLMs (Grandes Modelos de Linguagem traduzido do inglês) torna mais difícil para a vítima identificar que está interagindo com uma máquina. Isso pode facilitar o aliciamento de crianças e adolescentes”, detalha.

Na avaliação do pesquisador, as plataformas precisam ser mais proativas, como incluir monitoramento em tempo real nos chatbots para detectar comportamentos suspeitos e conversas que possam indicar abuso ou manipulação. Esse monitoramento pode ser colocado na própria estrutura da IA, de forma a não aceitar esse tipo de interação. “Além disso, elas podem usar filtros automáticos de conteúdo, que bloqueiam termos e imagens inapropriadas, e também notificar os responsáveis sempre que um conteúdo potencialmente abusivo for detectado. Novamente, isso deveria vir de projeto da própria IA”, assegura.

ORIENTAÇÕES – Os especialistas apontam algumas orientações aos pais e responsáveis que vão desde não postar fotos e vídeos das crianças, proibir a utilização de smartphones, limitar o tempo tela, utilização de aplicativos de controle parental e até ampliar a educação sexual na sociedade. 

“É importante que os pais pensem bem antes de postar fotos e vídeos de suas crianças nas redes sociais, pois um conteúdo que para nós seria considerado inocente, para os aliciadores são um ‘prato cheio’ para fomentar os crimes de pedofilia. É necessário que os pais consigam monitorar o tempo de tela e a idade indicativa do conteúdo. Mas isso não basta, precisamos ampliar diálogos sobre educação sexual como um todo, quebrar tabus históricos que nos afastam das consciências sociais, raciais e de gênero”, aponta a psicóloga Camila Ferreira.

Além da regulamentação das redes sociais, a psicóloga defende que um dos caminhos para prevenir e proteger as crianças e adolescentes é estreitar os laços passando tempo de qualidade ao lado delas, valorizando o aprendizado e as brincadeiras. “Este é o alicerce que vai garantir um desenvolvimento emocional e cognitivo do amanhã para todas as crianças e jovens”, assegura.

Diego Abreu indica que os pais devem aprender a utilizar ferramentas de controle parental. Muitas dessas ferramentas já estão disponíveis nos sistemas operacionais como o Android, em diversos smartphones, e iOS, dos aparelhos Apple. Nos smartphones com sistema Android há o Google Family Link, já na Apple pode-se usar o recurso de Tempo de Uso (Screen Time). 

“A função principal delas é dar aos pais mais visibilidade e poder de gestão sobre como a criança usa o aparelho. Isso envolve três pontos centrais: primeiro, restringir acesso a conteúdos que não são apropriados para determinada faixa etária; segundo, controlar o tempo de tela, estabelecendo limites diários ou horários específicos; e terceiro, monitorar atividades, como quais aplicativos foram mais usados e por quanto tempo”, afirma. Também estão disponíveis o rastreamento de localização e bloqueio de compras não autorizadas.