Brasil acelera regulação digital e busca soberania tecnológica diante de desafios da internet e IA

Em entrevista ao Grupo Liberal, Renata Mielli, jornalista, assessora especial da ministra de Ciência, Tecnologia e Inovação, Luciana Santos, e coordenadora do Comitê Gestor da Internet no Brasil (CGI.br), destacou que o Brasil enfrenta desafios estruturais para ampliar o acesso à internet na Amazônia, avança em projetos de infraestrutura como infovias de cabos em rios e satélites, e precisa lidar com os riscos das plataformas digitais para crianças e adolescentes, marcados por coleta massiva de dados, algoritmos viciantes e exposição a conteúdos nocivos. 

Ela defendeu maior responsabilização das big techs, apontando que suas decisões algorítmicas podem amplificar conteúdos ilegais e violentos, e afirmou que o Marco Civil da Internet precisa ser atualizado diante das transformações tecnológicas e da atuação mais complexa das plataformas. 

Renata Mielli também alertou para os impactos da inteligência artificial na democracia, especialmente com a disseminação de deepfakes, e defendeu investimentos em inovação e infraestrutura para reduzir a dependência de grandes empresas de tecnologia e avançar na soberania digital do país.

1.Quais são hoje os maiores gargalos para ampliar o acesso à internet de qualidade na Amazônia? 

Renata Mielli: Os principais problemas são a expansão da rede física em razão dos vários obstáculos naturais, uma região entrecortada de rios, e até bem pouco tempo a gente ainda não tinha desenvolvido uma tecnologia para fazer o cabeamento da infraestrutura de telecomunicação nos rios, como a gente tem nos oceanos, mas agora a gente conseguiu desenvolver.

Então, os rios vão contar aqui agora com uma infovia de cabos para que a gente possa levar a conectividade para as regiões mais remotas, e a oferta de satélite, que recentemente foi possível através de um contrato com uma empresa privada estrangeira que tem bastante polêmica em torno dela, mas essa questão é uma questão sensível, que é o problema da infraestrutura de telecomunicações para atender todas as comunidades.  

2.Quais são hoje os principais riscos enfrentados por crianças e adolescentes no ambiente digital?  

As grandes plataformas digitais são os maiores riscos. A internet e os provedores de aplicação são um universo muito grande, então eu diria que há muitas coisas positivas na internet que podem contribuir para a formação lúdica, para um complemento educacional, né? 

Mas as redes sociais, principalmente, foram projetadas para adultos. Elas não foram projetadas para crianças. Você tem um mecanismo de coleta de dados, coleta de hábitos de navegação, coleta de informações de como a criança interage com os conteúdos para direcionar postagens, para montar o feed da criança. 

O design dessas plataformas de scroll infinito para os adultos já é aditivo. Ele é viciante; para as crianças, muito mais. As crianças então nesse ambiente estão expostas de uma maneira muito vulnerável a conteúdos de ódio, a conteúdos de exploração sexual, a conteúdos de bullying, a conteúdos que não foram projetados para a faixa etária daquela criança. Elas estão expostas a um mundo performático que define padrões de beleza, padrões de comportamento, e que foram desenvolvidos para performar naquela rede, não dizem respeito à vida real, e isso traz uma série de questões relacionadas a adoecimento mental, doenças físicas mesmo, né? 

São muitos os riscos que as crianças estão expostas quando navegam nesses ambientes completamente sem supervisão, mas agora com o ECA Digital esperamos que a gente consiga desenvolver ambientes mais seguros e protetivos para as nossas crianças. Eu acho que é o que estamos tentando fazer com regulação. A regulação não é em nenhum momento um mecanismo de silenciamento e de cerceamento da liberdade de expressão. Ela diz respeito ao ambiente privado dessas plataformas. 

Elas são empresas privadas que possuem suas próprias regras e elas tomam as decisões sobre o que cada um de nós consumimos dentro do seu ambiente - desde publicidade até conteúdos, conteúdos noticiosos. Portanto, existe uma regulação totalmente privada e à margem do interesse público. 

A regulação que estamos procurando desenvolver no Brasil é justamente a partir do interesse público, da legislação brasileira, que tem o ECA como a lei que coloca e a própria constituição brasileira, no seu artigo 227, por exemplo, que a criança é prioridade absoluta e a proteção da criança e adolescente não é papel só do Estado, mas é do Estado, da família e da sociedade. 

Essas regulações buscam equilibrar o jogo no sentido de que essas empresas precisam ter sim algum grau de responsabilidade sobre o tipo de conteúdo, produto e imagem que ela está ofertando para a sociedade como um todo, mas em particular para as crianças e adolescentes.  

3. Tirando a questão da regulação, você defende algum tipo de responsabilização mais rígida das plataformas digitais em casos de violência humana e contra menores? 

A legislação faz isso, sim. Eu defendo que eles precisam ter algum grau de responsabilidade, porque essa violência que você vive no ambiente digital, ela transborda para a vida real das pessoas. Você tem muitas situações que as plataformas poderiam evitar se elas, de forma ativa, tivessem o dever de cuidado, avaliassem riscos sistêmicos em torno de ações coordenadas de grupos que podem estar utilizando seus serviços para promover ataques.  

Exemplo: os ataques às escolas que aconteceram há dois, três anos.  Aquilo foi identificado como um movimento coordenado de grupos que utilizavam redes para se estruturarem e agendarem aqueles ataques às escolas que aconteceram em mais de um local no país. As plataformas sabem que isso está acontecendo. Elas têm capacidade de identificar esse tipo de coisa de forma muito rápida.

As plataformas poderiam ter agido. Elas poderiam, por exemplo, ter suspendido aquele conteúdo ou ter notificado o Estado e a Polícia Federal para que eles atuassem.  Então, quando a plataforma identifica esse tipo de conteúdo e não faz nada, ela precisa se responsabilizar principalmente quando o algoritmo da plataforma, por algum mecanismo, impulsiona aquele conteúdo, viraliza aquele conteúdo ou quando ela recebe dinheiro para impulsionar um conteúdo ilícito, criminoso ou uma fraude. 

A plataforma está recebendo dinheiro para impulsionar um conteúdo que não é legítimo. Então, ela é corresponsável por aquele conteúdo. Ela precisa ter uma responsabilidade maior. 

4.Quais avanços o Marco Civil da internet trouxe ao país e quais pontos ainda precisam ser atualizados diante das transformações tecnológicas recentes?  

O Marco Civil da internet foi uma legislação pioneira no mundo, uma referência internacional de uma norma que buscou definir direitos e deveres dos usuários da internet no Brasil. Esse é o escopo do Marco Civil. Mas ele foi desenvolvido olhando para o ecossistema da internet. 

Ele não foi elaborado à época olhando tipos de serviços, particularidades, plataformas de rede social. Ele foi chamado como uma constituinte do ambiente digital. Então, ele está olhando de maneira mais abrangente, mais sistêmica. 

E, necessariamente, por ser uma lei principiológica, por ser uma lei abrangente, com o desenvolvimento muito rápido da tecnologia, de novas aplicações, de novos serviços, e a percepção da sociedade ao usar esses serviços, dos riscos que esses serviços trazem, ela é uma legislação que necessitaria de outras legislações para, à luz dos princípios ali presentes, direcionarem regras específicas para tipos diferentes de serviços. 

Vou dar um exemplo: marketplaces. Não tinha, da forma como nós interagimos hoje, grandes marketplaces de venda de produtos quando a gente aprovou o marco civil da internet. Hoje, muitos marketplaces, onde a gente compra uma camisa, uma calça, mas a gente também pode comprar um medicamento que pode ser usado como droga, a gente pode comprar um conteúdo ilícito, algumas pessoas conseguem vender armas. Então, é preciso de uma regra específica para o tipo de serviço que é prestado ali. 

É diferente você falar de uma regulação para um mercado digital do que para uma rede social, onde você tem outros tipos de problemas sendo vivenciados a partir da ausência de regulação para aquele tipo de serviço. Então, o Marco Civil é uma lei muito importante. Ela definiu deveres e direitos, mas ela tinha limites e o limite principal é que ela não acompanha o desenvolvimento da tecnologia.  

Acho que um dos limites, quando você olha de forma abrangente, é que ela definiu um modelo de responsabilidade de intermediários olhando para o ecossistema que existia naquele momento. Hoje a gente tem provedores de aplicação de internet, que é o nome que se dá no Marco Civil, que são de outras naturezas e que não são simples intermediários. São, na verdade, co-patrocinadores daquele conteúdo, como acabamos de falar aqui, no caso de uma rede social que usa o algoritmo para dar mais visibilidade para aquele conteúdo ou receber dinheiro. 

Então, é claro que precisaria haver uma mudança naquele regime de responsabilidade e isso foi feito agora com a decisão do Supremo Tribunal Federal e a semana passada o governo federal baixou decretos para recepcionar as teses, as decisões do STF e torná-las efetivas para que, uma vez tendo ocorrido o julgamento da inconstitucionalidade parcial daquele dispositivo, não ficasse um vácuo jurídico. Então, o decreto que foi publicado visa dar segurança jurídica a todos os atores sociais e econômicos em como aplicar as decisões do Supremo Tribunal Federal. 

5.Como o Ministério avalia o impacto da inteligência artificial no processo eleitoral brasileiro? 

O Ministério não fez uma discussão sobre o impacto do sistema eleitoral. O que temos problematizado e discutido desde sempre é que é preciso que a gente veja a inteligência artificial a partir das suas potencialidades, mas também dos muitos riscos que vem acompanhado com essa nova tecnologia. Essa nova tecnologia é disruptiva, é pervasiva. Está sendo utilizada por todo mundo de forma indiscriminada e permite a produção de conteúdos que a gente chama de conteúdos sintéticos - gerados por inteligência artificial, que são indistinguíveis dos conteúdos reais. 

Então, estamos aqui fazendo essa entrevista, se alguém estiver gravando a gente  e pegar essa imagem e colocar numa IA generativa para produzir alguma coisa que nos coloque num contexto criminoso, por exemplo, ninguém vai conseguir distinguir se isso é real ou não.  Isso cria um problema grave para o debate público na sociedade e para a nossa democracia, porque processos eleitorais democráticos pressupõem que o cidadão tome decisões de forma informada e crítica. 

Se ele perde o lastro daquilo que é real ou não, ele perde a capacidade de ter uma tomada de decisão informada. Se ele recebeu uma deepfake sobre um candidato X, Y ou Z, ele vai tomar uma decisão, muitas vezes, com base numa deepfake, em algo que não aconteceu, em algo que é mentira e que foi produzido para gerar aquela percepção na pessoa e fazer com que ela tenha um comportamento diferente. 

Isso pode direcionar todo um projeto eleitoral que pode comprometer, inclusive, o futuro do país em termos econômicos, em termos sociais, em termos democráticos.  Então, é muito grave a possibilidade que temos de ter essa interferência. Por isso, é preciso que estejamos vigilantes e procuremos contribuir com o Tribunal Superior Eleitoral, que definiu uma série de resoluções de como implementar e usar a I.A. nas eleições e usar o nosso papel cidadão de denunciar quando a gente receber uma deepfake, de procurar, de checar quando a gente recebe uma informação.

Fizemos uma pesquisa no CGI sobre integridade da informação para medir como as pessoas lidam com os conteúdos e uma coisa bastante chocante é que as pessoas não checam os conteúdos que recebem, porque elas afirmam, a maioria delas, que não importa se aquele conteúdo é ou não real, ou factual, ou verdade. O que importa é se aquele conteúdo está em aderência com a minha visão de mundo e eu passo para frente. E isso, do ponto de vista de um processo democrático, é muito grave. 

6.Como o país pode estimular inovação tecnológica sem aumentar a dependência das big techs?  

Esse é o trabalho que temos procurado fazer com, por exemplo, o Plano Brasileiro de Inteligência Artificial, que destina num prazo de cinco anos, 23 bilhões de reais para que a gente possa construir infraestruturas críticas no Brasil  relacionadas ao ambiente digital. Por exemplo: data centers, supercomputadores, computadores regionais compartilhados, infovias. Além disso, eixo para a formação de recursos humanos, de profissionais que estejam capacitados a trabalhar nessas profissões de fronteiras ligadas à inteligência artificial, a adoção da IA nos serviços públicos, olhando o desenvolvimento de aplicações próprias aqui no Brasil, olhando a diversidade regional e a pluralidade da população brasileira. 

Precisamos deixar de ser apenas consumidores de tecnologia para passarmos a ser produtores de tecnologia. Isso é um processo de curto, médio e longo prazo. Então, o esforço do governo federal com o Plano Brasileiro de Inteligência Artificial, mas também com as áreas que estão na nova indústria Brasil, a NIB, também projetos do PAC (Programa de Aceleração do Crescimento), é destinar recursos e fomentar também o setor privado a poderem ter suas próprias tecnologias desenvolvidas aqui para a gente ir reduzindo aos poucos essa dependência. Mas é um desafio enorme, mas é a principal, diria, meta quando a gente coloca que a gente precisa ter caminhos para construir a nossa soberania digital no país.

7.Há uma percepção de que o debate sobre tecnologia ainda é muito concentrado no eixo Sul-Sudeste. Isso dificulta enxergar os desafios amazônicos?   

Eu acho que, em certa medida, essa é uma questão que não diz respeito apenas à tecnologia e ao digital. O Brasil foi historicamente construído a partir de uma visão que parte do Sudeste, principalmente. E eu acho que, de um tempo para cá, a gente vem procurando, a gente, quando eu digo, é a sociedade, mas principalmente a partir de atores sociais engajados a incorporar a perspectiva de outras regiões, como o Norte, toda a região amazônica. E eu acho que isso tem sido muito importante. Eu acho que a realização de grandes eventos internacionais aqui, a COP 30 (30ª Conferência das Nações Unidas sobre Mudanças Climáticas), foi um momento muito importante. Mas não só. 

Todo o debate que a gente vem procurando fazer na perspectiva já de alguns anos, de discutir a questão do uso das tecnologias na região amazônica. Lá no CGI, esse é um tema que a gente trabalha já há muitos anos, muito antes da COP. Então, acho que você tem setores da sociedade que olham, mas não olham de fora. Temos muitos atores locais que têm sido estratégicos para colocar o tema no debate nacional. Então, tanto do ponto de vista acadêmico, como de grupos de tecnologia da região amazônica. 

Temos um projeto no Comitê Gestor, que é o Povos da Floresta, onde a gente trabalha com as comunidades ribeirinhas e originárias aqui da região para discutir. Não basta chegar a conexão, as pessoas precisam saber usar a internet, usar as tecnologias digitais para se desenvolverem econômica e socialmente. Então, eu acho que é um processo que vem se alterando e isso é muito importante. 

8.Qual tema ligado à internet no Brasil hoje preocupa mais o CGI.br? 

A urgência de nós termos uma regulação mais sistêmica para plataformas digitais e inteligência artificial. Precisamos, urgentemente, garantir que a regulação seja realizada para defender direitos fundamentais, direitos econômicos da sociedade brasileira, porque isso integra o debate de soberania. Soberania não é apenas a gente desenvolver nossas próprias tecnologias, não é apenas a gente ter a infraestrutura para que essas tecnologias sejam utilizadas no nosso país. 

Mas é também a capacidade de uma nação de definir as regras que precisam ser observadas pelas empresas que prestam serviços aqui. Esse é um debate que tem sido, digamos, muito relevante e ele acaba sendo um guarda-chuva para um conjunto de outras preocupações. Porque quando a gente está falando de regulação de plataformas, estamos falando de transparência para que a sociedade possa ter mais conhecimento sobre como essas plataformas funcionam. 

Estamos falando de empoderar o usuário. Hoje o usuário de uma plataforma no Brasil, para ser assim, não tem um saque. Se você tiver um problema com a sua conta, com o seu perfil, tiver um conteúdo removido ou se o seu perfil sair do ar, você reclama para quem? Então, é o básico. Temos um código de defesa do consumidor e você não tem para quem reclamar.

Então, por exemplo, é empoderar o usuário, é garantir que essas tecnologias não sirvam para perpetuar desigualdades ou discriminações de gênero, LGBTQIA +, que ataquem comunidades e grupos vulneráveis na sociedade. Quando a gente está falando de regulação, a gente está olhando, de forma sistêmica, um conjunto de questões que precisamos avançar na sociedade para que a internet tenha um impacto positivo na vida das pessoas e não para que a gente esteja aí nesses jardins murados dessas empresas privadas que acabam tendo uma concentração de poder social, político e econômico sem nenhum escrutínio da sociedade brasileira 

Esse tem sido um tema, mas que é atravessado por todas essas interseccionalidades - a questão de gênero, a questão de raça, como evitar o racismo algorítmico, a preocupação com o vigilantismo do Estado, a preocupação com a integridade da informação, com o ambiente informacional mais saudável, com a gente ter as pessoas usando a internet de forma informada, então literacia digital. 

Esses temas acabam estando todos sob este grande guarda-chuva e a gente lançou, um ano atrás, 10 princípios para a regulação de redes sociais e devemos, no próximo mês, 40 dias, lançar algo em torno do que a gente deve estar finalizando, 50 diretrizes de como implementar esses princípios para que a gente tenha regulações de caráter democrático no nosso país. Então, essa é a nossa principal preocupação hoje.