Confira como a inteligência artificial pode ser utilizada com responsabilidade em escolas no Pará

Nesta segunda-feira (11), o Conselho Nacional de Educação (CNE) aprovou diretrizes para a utilização da inteligência artificial (IA) na educação básica e superior, as quais delimitam o uso responsável da tecnologia. No Pará, a rede estadual de ensino já conta com o Centro de Inovação e Sustentabilidade da Educação Básica (Ciseb), no qual realiza projetos de tecnologia com alunos, utilizando a IA como método de aprendizagem inovador e ativo. Os projetos seguem as diretrizes do CNE, com foco na centralidade humana e sustentabilidade.

O pedagogo Lennon Ferreira, coordenador de projetos no Ciseb, ressalta a importância da regulamentação do uso da IA nas escolas para direcionar o trabalho de forma adequada. “O Brasil estava em um limbo de informações que tratassem a respeito do uso responsável da IA. As diretrizes vêm nos dar um guarda-chuva importante para que possamos nos abrigar e compreender o melhor uso, além de criar estratégias pedagógicas para direcionar esse trabalho”.

Uma das grandes preocupações do uso da IA na educação é o lado ético, portanto as diretrizes determinam que as escolas mostrem ao aluno como utilizar a tecnologia de forma responsável e com senso crítico.O CNE também reserva um grande destaque para a centralidade humana no uso da IA, entendendo essa tecnologia como um suporte que não substitui o ser humano no processo. “A IA não pode, em nenhum momento, assumir o lugar do ser humano. O ser humano ainda é central e permanece central, pois ele é a inteligência e a IA é apenas uma ferramenta”, afirma o pedagogo.

As diretrizes ainda se norteiam no fortalecimento da autonomia intelectual, na promoção da inclusão e equidade, além da subordinação do uso da IA aos objetivos pedagógicos.

Projetos do Ciseb com IA

No Ciseb, antes do desenvolvimento dos projetos, os alunos passam por projetos de imersão, nos quais o aluno aprende sobre o uso ético da IA. “Temos uma trilha de conhecimento em que o aluno é apresentado a como seria um uso responsável, evitando situações ilegais, como plágio, geração indevida de imagens e atitudes criminosas”, conta o pedagogo Lennon Ferreira.

Um dos projetos em desenvolvimento do Ciseb tem um caráter inclusivo, o qual busca melhorar a comunicação entre pessoas com deficiência auditiva e pessoas que não sabem a Língua Brasileira de Sinais (Libras).

Analice Carvalho desenvolvendo um projeto inclusivo com IA (Foto: Igor Mota/O Liberal)

No primeiro passo da programação, é utilizada uma IA que capta os movimentos da mão. Em seguida, o arquivo é levado para outra IA, que traduz a mensagem. “Fazemos os gestos em Libras e a IA realiza a transcrição de uma forma mais intuitiva, com palavras e desenhos”, explica a estudante Analice Carvalho, de 15 anos, uma das responsáveis pelo projeto.

Já o “Fliperama Verde” é um projeto desenvolvido que consiste em um jogo que visa ensinar sobre sustentabilidade. Nesse caso, a IA foi utilizada para programar a base do jogo. “Pedimos para a IA: ‘crie um jogo voltado para crianças e com gráficos simples’. Ela fez o jogo, mas como não chegou na versão que queríamos, então fomos alterando. Tivemos vários ajustes, já fizemos mais de 50 alterações”, detalha a estudante Samiah Lopes, de 15 anos, uma das responsáveis pelo projeto.

Segundo a aluna, o objetivo do “Fliperama Verde” é implementar o jogo nas escolas como uma ferramenta pedagógica, pois ele ensina sobre sustentabilidade e também usa tecnologia de forma consciente.

O Ciseb ainda desenvolve outros projetos que utilizam a IA como ferramenta. Entre eles, há um que visa analisar a qualidade do ar e outro que envolve o uso de drone, o qual será controlado por IA, informa Lennon Ferreira.

Estudantes aprovam a IA

Para a estudante Samiah Lopes, a IA é bem-vinda para otimizar processos, com a condição do uso responsável. “Ela precisa ser usada de forma consciente, principalmente nas escolas, pois é uma ferramenta que pode ajudar um público muito maior. Nos nossos projetos, usamos voltada para a educação. Não usamos para substituir programadores e outros processos, mas para otimizar tempo”, afirma.

Samiah Lopes explicando o projeto "Fliperama Verde", que usou IA para programar um jogo (Foto: Igor Mota/O Liberal)

Já a estudante Analice Carvalho destaca a importância da tecnologia para a aprendizagem. “O uso da IA é muito importante, pois é uma tecnologia que me permite aprender muitos pontos para usar no meu âmbito escolar, por exemplo, Libras e novas tecnologias. Meu primeiro contato com a IA foi nesse projeto”, comenta.

Aprovação das diretrizes

O texto do CNE será submetido a uma consulta pública a partir da próxima segunda-feira (18). Em seguida, haverá um seminário sobre o tema em julho e, por fim, o parecer será submetido à homologação do Ministério da Educação (MEC). O documento foi elaborado por conselheiros e teve participação da pasta.

O documento propõe a inclusão de conteúdo sobre IA nos currículos de escolas e universidades, e estabelece níveis de risco de acordo com o tipo de ferramenta disponível para uso educacional.

Educação Básica 

No caso da Educação Básica, a abordagem curricular deve ser feita de forma contextualizada e articular as diferentes áreas do conhecimento, segundo o CNE. Em relação ao ensino do tema, entre as principais diretrizes estão:

• compreensão básica do funcionamento de sistemas computacionais e de aplicações de IA;
• reconhecimento dos diferentes tipos de tecnologias e seus usos no cotidiano;
• desenvolvimento do pensamento lógico, analítico e crítico;
• reflexão sobre as implicações éticas, sociais e culturais do uso da tecnologia;
• compreensão do papel dos dados e de sua utilização nos sistemas de IA;
• identificação de limites, riscos e possíveis vieses presentes nas tecnologias;
• desenvolvimento da capacidade de avaliar informações produzidas por sistemas automatizados;
• estímulo à criatividade, à autonomia e à resolução de problemas;
• compreensão das relações entre tecnologia, sociedade e desigualdades;
• promoção de comportamentos responsáveis, éticos e seguros no ambiente digital;
• desenvolvimento de capacidades metacognitivas relacionadas ao uso da Inteligência Artificial, estimulando os estudantes a refletirem criticamente sobre seus próprios processos de pensamento, aprendizagem, tomada de decisão e produção de conhecimento mediados por tecnologias digitais.

No caso do uso da IA em atividades pedagógicas, o CNE traça as seguintes orientações:

• promoção do desenvolvimento integral dos estudantes, considerando dimensões cognitivas, sociais e emocionais;
• preservação da autonomia intelectual e do bem-estar dos estudantes, evitando dependência excessiva de tecnologias;
• integração do letramento em IA de forma articulada aos letramentos digital, midiático e computacional;
• contextualização das aprendizagens, com base na realidade dos estudantes e nos desafios contemporâneos;
• compromisso com a redução das desigualdades educacionais, promovendo inclusão e equidade;
• desenvolvimento de práticas pedagógicas alinhadas à proteção de direitos e à cidadania digital;
• fortalecimento da capacidade de mediação crítica e ética dos profissionais da educação;
• prevenção de práticas de monitoramento inadequado, invasivo ou desproporcional dos estudantes.

Ensino Superior

No ensino superior, o texto destaca que a incorporação da IA pode ampliar a formação e atuação profissional. O conselho indica que os conhecimentos sobre IA e seu uso devem ser incorporados considerando a especificidade dos cursos. O texto destaca as principais competências a serem desenvolvidas:

• capacidade de utilizar a IA como ferramenta de apoio à tomada de decisão em diferentes contextos profissionais;
• desenvolvimento de habilidades para análise, interpretação e uso de dados;
• compreensão das implicações éticas, jurídicas e sociais relacionadas ao uso da tecnologia;
• avaliação crítica dos limites, riscos e potencialidades das aplicações de IA;
• desenvolvimento da capacidade de reflexão crítica e metacognitiva sobre os processos de produção de conhecimento, aprendizagem e tomada de decisão mediados por Inteligência Artificial;
• articulação entre conhecimento técnico e reflexão sobre os impactos econômicos, sociais e culturais da tecnologia;
• utilização responsável da IA, respeitando princípios de integridade acadêmica e ética profissional.

O parecer orienta que as instituições de ensino superior definam diretrizes internas para orientar o uso da ferramenta, e implementem políticas institucionais para uso responsável da tecnologia.

Níveis de risco

Um dos pontos principais do parecer é a escala de risco elaborada pelo Conselho para orientar redes e universidades. O documento estabelece uma escala que classifica o tipo de uso da ferramenta entre: baixo risco, risco moderado, alto risco, e risco excessivo ou incompatível com finalidades educacionais.

As aplicações de baixo risco são aquelas utilizadas majoritariamente para organização, ou revisão sem o objetivo de avaliar o aluno. Por exemplo:

• organização de materiais didáticos;
• apoio à acessibilidade;
• revisão textual não avaliativa;
• ferramentas auxiliares de planejamento;
• sistemas sem perfilização individual significativa.

Entre as ferramentas de risco moderado, estão aquelas que envolvem interação contínua com os estudantes, mas que não são usadas em nenhuma tomada de decisão. Como:

• sistemas de tutoria;
• ferramentas de feedback formativo;
• assistentes institucionais;
• apoio à produção textual;
• mecanismos de recomendação acadêmica sem efeito decisório automático.

Entre os usos classificados como alto risco, o CNE elenca aqueles que podem ter impactos relevantes na vida acadêmica e nos direitos dos estudantes. Destacam-se:

• sistemas de correção automatizada de avaliações com repercussão acadêmica;
• "proctoring biométrico", ou seja, ferramenta que utiliza a IA para verificar características físicas dos estudantes em tempo real;
• perfilização acadêmica individualizada;
• sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar; aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.

Nesse sentido, a recomendação é que as redes e universidades façam uma avaliação prévia do impacto, pratiquem supervisão humana contínua, criem mecanismos de rastreabilidade, entre outras.

Por fim, o documento estabelece o uso considerado de risco excessivo ou incompatível com finalidades educacionais, que permitem a violação de direitos, discriminação, entre outras questões. São eles:

• sistemas de pontuação social;
• vigilância emocional;
• exploração de vulnerabilidades de estudantes;
• perfilização psicológica ou biométrica para fins classificatórios ou disciplinares;
• decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento.