Aluno criou mais de 500 imagens de alunas e professoras utilizando a IA; Renan defende ensino ético da tecnologia na rede municipal
Mateus Gusmão
Um acaso do destino escancarou um dos grandes problemas dos tempos modernos. Bastou um computador ficar aberto na sala de informática, com o WhatsApp de um aluno logado, para revelar um caso que chocou a comunidade do Instituto Federal do Rio de Janeiro (IFRJ), Campus Volta Redonda, localizado no Aterrado. Alunas e professoras descobriram que tiveram suas fotos manipuladas por um estudante, com auxílio da inteligência artificial, para criar imagens falsas de teor íntimo. De forma inesperada, elas souberam que haviam se tornado vítimas de uma nova modalidade de violência digital.
O caso, que provocou indignação entre estudantes, servidores e familiares, reacendeu o debate sobre os limites do uso da inteligência artificial e os riscos que ferramentas cada vez mais acessíveis representam para a privacidade, a dignidade e a segurança das pessoas. Se antes a manipulação de imagens exigia conhecimentos técnicos, hoje, aplicativos capazes de criar montagens realistas estão ao alcance de qualquer pessoa. Até de crianças.
A investigação começou quando as imagens foram encontradas em um computador do laboratório de informática do IFRJ. O equipamento foi utilizado por um estudante de 17 anos, que não teve a identidade divulgada e teria como alvo colegas e professoras. A denúncia mobilizou a comunidade acadêmica, levou à realização de protestos e abriu uma discussão que vai além do episódio: como impedir que a inteligência artificial seja utilizada para violar direitos e transformar pessoas em vítimas de crimes digitais?
Em 2024, o vereador Renan Cury (PP) conseguiu aprovar na Câmara de Volta Redonda a Lei Municipal nº 6.446/2024, para incentivar o ensino da inteligência artificial na rede municipal, com ênfase no uso ético da tecnologia. A legislação, no entanto, nunca saiu do papel. “O que aconteceu no IFRJ de Volta Redonda é revoltante e precisa ser tratado com toda a seriedade. Se as investigações confirmarem os fatos, os responsáveis devem ser punidos com o máximo rigor previsto na lei. Ninguém pode usar a tecnologia para humilhar, constranger ou destruir a dignidade de outra pessoa”, disparou.
Segundo Renan, a inteligência artificial é uma ferramenta extraordinária, capaz de salvar vidas, melhorar a educação, impulsionar a inovação e preparar os jovens para o futuro. “Mas, nas mãos erradas, pode ser usada para cometer crimes e causar danos irreparáveis”, destacou, ressaltando que foi justamente por esse motivo que apresentou o projeto para incentivar o ensino da IA nas escolas.
“A proposta vai muito além de ensinar a usar a tecnologia. Ela busca preparar nossos estudantes para compreender as oportunidades da inteligência artificial, mas também seus limites, seus riscos e as consequências do uso indevido, combatendo práticas como a desinformação, o plágio e outras condutas que violam direitos. É pela educação que formamos cidadãos capazes de usar a tecnologia para construir, e não para destruir”, completou.
Renan também ressaltou que não deve-se demonizar a inteligência artificial, mas sim educar os internautas para seu uso responsável e combater com firmeza quem a utiliza para praticar crimes. “Minha solidariedade às vítimas e às suas famílias. Que as investigações avancem com rapidez, que os responsáveis respondam por seus atos e que esse caso sirva de alerta: a tecnologia deve ser usada para construir um futuro melhor, nunca para ferir a dignidade de ninguém”, concluiu.
Já a professora Mônica Correa, ex-diretora-geral do Colégio Estadual Rio de Janeiro, na Sessenta, afirma que casos de manipulação de imagens estão se multiplicando, o que acende um alerta para pais e educadores, principalmente porque muitos envolvem adolescentes. “Sempre que recebo uma notícia como essa, penso no papel da escola diante de um assunto tão sensível. Estamos falando de adolescentes que não têm maturidade emocional para lidar com o impacto que tudo isso pode causar na vida das vítimas e até mesmo do autor das manipulações. O assunto vai além dos muros da escola e envolve três esferas: escola, família e autoridades. O acolhimento de todos os envolvidos é fundamental”, comentou.
Segundo a professora, a escola precisa se organizar e incorporar ao projeto político-pedagógico práticas relacionadas ao tema, desde atividades cotidianas até a criação de termos de compromisso e regras nos regimentos internos, prevendo sanções pedagógicas, a fim de promover entre os alunos o entendimento de que seus atos podem gerar responsabilizações futuras. “Também é fundamental envolver as famílias em todas as atividades, reuniões e projetos, alinhando o acompanhamento familiar ao desenvolvimento escolar dos jovens”, acrescentou.
Para Mônica, a família exerce papel essencial nesses casos, já que o acesso às tecnologias costuma ser oferecido, em um primeiro momento, dentro de casa. “Quando família e escola caminham juntas, a chance de sucesso é sempre maior. Os professores podem traduzir, em linguagem adequada às diferentes disciplinas, a importância de respeitar o ser humano em sua integralidade”, destacou.
“Ainda chamo a atenção para a saúde mental dos jovens, em tempos de redes sociais tão atrativas. Muitos casos são identificados no ambiente escolar, sendo necessário suporte externo para que os alunos sejam acolhidos de forma adequada”, pontuou a professora. Ela também defende que o Poder Público implemente a educação digital de forma permanente nas escolas, fortaleça os regimentos internos e forneça aos pais informações para orientar os filhos sobre os riscos do uso inadequado da tecnologia e as possíveis responsabilizações.
Manifestação
Diante da gravidade do caso, estudantes do Instituto Federal do Rio de Janeiro (IFRJ) realizaram uma manifestação na segunda, 29. O ato reuniu alunos, professores e familiares em frente à unidade. Em seguida, os participantes caminharam até a Câmara de Volta Redonda. A direção do Campus Volta Redonda do IFRJ emitiu uma nota oficial na qual repudiou quaisquer atos de misoginia, violência de gênero e crimes cibernéticos que atentem contra a dignidade, a privacidade e os direitos da comunidade acadêmica.
“Reafirmamos nosso compromisso com um ambiente seguro, ético e respeitoso. Todas as denúncias serão rigorosamente apuradas, seguindo a legislação vigente e os trâmites institucionais, com os devidos encaminhamentos às autoridades competentes, quando necessário”, diz a nota. O estudante investigado permanece suspenso até a conclusão da apuração.
O Grêmio Estudantil do IFRJ também se manifestou por meio de nota, afirmando que defende uma escola segura, respeitosa e livre de qualquer forma de violência. “Não nos calaremos diante de situações que atentem contra a dignidade de estudantes. Seguiremos acompanhando este caso, cobrando transparência, responsabilidade institucional e uma apuração séria, sempre com respeito ao devido processo legal e às eventuais vítimas”, afirmou.
A entidade também destacou que luta para que nenhuma estudante tenha medo de frequentar a escola e que misoginia, assédio, cyberbullying e qualquer outra forma de violência não encontrem espaço no IFRJ. “Não aceitaremos o silêncio. Não aceitaremos a omissão. Não aceitaremos a impunidade”, concluiu.