Há cerca de um ano, imagens com conteúdos pornográficos de alunas do Colégio Militar de Salvador (CMS), no bairro da Pituba, tomaram conta das redes sociais. Com o caso, a Bahia assumiu a terceira posição no ranking de estados com o maior número de vítimas de deepfakes sexuais em escolas brasileiras. Em três anos, foram 17 pessoas afetadas na Bahia e 72 em todo o Brasil, segundo mapeamento da ONG SaferNet Brasil, no estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças”.
Além da Bahia, que teve apenas um caso registrado, estão no pódio São Paulo e Rio Grande do Sul, com 37 e 16 vítimas, respectivamente. Enquanto SP e RS estimam 12 e 9 infratores, o estado baiano, no entanto, ainda não identificou os autores dos casos. O levantamento é baseado em notícias publicadas desde 2023 até o momento.
Para a advogada especializada em Direito Digital, Tamíride Monteiro, um importante fator que explica a propagação de casos envolvendo o uso de imagens de adolescentes é a combinação de diversos elementos, como a curiosidade em relação às inteligências artificiais e o despreparo para o uso das tecnologias. “[Crianças e adolescentes estão mais expostos] principalmente ao uso de tecnologia dessa natureza para o cyberbullying e práticas sociais e criminosas. A falta de maturidade para lidar e compreender os riscos do uso e o que ela ‘devolve’ é o maior desafio para lidar com os mais jovens”, pontua.
Diogo Gabriel Lima, especialista em Direito Digital e Cibercrimes, acrescenta que a falta de orientação quanto ao conteúdo consumido pelos jovens na web, e as consequências de levá-los à prática, também é um fator relevante nessa equação. “Muitos fazem isso como uma brincadeira de mau gosto, mas alguns não têm noção de que estão cometendo um crime”, opina o advogado. “É uma geração muito virtualizada, conectada diariamente por muitas horas. Eles precisam também de uma educação direcionada para isso. As escolas deveriam ter um olhar mais atento a essa questão”, acrescenta.
Nesses casos, um dos principais dispositivos legais que ampara as vítimas adolescentes de deepfake é o artigo 241 do Estatuto da Criança e do Adolescente (ECA), que proíbe a simulação de participação de criança ou adolescente em cena de sexo explícito ou pornográfica, por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual. A pena para essa infração pode variar entre um e três anos de reclusão, além de multa, conforme aponta Monteiro.
Lima, por outro lado, acredita que a legislação brasileira ainda precisa avançar no que diz respeito à internet, sobretudo quando o assunto é a violação de imagem. “Nós não temos uma lei específica para deepfakes. Ninguém sabe como o procedimento deve ser feito quando se trata de um deepfake, o que pode ser feito, por onde se começa — e são coisas que precisam ser trabalhadas tanto do ponto de vista legal quanto do educacional”, afirma.