IA gera nudes: Crueldade alarmante

Em uma manhã de novembro, a estudante de 13 anos, Lara*, foi tomada pelo desespero ao correr em direção ao banheiro da escola, onde começou a chorar copiosamente.

Momentos antes, Lara havia recebido uma mensagem contendo uma fotografia que a deixou profundamente abalada. Na imagem, ela aparecia nua em um barco. Essa foto, originalmente tirada por sua mãe durante um momento em família, havia sido compartilhada por Lara em seu perfil no Instagram. Entretanto, ela estava certa de que estava vestindo um biquíni na ocasião.

Lara foi vítima de uma manipulação de imagens, onde nudes foram criados com o uso de inteligência artificial (IA), resultando na aparição dela nua na foto.

“Quando minha filha me ligou chorando, achei até que fosse uma pegadinha, porque ela não é de se exaltar, gritar ou chorar”, relatou Vanessa*, mãe de Lara, à BBC News Brasil.

Ao menos outras 28 estudantes, com idades entre 13 e 16 anos, em escolas de elite na Barra da Tijuca, no Rio de Janeiro, enfrentaram situações semelhantes. A maioria das vítimas estudava no tradicional Colégio Santo Agostinho.

A manipulação das imagens foi atribuída a adolescentes do próprio Santo Agostinho, conforme relatos dos pais e das vítimas. A escola afirmou, em comunicado à BBC News Brasil, estar acompanhando o episódio.

O caso está sendo investigado pela Delegacia de Proteção à Criança e ao Adolescente (DPCA) do Rio de Janeiro. Segundo a Polícia Civil, diligências estão em andamento para identificar os responsáveis pelo crime.

Essa situação tem se repetido com certa frequência em escolas brasileiras e no exterior. Recentemente, casos semelhantes foram denunciados em colégios de Recife, Belo Horizonte e até mesmo em Almendralejo, na Espanha.

Especialistas alertam para a facilidade de acesso a ferramentas de inteligência artificial que possibilitam a manipulação de imagens. “Isso pode se tornar epidêmico porque é muito fácil (acessar ferramentas de inteligência artificial para manipular imagens)”, destaca Estela Aranha, assessora especial de Direitos Digitais do Ministério da Justiça e Segurança Pública.

Carlos Affonso Souza, diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro, ressalta que tais ferramentas tendem a se tornar mais sofisticadas, enquanto crianças e adolescentes continuam a compartilhar fotos nas redes sociais, aumentando a vulnerabilidade a esse tipo de manipulação.

O impacto psicológico dessas situações é significativo, alerta a psicóloga Anna Lucia Spear King, professora da UFRJ. Adolescentes expostas a imagens manipuladas podem enfrentar consequências emocionais semelhantes às de uma exposição real, podendo desenvolver transtornos mentais como pânico, ansiedade generalizada e depressão.

*Os nomes foram alterados para preservar a identidade das pessoas envolvidas.

Fotos: Divulgação