BBC
Comunidades no Facebook e Telegram fabricam manipulações digitais com conotação sexual
E aí, galera! Uma nova e preocupante prática relacionada ao uso da inteligência artificial está ganhando espaço em comunidades online brasileiras: a criação de imagens pornô deepfake baseadas em fotos de mulheres. Essas manipulações digitais estão gerando um clima de medo e insegurança, e precisamos entender o impacto disso.
Em grupos do Facebook e Telegram, usuários têm enviado fotos de mulheres conhecidas para produzirem alterações digitais com características pornográficas. Um exemplo dramático é o caso de Ana, uma bartender de São Paulo, que descobriu que uma foto sua com a mãe foi transformada em uma imagem nua e espalhada na internet.
“Só de lembrar da foto, eu fico mal. Minha mãe, uma senhora religiosa de 65 anos, não sabe até hoje o que aconteceu com a imagem”, relata Ana, que depois descobriu que tudo começou com uma postagem feita por ela sobre as práticas de deepfake que ali estavam sendo promovidas.
Essas montagens digitais, onde o corpo de uma mulher vestida é substituído por um corpo nu ou seu rosto é inserido em cenas de sexo, se tornaram mais realistas com os avanços na inteligência artificial. Pichações de ódio por parte dos usuários desses grupos são comuns, revelando uma postura hostil em relação às mulheres.
Ana decidiu investigar por conta própria. Ela percebeu que, após serem removidos, muitos desses grupos reaparecem rapidamente com nomes ligeiramente diferentes, mas mantendo os mesmos objetivos: criar e compartilhar pornô deepfake, especialmente em plataformas como o Telegram, onde a comunidade cresceu para quase 2 mil membros.
Os diálogos dentro desses grupos revelam um desprezo chocante pelas mulheres, que são objetificadas e maltratadas por meio de comentários agressivos e até mesmo ameaças. Uma participante do grupo, por exemplo, faz referência a abusos contra a própria irmã, enquanto outros debatem abertamente sobre o controle e a dominação sobre as mulheres. Esse tipo de comportamento é alimentado pela chamada ‘machosfera’, onde o ressentimento por parte de homens se manifesta em comentários abusivos e a construção de narrativas de violência e controle.
Quando Ana e outras vítimas tentaram levar suas denúncias à polícia, encontraram resistência. A Delegacia de Delitos Cometidos por Meios Eletrônicos, criada em 2020, focava mais em fraudes do que em outros crimes digitais, como o que envolve deepfakes. A falta de uma legislação específica no Brasil para lidar com esses crimes torna a situação ainda mais complicada.
Embora existam projetos de lei em tramitação que buscam aumentar as penas para quem utiliza deepfake com fins prejudiciais, o avanço dessas tecnologias escapa da regulação atual. Especialistas alertam que, mesmo quando peritos conseguem identificar a manipulação, os danos causados pelo conteúdo podem ser irreparáveis.
A pressão sobre as plataformas digitais para que aumentem a segurança e moderação de conteúdos é crescente, mas muitas vezes fica a cargo das vítimas a responsabilidade de denunciar e lutar por justiça. Ana, por exemplo, planeja agora acionar um advogado para buscar reparação.
Esse assunto é top demais para deixar passar! As práticas de deepfake bancadas pelo discurso de ódio contra mulheres revelam um cenário alarmante que precisa ser combatido com urgência. Além da necessidade de legislação adequada, é fundamental que as plataformas de mídias sociais tomem medidas efetivas para proteger as usuárias e não deixar que esses crimes digitais se espalhem impunemente. Vamos continuar acompanhando esse caso e lutar pela segurança de todos na internet.
Opnião do Redator!
O avanço das tecnologias deepfake traz à tona questões extremamente delicadas e que demandam uma resposta rápida e eficaz do Estado e das plataformas digitais. O silêncio não é mais uma opção diante de tamanha violência.
Participe da nossa comunidade no WhatsApp para receber noticias em tempo real!!!