Escândalo atinge mais de 500 instituições de ensino e muitas vítimas menores, com mensagens de humilhação em grupos do Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais vazaram.’ Essa situação levantou preocupações sobre a pornografia e o uso de deepfake na manipulação de imagens pessoais.
O fenômeno do deepfake tem se tornado cada vez mais comum, permitindo a criação de vídeos e imagens manipuladas que podem ser usadas para fins pornográficos. É alarmante como essas tecnologias podem ser empregadas para criar conteúdos falsificados, colocando em risco a privacidade e a segurança das pessoas. A conscientização sobre esses riscos é essencial.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no bate-papo para ler a mensagem, ficou chocada ao receber uma foto sua tirada anos atrás, enquanto ainda estava na escola. Em seguida, uma segunda imagem chegou, utilizando a mesma foto, mas de forma sexualmente explícita — e completamente falsa. A jovem, que se chama Heejin, um nome fictício, ficou apavorada e decidiu não responder, mas as imagens continuaram a ser enviadas. Em todas elas, seu rosto foi manipulado e anexado a um corpo realizando atos sexuais, utilizando a tecnologia avançada de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso em situações sexualmente explícitas — está se tornando cada vez mais comum, gerada por ferramentas de inteligência artificial.
Compreendendo a Tecnologia Deepfake
O trauma devastador enfrentado por aqueles cuja imagem foi utilizada em ‘deepfakes’ pornográficos é inegável. ‘Fiquei petrificada, me senti tão sozinha’, revelou Heejin à BBC. No entanto, ela não estava sozinha nessa situação. Dois dias antes, a jornalista sul-coreana Ko Narin havia feito uma descoberta que se tornaria o maior furo de reportagem de sua carreira. Recentemente, a polícia havia iniciado investigações sobre redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Redes de Compartilhamento de Conteúdo Pornográfico
Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde usuários compartilhavam fotos de mulheres conhecidas e utilizavam software de inteligência artificial para transformá-las em imagens pornográficas manipuladas em questão de segundos. ‘A cada minuto, as pessoas enviavam fotos de garotas que conheciam, pedindo que fossem convertidas em deepfakes’, comentou Ko à BBC. Ela descobriu que esses grupos não se restringiam apenas a estudantes universitárias; havia salas de bate-papo dedicadas a escolas de ensino médio e até mesmo do ensino fundamental.
Salas de Humilhação e o Crescimento do Conteúdo Falsificado
Se um número considerável de conteúdo fosse gerado utilizando imagens de uma aluna específica, essa pessoa poderia até ganhar sua própria sala. Comumente rotuladas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas áreas geralmente possuem critérios de entrada rigorosos. A reportagem de Ko, publicada no jornal Hankyoreh, chocou a sociedade sul-coreana. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades francesas, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo se comprometeu a impor punições mais severas para os envolvidos, e o presidente pediu uma maior educação entre os jovens.
A Resposta do Telegram e a Luta Contra Conteúdos Prejudiciais
O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC. A situação destaca a necessidade urgente de abordar as questões relacionadas à pornografia deepfake e as consequências devastadoras que ela pode ter na vida das pessoas afetadas. A luta contra este tipo de conteúdo manipulativo é uma batalha contínua, que exige atenção e ação de todos os envolvidos.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo