Organização internacional encontrou 170 imagens em banco de dados para pesquisa de Direitos de crianças usando inteligência artificial.
Uma pesquisa realizada pela Human Rights Watch revelou a utilização de imagens pessoais de crianças brasileiras por sistemas de inteligência artificial (IA). Segundo o relatório, as fotos foram coletadas de plataformas online e redes sociais sem autorização.
Além disso, a organização alertou para a importância de proteger a privacidade dos menores brasileiros e garantir que seus dados não sejam utilizados de forma indevida. A segurança dos jovens do Brasil e dos infantes do país deve ser uma prioridade em ambientes digitais cada vez mais presentes em suas vidas.
Preocupação com a Privacidade das Crianças Brasileiras
Uma entidade especializada fez um levantamento e encontrou 170 fotos de crianças brasileiras em diferentes situações, como nascimentos, festas de aniversário e apresentações escolares, provenientes de pelo menos 10 estados do país. Essas imagens foram identificadas em um banco de dados conhecido como LAION-5B, utilizado para aprimorar as ferramentas de inteligência artificial.
De acordo com a organização responsável pelo estudo, o número de fotos descobertas representa uma pequena parcela do vasto acervo do banco, que conta com mais de 5 bilhões de imagens. No entanto, a descoberta levanta um alerta sobre a segurança e privacidade das crianças brasileiras online.
Artigos Relacionados
Algumas das fotos foram compartilhadas por menores brasileiros, jovens do Brasil e seus familiares em blogs pessoais e plataformas de compartilhamento de fotos e vídeos. Algumas dessas postagens datam de anos atrás, e até mesmo de uma década, conforme informado pela Human Rights Watch.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destacou que a inteligência artificial facilita a criação de deepfakes, que são conteúdos audiovisuais falsos e prejudiciais. Essas imagens manipuladas podem ser utilizadas de forma não consensual e se espalhar rapidamente pela internet.
A tecnologia de deepfake possibilita a alteração de vídeos e fotos por meio de algoritmos de inteligência artificial, permitindo a troca de rostos e vozes nas mídias. A Human Rights Watch ressaltou que as fotos das crianças brasileiras não estão disponíveis publicamente e foram postadas há bastante tempo, inclusive antes da criação do banco de dados.
A descoberta dessas imagens pelas ferramentas de IA evidencia falhas na proteção da privacidade por parte de grandes empresas e redes sociais. A instituição alemã responsável pelo LAION-5B confirmou a presença das fotos pessoais das crianças e se comprometeu a removê-las, reconhecendo a importância da segurança online.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, enfatizou a necessidade de aplicação da legislação no ambiente digital para proteger os usuários, especialmente as crianças brasileiras. Ela ressaltou a importância de garantir a segurança e cuidado com os menores em meio aos desafios apresentados pela inteligência artificial e a tecnologia online.
Fonte: @ Agencia Brasil
Comentários sobre este artigo