BNN News 
Levantamento da organização internacional Vigilância dos Direitos Humanos identificou o uso de fotos pessoais por crianças e adolescentes brasileiros por meio de ferramentas de inteligência artificial (IA). Segundo a entidade, as imagens foram retiradas de sites e redes sociais sem consentimento.
A entidade encontrou 170 fotos de crianças de pelo menos 10 estados que retratam momentos de nascimentos de bebês, aniversários e apresentações escolares.
As imagens estão em um banco de dados chamado LAION-5B, usado para treinar ferramentas de IA. Segundo a entidade, o percentual é baixo devido ao tamanho do acervo do banco, que ultrapassa 5 bilhões de imagens, mas dá alarme.
“Algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares blogs contas pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram publicadas há anos ou até uma década”, diz nota do Vigilância dos Direitos Humanos.
Falsificações profundas
A pesquisadora de Direitos da Criança e Tecnologia da Vigilância dos Direitos Humanos, Hye Jung Han, explica que a inteligência artificial permite a criação de imagens e cenas realistas em questão de segundos, de forma gratuita e fácil. Portanto, muitas das fotos são a base para o desenvolvimento de falsificações profundas desagradáveis e prejudiciais que circulam na internet.
A profundamente falso permite a manipulação de vídeos e fotos com inteligência artificial. Um exemplo é mudar o rosto das pessoas em um vídeo ou mudar sua fala.
De acordo com Vigilância dos Direitos Humanosfotos de crianças brasileiras não estão disponíveis na busca on-line e foram postadas anos atrás, antes mesmo da criação do banco de imagens. Acessá-los por meio de ferramentas de IA revela que houve uma falha por parte das grandes empresas e das redes sociais em proteger a privacidade dos usuários.
A organização informou que a instituição alemã responsável pelo LAION-5B “confirmou que o conjunto de dados contém as fotografias pessoais das crianças encontradas pelo Vigilância dos Direitos Humanos e decidiu se livrar deles. Ela contestou que os modelos de IA treinados no LAION-5B pudessem reproduzir dados pessoais literalmente. A LAION também afirmou que as crianças e os seus pais são responsáveis por remover as suas fotos pessoais da Internet, argumentando que é a proteção mais eficaz contra o abuso.”
A coordenadora do Programa Criança e Consumidor do Instituto Alana, Maria Mello, defende a aplicação de legislação no mundo virtual para proteger os usuários.
“A inclusão de novos direitos a partir dos desafios apresentados em relação ao ambiente digital, incluindo a inteligência artificial, é importante e bem-vinda. Devemos garantir o dever de cuidado às crianças e adolescentes, quando são os grupos mais afetados”, disse o pesquisador em entrevista TV Brasil.
