A deepfake e sua tecnologia está cada vez mais realista e sofisticada com o passar do tempo. Essa tecnologia pode ser utilizada para fins inofensivos, mas o dano que ela pode causar nas mãos erradas é muito real.
Por isso, ferramentas para detectar rostos falsos são essenciais. Felizmente, um novo artigo publicado no preprint arXiv mostra um método aparentemente capaz de detectar rostos gerados por IA olhando profundamente em seus olhos.
Um modo de reconhecer a deepfake
Deepfakes gerados por uma rede adversária gerativa (GAN) – duas redes neurais que trabalham uma contra a outra para produzir uma imagem realista, uma para criar, a outra para avaliar – geralmente estão em um cenário de retrato, com os olhos olhando diretamente para a câmera.
Portanto, os autores do artigo pensam que isso pode ser devido às imagens reais nas quais o GAN é treinado. Rostos reais nesse tipo de ambiente possuem os dois olhos refletindo o mesmo ambiente de luz.
“A córnea é quase como um semisfério, é perfeita e muito reflexiva”, explicou o autor principal do artigo, o professor Siwei Lyu, em um comunicado. “Os dois olhos devem ter padrões reflexivos muito semelhantes porque eles estão vendo a mesma coisa. É algo que normalmente não notamos quando olhamos para um rosto”.
No entanto, os pesquisadores notaram diferenças “marcantes” entre os dois olhos nos rostos gerados pela IA. Treinado em rostos gerados por thispersondoesnotexist e Flickr Faces-HQ, seu método mapeia o rosto, depois amplia e examina os olhos, seus globos oculares e a luz refletida em cada um. As diferenças entre os reflexos, como forma e intensidade da luz, são comparadas.
Concluindo, os experimentos mostram que há uma separação clara entre a distribuição dos escores de similaridade das faces reais e GAN sintetizadas, o que pode ser usado como um recurso quantitativo para diferenciá-los, escrevem os autores no artigo. Assim, a ferramenta foi eficaz em 94% para distinguir rostos falsos dos reais.
