Os deepfakes são arquivos de mídia, incluindo fotos, vídeos e áudio, editados através de inteligência artificial (IA), que fornecem alto realismo e muitas vezes causam confusão após serem compartilhados nas redes sociais.
Na quarta-feira (16), os programadores que trabalham para o Facebook revelaram ter desenvolvido um software capaz não apenas de identificar os deepfakes, mas também de descobrir sua origem, segundo publicação no blog do Facebook.
Uma equipe de pesquisadores afirmou que o software é capaz de “desfazer” os arquivos deepfake através de tecnologia de engenharia reversa, permitindo detectar imagens faciais e determinar como e onde foram criadas.
“Este trabalho dará aos pesquisadores e profissionais instrumentos para investigar os incidentes de desinformação coordenada utilizando deepfakes, bem como permitirá abrir novos caminhos para futuras pesquisas”, afirmaram os especialistas.
Eles também explicaram que o processo de criação de uma deepfake geralmente altera a “impressão digital” do arquivo, deixando algumas imperfeições. O novo software executa deepfakes através de uma rede para pesquisar estes rastros.
“Na fotografia digital, as impressões digitais são utilizadas para identificar a câmera digital usada para produzir uma imagem […] Semelhante às dos dispositivos, as impressões digitais de imagem são padrões únicos deixados nas imagens […] que podem igualmente ser usados para identificar o modelo gerador do qual a imagem veio”, explicaram.
Um programa semelhante, o Video Authenticator, foi apresentado pela Microsoft no final de 2020. Ele pode revelar arquivos deepfake ao analisar uma imagem ou vídeo, bem como detectar sua manipulação, que pode ser invisível a olho nu.
As informações são do Sputnik Brasil.