A Netflix vem enfrentando acusações de ter usado imagens geradas em IA no documentário sobre crimes reais What Jennifer Did, Futurism. As suspeitas foram levantadas devido à natureza de algumas imagens que aparecem na produção, que mostram sinais típicos de truques de IA, incluindo mãos mutiladas, artefatos estranhos e outros elementos. As informações são do Engadget.
Caso a acusação se confirme, levantará sérias questões sobre a utilização de tais imagens em documentários, especialmente porque a pessoa retratada está atualmente na prisão, aguardando novo julgamento.
Em uma imagem do documentário, a mão esquerda da personagem do qual a produção fala, Jennifer Pan, está particularmente mutilada, enquanto outra imagem mostra uma estranha lacuna em sua bochecha.
A Netflix ainda não admitiu ter usado IA, mas as imagens mostram sinais claros de manipulação, e a gigante do streaming não chegou a esclarecer em momento algum que teria usado inteligência artificial na produção da obra.
Imagem fabricada poderia ter viés diferente das fotos reais
- As suspeitas são também de que a IA pode estar gerando imagens com base em fotos reais de Jennifer.
- No entanto, ainda se trata de uma prática moralmente questionável, já que a Netflix estaria apresentando algo sobre um caso criminal que não é uma evidência real e sem viés.
- Enquanto isso, Jennifer Pan aguarda um novo julgamento, ordenado por um tribunal de apelação canadense, após o juiz de primeira instância não apresentar opções suficientes ao júri.
Órgãos reguladores nos EUA e na Europa e alguns outros países já promulgaram leis sobre a utilização de IA, mas até agora parece não haver leis específicas que regulem a utilização de imagens ou vídeos de IA para os documentários ou outros conteúdos relacionados.
Com informações do Olhar Digital.