O vídeo de um canguru de apoio emocional barrado em um voo alcançou, em poucas horas de publicação, mais de 11 milhões de pessoas. O conteúdo, que continha uma advertência discreta por ser fruto de IA, gerou uma nova onda de discussões sobre a veracidade de vídeos feitos por plataformas de inteligência artificial generativa.
O caso ocorreu no final de maio, poucos dias depois de o Google ter lançado o Veo 3, ferramenta que inundou a internet de vídeos ultrarrealistas.
As ferramentas não surpreendem apenas por criarem animações sofisticadas tecnicamente, mas por replicarem emoções, movimentos de câmera e expressões faciais com realismo. “É fundamental estar atento ao potencial significativo de desinformação e uso malicioso dessas tecnologias, especialmente na criação de deepfakes altamente convincentes. Imagine, por exemplo, vídeos falsos de figuras públicas fazendo discursos que jamais aconteceram, ou cenas de eventos inventados que circulam nas redes como se fossem registros autênticos. Embora o Veo 3 conte com restrições específicas, como o bloqueio à geração de vídeos envolvendo pessoas públicas, essas barreiras podem estar ausentes, ou ser facilmente burladas, em outras ferramentas similares”, explica Fabrício Carraro, Program Manager da Alura.
A pedido da Forbes Brasil, Carraro desenvolveu várias amostras de vídeos que simulavam a campanha de um leite feito a partir de água com variação de cenários e personagens. “À medida que se torna cada vez mais difícil distinguir o que é real do que é gerado por IA, a credibilidade da informação como um todo é colocada em xeque. Isso afeta não apenas o jornalismo e as instituições democráticas, mas também a confiança entre as pessoas nas interações digitais.”
“A inteligência artificial inaugura uma era exponencial sem precedentes, com mudanças na forma como vivemos, nos relacionamos e construimos o amanhã. E na mesma proporção das oportunidades, vem os desafios e os riscos. Nessa direção a ascensão dos vídeos ultrarrealistas gerados por inteligência artificial inauguram uma nova era de manipulação perceptiva, na qual a linha entre o real e o sintético se dissolve com velocidade alarmante”, explica Ale Fu, Executiva e Conselheira de Tecnologia e Inovação.
O lado sombrio dos vídeos de IA
Um dos principais pontos de atenção com os vídeos sintéticos é que eles podem ser usados para manipular a opinião pública, incitar violência, fraudar processos eleitorais e até viabilizar golpes financeiros. Um exemplo disso foi demonstrado por jornalistas da Revista Time, que conseguiram criar vídeos fictícios e altamente realistas simulando rebeliões e fraudes eleitorais usando o Veo3. Marioo, Sócio e Diretor Criativo da Human, explica que a responsabilidade dos criadores é ainda maior neste contexto.
“Produzir conteúdos com inteligência artificial exige cuidado criativo e responsabilidade redobrada. A primeira regra é ética: nunca utilizar rostos reais sem consentimento claro, nem se apropriar indevidamente da identidade visual de artistas sem reconhecimento ou contexto.”
De acordo com o YouTube, 96% dos criadores de conteúdo brasileiros já utilizam IA generativa. Além disso, segundo a Conversion, mais de 90% dos brasileiros digitalizados já usam IA generativa com frequência. Para Rodrigo Helcer, Especialista em IA e Fundador da Stilingue by Blip, deepfakes tornam mais simples a manipulação de vozes, rostos e cenas, facilitando fraudes, extorsões e falsas acusações.
“Se tudo pode ser falsificado, o ‘ver para crer’ deixa de existir. O risco maior é que verdades reais passam a ser questionadas; mentiras podem parecer provas.Vídeos falsos com cenas comprometedoras já causam danos em escolas, empresas e entre figuras públicas. Mesmo que desmentidos, os danos à reputação são difíceis de reverter.”
Ainda de acordo com Ale Fu, os riscos desafiam não apenas a tecnologia, mas a estrutura social, política e cognitiva. “Videos ultrarrealistas facilitam a manipulação de narrativas públicas e a disseminação de desinformação com alto grau de verossimilhança, corroendo a confiança coletiva na imagem como evidência. São ferramentas de extorsão e fraude, ao mesmo tempo em que escalam riscos podendo gerar crises com base em simulações falsas. A concentração de poder nas mãos de quem domina essas ferramentas aprofunda desigualdades e cria vantagens desleais em mercados e debates públicos”.
A responsabilidade das empresas
O PL 2.338/23, conhecido como Marco Legal da IA, foi aprovado pelo Senado Federal e agora está em tramitação na Câmara dos Deputados. O projeto estabelece diretrizes para o uso responsável da inteligência artificial no Brasil, incluindo princípios éticos, transparência e proteção contra discriminação algorítmica.
Entre os avanços, o texto prevê regras para uso de conteúdos protegidos por direitos autorais, exigindo que empresas informem quais materiais foram utilizados no treinamento de IA e permitindo que autores vetem o uso de suas obras.
Para Carraro, a responsabilidade nesse contexto empresarial é enorme. “O ideal seria que as empresas deixassem claro, de forma transparente, quando o conteúdo foi gerado por IA, especialmente em casos de possível ambiguidade.
O Google, por exemplo, afirma que o Veo 3 inclui marcações digitais para indicar a origem do vídeo, mas essas sinalizações não são visíveis diretamente no conteúdo final, apenas como metadados, o que limita sua eficácia na identificação por parte do público.”
Helcer ressalta que as instituições precisam listar questões importantes sobre o tema. “Como proteger reputações em um mundo de vídeos falsos? Como treinar jovens profissionais para desenvolver senso crítico diante da IA? Como manter a confiança pública no audiovisual como prova pós-morte do ‘ver para crer’?”, alerta.
O que dizem as plataformas?
O Google afirma que “acredita no potencial da IA para democratizar a produção criativa e que está tomando medidas para evitar usos mal-intencionados”. A OpenAI, dona da ferramenta Sora, afirma que está desenvolvendo medidas para garantir um uso responsável da ferramenta. Sundar Pichai, CEO do Google, já afirmou várias vezes que é fundamental que governos, empresas e sociedade civil atuem juntos na elaboração de normas que orientem o desenvolvimento e o uso responsável da IA.
Da Agência Fonte Exclusiva, com informações da Forbes.