No ano passado, Andrey Doronichev se assustou ao encontrar um vídeo nas redes sociais no qual o presidente da Ucrânia se rendia à Rússia. As imagens logo foram reconhecidas como geradas artificialmente (deep fake), mas Doronichev as viu como um presságio.
Em 2023, seus medos se aproximaram da realidade: empresas de tecnologia passaram a competir para aprimorar ferramentas de inteligência artificial. A chamada IA Generativa agora está ao alcance de todos, sendo cada vez mais capaz de enganar com textos, áudios, imagens e vídeos que parecem ser concebidos por humanos.
Para empresários como Doronichev, isso se tornou uma oportunidade de negócio. Ele fundou a empresa Optic para ajudar a identificar material sintético ou falsificado — ou para ser, em suas palavras, “uma máquina de raio-X de aeroporto para conteúdo digital”.
Em março, ele lançou um site onde os usuários podem checar se imagens foram feitas por câmeras reais e diz estar trabalhando em outros serviços para verificar vídeo e áudio.
Mercado de IA generativa vai superar US$ 109 bi
De acordo com a empresa de pesquisa de mercado Grand View Research, o mercado de IA generativa deve ultrapassar os US$ 109 bilhões até 2030, com um crescimento anual médio em 35,6%.
Empresas focadas na detecção de IA têm crescido em participação na indústria. Meses depois de ser criado por um estudante da Universidade de Princeton, o GPTZero afirma que mais de 1 milhão de pessoas usaram seu programa para analisar textos gerados por computador.
Já a Reality Defender foi uma das 414 empresas escolhidas entre 17 mil aplicativos para serem financiadas pelo acelerador de startups Y Combinator neste inverno. A Copyleaks levantou US$ 7,75 milhões no ano passado para expandir seus serviços antiplágio para escolas e universidades.
OpenAI, criadora do ChatGPT, lança detector
O Sentinel fechou uma rodada inicial de US$ 1,5 milhão em 2020 para ajudar a proteger as democracias contra deepfakes e outras mídias sintéticas maliciosas.
Grandes empresas de tecnologia também estão envolvidas: o FakeCatcher, da Intel, afirma ser capaz de identificar deepfakes com 96% de precisão, analisando pixels em busca de sinais sutis de fluxo sanguíneo em rostos humanos.
Dentro do governo federal, a Defense Advanced Research Projects Agency planeja gastar quase US$ 30 milhões este ano para executar o Semantic Forensics, um programa que desenvolve algoritmos para detectar deepfakes e determinar se eles são maliciosos.
Até a OpenAI, que impulsionou o boom da IA quando lançou sua ferramenta ChatGPT no ano passado, está trabalhando em serviços de detecção. A empresa lançou uma ferramenta gratuita em janeiro para ajudar a diferenciar textos escritos por seres humanos e por inteligência artificial.
A OpenAI enfatizou que a nova ferramenta ainda “não é totalmente confiável”. Enquanto ela identificou corretamente 26% do texto gerado artificialmente, erroneamente sinalizou 9% do texto de humanos como gerados por computador.
Segundo especialistas, as ferramentas de detecção estão sempre atrasadas em relação à tecnologia generativa que estão tentando detectar.
No momento em que um sistema de defesa é capaz de reconhecer o trabalho de um chatbot ou gerador de imagens, os desenvolvedores já estão criando uma outra versão, que pode escapar dessa defesa.
Sempre correndo atrás da mais nova tecnologia
A situação foi descrita como uma corrida armamentista ou uma relação vírus-antivírus em que um gera o outro, repetidamente.
– Quando o Midjourney lança o Midjourney 5, minha arma inicial dispara e começo a trabalhar — e enquanto faço isso, eles estão trabalhando no Midjourney 6 – disse Hany Farid, professor de ciência da computação na Universidade da Califórnia, Berkeley, especializado em ciência forense digital. – É um jogo inerentemente contraditório em que, enquanto trabalho no detector, alguém está construindo uma ratoeira melhor, um sintetizador melhor – concluiu o especialista.
Especialistas explicam que vídeos gerados por IA ainda são desajeitados e fáceis de identificar. Mas a clonagem de áudio e a criação de imagens estáticas estão em estágio muito avançado. Separar o real do falso exigirá táticas forenses digitais, como pesquisas reversas de imagens e rastreamento de endereço IP.
Outro problema é que os programas de detecção disponíveis estão sendo testados com exemplos que são muito diferentes dos conteúdos que circulam on-line, com “imagens que foram modificadas, cortadas, reduzidas, transcodificação e anotadas e Deus sabe o que mais aconteceu com elas”, explica Farid.
– Há uma verdadeira “lavagem” de informações falsas, o que torna tudo mais difícil – explica Farid.
Adobe promete rótulo de identificação
Um consórcio de mil empresas e organizações criou recentemente o Content Authenticity Initative (Iniciativa de Conteúdo Autêntico, numa tradução livre), liderado pela Adobe (fabricante de software que criou o PDF) e que tem entre seus participantes o The New York Times. O objetivo do grupo é identificar padrões que tornem mais fácil o rastreio do que é autêntico ou falso.
No início deste mês, a Adobe afirmou que a sua tecnologia de IA generativa Firefly seria incorporada ao Google Bard, que é a ferramenta de textos gerados por inteligência artificial da gigante de tecnologia. Mas a Firefly terá rótulos de identificação, sinalizando a data em que foi criada cada imagem e a partir de quais ferramentas digitais foi gerada.
Para Jeff Sakasegawa, criador da Persona, empresa que ajuda a verificar identidades de consumidores, os desafios criados pela IA apenas começaram.
– A onda (de IA) está se formando, não chegou ao auge e ainda está longe de estourar – resumiu.
Com informações do Jornal O GLOBO.