O uso da inteligência artificial Grok, desenvolvida pela empresa de Elon Musk, voltou a gerar forte reação internacional após ser utilizada para remover digitalmente roupas de mulheres e crianças em imagens reais compartilhadas na rede social X. As imagens manipuladas continuam circulando na plataforma, apesar da promessa pública de suspender contas responsáveis por esse tipo de conteúdo.
Autoridades reguladoras do Reino Unido afirmaram que entraram em contato de forma urgente com a plataforma X e com a xAI para exigir esclarecimentos sobre quais medidas estão sendo adotadas para cumprir as obrigações legais de proteção aos usuários. A Ofcom informou que avalia a abertura de uma investigação formal, dependendo da resposta das empresas.
A polêmica se intensificou após uma atualização feita em dezembro no assistente Grok, que facilitou o envio de imagens e a solicitação de alterações visuais. Embora o sistema não permita nudez total, passou a aceitar comandos para reduzir roupas a peças íntimas ou trajes extremamente reveladores, frequentemente em poses sexualizadas — inclusive envolvendo menores de idade.
Relatos indicam que imagens manipuladas de crianças e adolescentes continuaram sendo geradas durante o período do Ano Novo. Mulheres também denunciaram o uso de suas fotos sem consentimento, com algumas montagens incluindo elementos explícitos de caráter sexual. Casos envolvendo figuras públicas e adolescentes ampliaram a repercussão do episódio.
Pesquisadores da organização AI Forensics analisaram dezenas de milhares de interações com o Grok ao longo de uma semana e identificaram que uma parcela significativa das imagens geradas retratava mulheres jovens em roupas mínimas. Uma fração menor, mas considerada grave, envolvia pessoas com menos de 18 anos, incluindo crianças pequenas. Segundo os pesquisadores, grande parte desse conteúdo permanecia disponível online.
Inicialmente, Elon Musk reagiu com ironia à viralização das imagens, mas posteriormente afirmou que qualquer usuário que utilizasse o Grok para criar conteúdo ilegal estaria sujeito às mesmas penalidades aplicadas a quem publica material ilegal na plataforma.
A Comissão Europeia informou que está analisando denúncias sobre o uso da ferramenta para a produção e disseminação de imagens sexualmente explícitas envolvendo menores. No Reino Unido, parlamentares e ativistas criticaram o governo por ainda não colocar em vigor leis aprovadas em 2025 que criminalizam a criação e solicitação de imagens íntimas sem consentimento, mesmo quando produzidas por inteligência artificial.
Especialistas alertam que a disseminação desse tipo de tecnologia amplia riscos de violência digital, humilhação e abuso, especialmente contra mulheres e crianças, e reforçam a urgência de regulamentações eficazes e mecanismos técnicos de bloqueio.
Enquanto reguladores avaliam possíveis sanções, cresce a pressão internacional para que plataformas digitais assumam responsabilidade direta sobre os usos abusivos de ferramentas de inteligência artificial colocadas à disposição do público.
*Da Agência Fonte Exclusiva