A Indonésia decidiu suspender o acesso ao Grok, chatbot de inteligência artificial desenvolvido pela empresa xAI, de Elon Musk, após avaliar que a ferramenta representa riscos à segurança digital, especialmente pela possibilidade de criação de imagens falsas de caráter sexual envolvendo mulheres e crianças.
O bloqueio temporário foi anunciado neste sábado pela ministra das Comunicações e Assuntos Digitais, Meutya Hafid. Segundo ela, a medida tem caráter preventivo e busca proteger a população contra conteúdos pornográficos fabricados por meio de inteligência artificial, prática que classificou como uma forma de violência digital e violação grave dos direitos humanos.
De acordo com o governo indonésio, a produção e disseminação de deepfakes sexuais sem consentimento fere a dignidade, a privacidade e a segurança dos cidadãos, além de comprometer a integridade do ambiente digital. O país é o primeiro do mundo a adotar o bloqueio formal do Grok por esse tipo de preocupação.
A decisão ocorre em meio ao aumento da pressão internacional contra o uso indevido de ferramentas de IA para a geração de imagens íntimas falsas. Líderes políticos de diferentes países têm se manifestado publicamente sobre o tema. No Reino Unido, o primeiro-ministro Keir Starmer classificou os conteúdos atribuídos ao Grok como inaceitáveis e pediu que o regulador de mídia avalie medidas mais duras contra a plataforma. Já o primeiro-ministro da Austrália, Anthony Albanese, descreveu a prática como repulsiva e incompatível com padrões éticos mínimos.
Autoridades regulatórias da França, Índia e Malásia também abriram investigações para apurar o funcionamento do chatbot. Nos Estados Unidos, senadores pressionam Apple e Google para que removam o X e o Grok de suas lojas de aplicativos, sob o argumento de que os serviços violam regras que proíbem a circulação de material sexualizado.
Em resposta às críticas, a xAI anunciou recentemente restrições nos recursos de geração e edição de imagens, limitando o acesso apenas a usuários pagantes. A medida, no entanto, foi duramente criticada por autoridades e especialistas, que consideraram a decisão insuficiente e ofensiva às vítimas, já que mantém a funcionalidade ativa mediante pagamento.
Ao ser procurada por jornalistas para comentar o bloqueio, a empresa respondeu apenas com uma mensagem automática atacando a imprensa tradicional. Elon Musk, por sua vez, afirmou em suas redes sociais que qualquer usuário que produza conteúdo ilegal com o Grok será responsabilizado, da mesma forma que quem publica material ilegal em outras plataformas.
O Ministério das Comunicações da Indonésia informou que representantes do X foram convocados para prestar esclarecimentos e apresentar soluções técnicas capazes de impedir novos abusos. O governo deixou claro que a liberação futura do chatbot dependerá da implementação de filtros rigorosos, mecanismos de prevenção eficazes e do cumprimento de padrões éticos compatíveis com a legislação local.
A Indonésia possui uma das legislações mais restritivas do mundo em relação à pornografia online e abriga a maior população muçulmana do planeta, o que reforça a postura dura adotada pelas autoridades diante do avanço de tecnologias que possam facilitar crimes digitais.
*Da Agência Fonte Exclusiva