Uma petição apresentada ao Supremo Tribunal Federal (STF) chamou a atenção da Corte após técnicos identificarem comandos ocultos destinados a influenciar sistemas de inteligência artificial. O caso levou o ministro Cristiano Zanin a determinar, nesta sexta-feira (25), a abertura de uma investigação.
O documento fazia parte de um processo relacionado à aplicação de cotas raciais para ingresso no Ministério Público de Minas Gerais. Segundo o STF, foram encontradas instruções inseridas de maneira disfarçada no conteúdo da petição com o objetivo de direcionar uma eventual análise feita por ferramentas de inteligência artificial em favor da parte que apresentou o recurso.
A ocorrência foi identificada por uma ferramenta desenvolvida pela área de tecnologia da informação do próprio Supremo para detectar possíveis tentativas de interferência maliciosa em documentos. O gabinete de Zanin recebeu o alerta no início de setembro.
Comandos estavam escondidos no documento
De acordo com a equipe técnica do tribunal, as instruções estavam inseridas em trechos escritos com letras brancas e em tamanho reduzido, ficando praticamente invisíveis durante a leitura convencional da petição.
Além dos argumentos jurídicos do recurso, o documento apresentava comandos direcionados a sistemas de IA. A estratégia buscaria fazer com que essas ferramentas interpretassem o conteúdo de maneira favorável à parte responsável pela petição.
A técnica é conhecida na área de segurança de inteligência artificial como “prompt injection”. O termo é utilizado para descrever tentativas de inserir instruções em conteúdos processados por sistemas de IA com a intenção de alterar ou direcionar suas respostas.
Segundo o STF, esta foi a primeira tentativa desse tipo identificada pela Corte em uma petição judicial.
Caso será encaminhado ao MPF
Diante da situação, Zanin determinou o encaminhamento do caso ao Ministério Público Federal (MPF), que deverá avaliar a existência de eventual prática criminosa.
A Ordem dos Advogados do Brasil (OAB) também deverá ser comunicada para analisar se houve possível infração ético-disciplinar relacionada à atuação do advogado responsável pelo documento.
O ministro ainda determinou a aplicação de uma multa correspondente a dois salários mínimos por violação do dever de lealdade processual.
A investigação deverá esclarecer quem inseriu os comandos no documento, em quais circunstâncias isso ocorreu e se houve alguma tentativa deliberada de interferir em sistemas eletrônicos utilizados no processamento das informações.
Estratégia não interferiu na decisão
Apesar da tentativa identificada no documento, os comandos não produziram efeito sobre a análise do processo.
Zanin informou que seu gabinete não utiliza ferramentas de inteligência artificial para analisar processos ou elaborar a fundamentação das decisões. Além disso, o recurso ao qual a petição estava relacionada já havia sido rejeitado pelo ministro em agosto.
Dessa forma, a estratégia encontrada no documento não alterou o resultado do processo. A apuração deverá agora verificar as circunstâncias do episódio e eventuais responsabilidades decorrentes da inclusão das instruções ocultas.
*Da Agência Fonte Exclusiva