Um juiz de Connecticut identificou o que aparenta ser o primeiro caso nos EUA em que um autor tentou ocultar instruções para inteligência artificial dentro de documentos judiciais, em uma tentativa de influenciar o resultado de um caso. O caso envolve Matthew Elliott, que se representava em um processo contra um provedor de saúde por suposta retenção indevida de prontuários, e usou técnicas de “prompt injection” escondidas em petições eletrônicas.
Como foram ocultadas as instruções
O juiz Walter Spader Jr. explicou que Elliott incluiu texto “em tamanho minusculo e cor branca”, tornando as palavras invisíveis ao olho humano, mas “perfeitamente legiveis para qualquer software que leia o texto do documento”. As instruções direcionavam qualquer sistema de IA revisando o documento a garantir que suas saídas textuais concordassem com os argumentos do autor e ignorassem decisões anteriores do tribunal.
Segundo o juiz, o atentado visava usar o “prompt injection” — técnica comum em ataques cibernéticos — para contrabandear instruções pessoais dentro de um documento que seria processado por um sistema de IA, fazendo com que o sistema tratasse essas instruções como se viessem do operador, ou seja, do tribunal. Elliott alegou que as instruções eram uma “auditoria” para verificar se o tribunal usava IA, mas Spader não considerou essa justificativa crível.
Precedentes no Brasil
O juiz citou um caso semelhante no Brasil, onde dois advogados usaram a mesma técnica em um tribunal que empregava IA para revisar processos. Na ocasião, os advogados foram condenados a pagar multa de aproximadamente US$ 16 mil. Spader destacou que, em ambos os casos, os ataques não tiveram sucesso porque um ser humano identificou o texto oculto assim que inspecionou o que o sistema de IA produziu.
Mesmo assim, o juiz classificou a tática como perigosa e alertou que tribunais precisarão criar regras específicas para lidar com prompt injection, à medida que ferramentas de IA se tornam mais comuns nos sistemas judiciais. Ele destacou que o ataque poderia permitir que uma parte influenciasse secretamente uma ferramenta de IA confiada por um juiz, promotor ou advogado contrário.
Sanções aplicadas
Elliott foi sancionado com a revogação do direito de protocolar documentos eletronicamente, passando a ser obrigado a apresentar petições em papel. Spader explicou que a restrição não altera o acesso à justiça, mas impede a utilização indevida do sistema eletrônico do tribunal. O caso destaca como a tecnologia está avançando mais rápido do que as regulamentações, e como novos tipos de fraude digital podem surgir em ambientes que anteriormente não estavam sujeitos a esses riscos.
Veja também como o ChatGPT gratuito ampliou suas funcionalidades e como óculos inteligentes com IA ajudam deficientes visuais, mostrando os dois lados da adoção tecnológica.