O Tribunal de Justiça do Estado de Goiás (TJGO), por meio da Diretoria de Inteligência Artificial, Ciência de Dados e Estatística, desenvolveu uma nova funcionalidade na plataforma Agaia capaz de identificar tentativas de prompt injection, instruções ocultas usadas para manipular o comportamento de modelos de inteligência artificial, em petições e documentos anexados a processos judiciais e administrativos.
A ferramenta já está em funcionamento no Poder Judiciário goiano. Quando identifica comandos suspeitos, trechos ocultos ou instruções incompatíveis com a finalidade do documento, o sistema sinaliza o problema com avisos em vermelho nos documentos gerados, indicando a página e o trecho exatos em que a tentativa de manipulação ocorreu.
A funcionalidade avalia o conteúdo durante o processamento dos dados combinando regras baseadas em padrões conhecidos de ataque com modelos estatísticos de detecção, além de inspecionar o texto em busca de comandos suspeitos. O alerta permite que magistradas, magistrados, servidoras e servidores tenham ciência dos riscos antes de utilizar o conteúdo produzido pela IA na elaboração de minutas e relatórios.
A iniciativa segue a Nota Técnica do Conselho Nacional de Justiça (CNJ) sobre prevenção de riscos de prompt injection em sistemas judiciais, em consonância com a Resolução CNJ nº 615/2025 e com o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA), que orientam os tribunais a adotar mecanismos de governança, rastreabilidade e isolamento de conteúdos suspeitos.
(Texto: Carolina Dayrell – Diretoria de Comunicação Social do TJGO)
