O Tribunal de Justiça de Minas Gerais (TJMG) detectou tentativas de manipulação de sistemas de inteligência artificial em processos judiciais. Os magistrados identificaram o uso da técnica denominada ‘prompt injection’, que envolve a inserção de comandos ocultos em documentos legais.
Como Funciona a Manipulação por ‘Prompt Injection’
A técnica de ‘prompt injection’ visa influenciar o comportamento dos sistemas automatizados de decisão, inserindo comandos escondidos em petições e recursos. Esse tipo de manipulação pode alterar resultados, favorecendo injustamente uma das partes envolvidas no processo.
Medidas Adotadas pelo Tribunal
Em resposta a essas irregularidades, o TJMG decidiu aplicar multas aos responsáveis pelas tentativas de manipulação. Além disso, foram iniciadas investigações para apurar todos os envolvidos, com o apoio da Ordem dos Advogados do Brasil, seção Minas Gerais (OAB-MG), e da Polícia Civil.
Implicações para o Sistema Judiciário
Essas descobertas levantam preocupações sobre a segurança e a integridade dos sistemas de inteligência artificial utilizados no judiciário. A necessidade de desenvolver mecanismos mais robustos para detectar e prevenir tais manipulações torna-se evidente, garantindo que a justiça continue sendo imparcial e confiável.
Conclusão
A identificação de tentativas de manipulação de sistemas de IA no TJMG destaca a importância de uma vigilância constante e da implementação de medidas preventivas eficazes. A colaboração entre o judiciário, advogados e autoridades policiais é crucial para proteger o processo judicial de influências indevidas.
