O Conselho Nacional de Justiça (CNJ) anunciou a aprovação de novas medidas visando aumentar a segurança no uso de inteligência artificial dentro do sistema judiciário brasileiro. Essas iniciativas são uma resposta aos crescentes riscos associados à manipulação de sistemas automatizados, que podem ser influenciados por comandos ocultos em documentos judiciais.
Dentre as ações aprovadas, destaca-se a criação de um programa nacional de segurança. Este programa tem como objetivo principal a prevenção de ataques cibernéticos, a padronização de protocolos de segurança e a identificação de conteúdos suspeitos em processos judiciais. Com isso, o CNJ busca mitigar os riscos que a inteligência artificial pode representar quando utilizada de forma inadequada.
A iniciativa também se preocupa com a integridade dos sistemas de IA ao reconhecer a possibilidade de manipulação por meio de comandos não visíveis. Esses comandos podem ser inseridos em documentos processuais com a intenção de alterar o funcionamento dos sistemas judiciais, comprometendo a justiça e a equidade nos processos.
Com a implementação dessas medidas, espera-se que o Judiciário brasileiro se torne mais resiliente a possíveis ameaças digitais, garantindo que os sistemas de IA sejam utilizados de maneira segura e eficiente. A padronização de protocolos e a identificação proativa de ameaças são passos fundamentais para assegurar a integridade dos processos judiciais.
Em conclusão, as recentes ações do CNJ representam um avanço significativo na proteção dos sistemas judiciais contra manipulações indevidas, promovendo um ambiente mais seguro para o uso da inteligência artificial no contexto jurídico.
