Coluna sustenta que o modelo de linguagem só é segundo cérebro enquanto alguém o comanda

Resumo

Na coluna Criminal Player da ConJur, o desembargador do Tribunal de Justiça de Santa Catarina Alexandre Morais da Rosa sustenta que modelos de linguagem funcionam como segundo cérebro, prolongando o pensamento humano como já fizeram o caderno e a calculadora. Para contar como ferramenta, diz ele, o instrumento precisa estar sempre à mão, responder com facilidade, merecer confiança e ter origem rastreável que o usuário compreenda e aprove. As duas primeiras condições o modelo cumpre com folga, e as duas últimas dependem de quem confere.

Contexto

O texto chega num momento em que o uso de modelos de linguagem na redação de peças deixou de ser experimental, e em que tribunais e conselhos começam a tratar do tema. A frase que resume a tese é do próprio autor: o segundo cérebro é cérebro enquanto alguém o comanda.

Argumentos

• Autor: a ferramenta amplia o raciocínio, desde que haja conferência e origem rastreável.
• Risco central: fluência confundida com correção, por quem não tem repertório para verificar.
• Regra de responsabilidade: o modelo não assina a peça, e quem assina responde por ela.

Fundamento

Os riscos apontados são quatro. O primeiro é a lacuna confiante, o resumo bem escrito de um livro que o usuário não leu, e que se propaga quando é citado. O segundo é a falsa sensação de conhecimento, porque a fluência da resposta basta para que seja tomada como verdadeira, sobretudo por quem não tem repertório para identificar o erro. O terceiro é o enfraquecimento do pensamento crítico, e o autor invoca pesquisas de Andy Clark, de Sparrow e colaboradores e um estudo da Microsoft com a Carnegie Mellon, que indicam deslocamento do esforço da coleta para a verificação. O quarto é o sigilo, porque o usuário precisa saber para onde vai o que digita, o que pesa em matéria sensível e com efeito sobre terceiros.

Consequência prática

A conclusão prática é de responsabilidade: o modelo não responde pelo que escreve, e quem assina continua respondendo. Daí decorre o dever de conferir citação, precedente e afirmação de fato contra os autos e a fonte primária antes de usar.

Por que importa

Na advocacia criminal o custo do erro é a liberdade do cliente e a credibilidade do subscritor. Precedente inexistente em habeas corpus e resumo equivocado de acórdão em razões de apelação são falhas que se tornam visíveis exatamente quando mais custam. O roteiro sugerido pelo autor é formar a resposta esperada antes de consultar, pedir ao modelo a objeção mais forte à própria conclusão e conferir o que é decisivo.

Próximos passos

• Acompanhar atos normativos de tribunais e do Conselho Federal da OAB sobre uso de modelos de linguagem em peças.
• Adotar, no escritório, rotina de conferência de citação e precedente antes do protocolo.
• Avaliar o tratamento de dados sigilosos pelas ferramentas em uso.