Resumo
- A Anthropic usou a IA Claude na defesa de um processo de direitos autorais, mas a ferramenta forneceu citações com títulos e autores errados.
- Segundo a advogada da Anthropic, a IA foi usada para formatar citações do documento, mas trocas de palavras passaram despercebidas na revisão.
- Alucinações de IA em contextos legais são comuns. Um estudo de Stanford detectou erros em 17% dos testes com ferramentas jurídicas.
A Anthropic usou sua própria inteligência artificial, o Claude, para ajudar na defesa contra um processo por violação de direitos autorais. A estratégia, porém, não deu muito certo: a IA errou o título e os autores de uma fonte citada na peça.
O caso veio à tona depois de um advogado que representa a Universal Music Group alegar que as fontes referenciadas no documento eram “completamente fabricadas”. O arquivo foi enviado por Olivia Chen, cientista de dados da Anthropic.
Na quinta-feira (15/05), Ivana Dukanovic, advogada da Anthropic, esclareceu o caso. Segundo ela, o Claude foi usado para formatar as citações do documento. Os advogados revisaram o documento e corrigiram problemas como páginas e volumes errados. No entanto, palavras trocadas passaram despercebidas.
“Infelizmente, apesar de fornecer o título, o ano e o link para a publicação, a citação escrita [pela IA] incluía título e autores imprecisos”, explicou Dukanovic. Mesmo assim, ela defendeu que a fonte era legítima e afirmou que o erro não foi uma forma de fabricar autoridade.
A própria Anthropic se manifestou, pedindo desculpas pela imprecisão e confusão causadas e definindo a situação como um “erro embaraçoso e não intencional”.
IA alucina ao escrever peças jurídicas
O caso da Anthropic chama a atenção por ter prejudicado a própria desenvolvedora da IA, mas não é a primeira vez que essas ferramentas saem do controle, inventando citações, jurisprudências e antecedentes.
Um desses casos é bastante recente: no começo de maio, um juiz da Califórnia (Estados Unidos) determinou que um escritório de advocacia pagasse US$ 31.100 (cerca de R$ 176 mil) por enviar uma petição com citações falsas — elas foram geradas por IA.
Michael Wilner, o magistrado do caso, admitiu quase ter sido enganado pelas citações. “Eu li a petição, fui persuadido (ou pelo menos fiquei intrigado) pelas autoridades citadas por eles, e procurei as decisões para saber mais sobre elas — só então descobri que elas não existiam. É assustador”, escreveu Wilner.
Existem algumas ferramentas específicas para advogados, que usam métodos para buscar argumentos em fontes externas antes de elaborar respostas, o que, na teoria, geraria resultados mais confiáveis.
Mesmo assim, isso não é garantido. Um estudo da Universidade Stanford (EUA) com duas IAs do tipo detectou que elas alucinavam em 17% dos testes — o que dá um caso a cada seis.
Com informações do Verge
