Falhas em citações geradas por IA: quando a fluência ultrapassa a verificação

Falhas em citações geradas por IA: quando a fluência ultrapassa a verificação

Xufen Tu · Pesquisadora interdisciplinar independente Versão pública para citação: v1.0

Uma referência pode parecer convincente antes que alguém saiba se ela é real. Na escrita assistida por IA, um parágrafo fluente pode vir acompanhado de um nome de autor, uma data de publicação e um título plausível. Sua aparência refinada pode fazer com que as evidências de respaldo pareçam estabelecidas.

O problema de pesquisa começa quando essa aparência circula mais longe que a verificação. Uma referência pode não apontar para nenhuma fonte, identificar uma fonte real incorretamente ou citar uma fonte que não sustenta a afirmação ao lado. Depois que o texto é reutilizado em outro documento, sua forma pode adquirir mais autoridade aparente sem obter evidências melhores.

A observação central é uma diferença de ritmo: o texto pode ser produzido e circular rapidamente, enquanto verificar o que uma fonte realmente diz ainda exige atenção. O envolvimento humano, por si só, não fecha essa lacuna. Uma pessoa pode ler e aprovar a redação sem perceber, de modo compreensível, que a referência não a sustenta.

Meu julgamento atual é que a integridade das citações diz respeito tanto às evidências quanto à responsabilidade. Os leitores precisam de uma fonte rastreável para uma afirmação, e a pessoa ou organização que a apresenta deve continuar respondendo por ela. A linguagem fluente não estabelece nenhuma dessas duas coisas.

Essa posição não afirma que toda frase assistida por IA é pouco confiável nem que todo erro de citação tem as mesmas consequências. A preocupação aumenta quando uma afirmação não verificada entra na pesquisa, no aconselhamento profissional, em registros institucionais ou em outros contextos em que as pessoas podem se apoiar nela.

Portanto, o limite da responsabilidade humana é claro no plano dos princípios: a afirmação final publicada cabe a uma autora ou a um editor que devem prestar contas. Uma referência gerada não pode assumir essa responsabilidade em seu lugar.