Fallos de citas generadas por IA: cuando la fluidez supera a la verificación

Fallos de citas generadas por IA: cuando la fluidez supera a la verificación

Xufen Tu · Investigadora interdisciplinaria independiente Versión pública para citar: v1.0

Una referencia puede parecer convincente antes de que nadie sepa si es real. En la escritura asistida por IA, un párrafo fluido puede incluir un nombre de autor, una fecha de publicación y un título plausible. Su apariencia pulida puede hacer que la evidencia de respaldo parezca establecida.

El problema de investigación comienza cuando esa apariencia circula más que la verificación. Una referencia puede no remitir a ninguna fuente, identificar incorrectamente una fuente real o citar una fuente que no respalda la afirmación contigua. Una vez reutilizado el texto en otro documento, su forma puede adquirir más autoridad aparente sin obtener mejor evidencia.

La observación central es una diferencia de ritmo: el texto puede producirse y circular rápidamente, mientras que comprobar lo que una fuente dice realmente sigue requiriendo atención. La intervención humana por sí sola no cierra esa brecha. Una persona puede leer y aprobar la redacción sin advertir, de manera comprensible, que la referencia no la respalda.

Mi juicio actual es que la integridad de las citas concierne tanto a la evidencia como a la responsabilidad. Los lectores necesitan una fuente trazable para una afirmación, y la persona u organización que la presenta debe seguir respondiendo por ella. El lenguaje fluido no establece ninguna de las dos cosas.

Esta postura no afirma que toda frase asistida por IA sea poco fiable ni que todo error de cita tenga las mismas consecuencias. La preocupación aumenta cuando una afirmación no verificada entra en la investigación, el asesoramiento profesional, los registros institucionales u otros ámbitos donde las personas pueden apoyarse en ella.

Por tanto, el límite de la responsabilidad humana es claro en el plano de los principios: la afirmación final publicada corresponde a una autora o un editor que deben rendir cuentas. Una referencia generada no puede asumir esa responsabilidad en su nombre.