AI 生成引用的失效：当流畅性跑在核验前面

AI 生成引用的失效：当流畅性跑在核验前面

Xufen Tu · 独立跨学科研究者 公开引用版本：v1.0

在任何人知道某条参考文献是否真实之前，它就可能显得令人信服。在 AI 辅助写作中，一段流畅的文字可能附带作者姓名、出版日期与看似合理的标题。精致的外观可能使支持证据显得已得到确认。

当这种外观的传播超出了核验的进度，研究问题便出现了。参考文献可能指向不存在的来源、不准确地标识真实来源，或引用不能支持旁边主张的来源。一旦文本在另一份文档中被复用，其形式可能获得更多表面权威，却没有获得更好的证据。

核心观察是速度上的差异：文本可以迅速产出与传播，但核查来源实际说了什么仍需要投入注意力。仅有人类参与并不能弥合这一差距。一个人可能阅读并认可措辞，却仍可能在合理情况下未察觉参考文献并不支持它。

我当前的判断是，引用完整性既关乎证据，也关乎责任。读者需要可追溯的来源来支持主张，而提出主张的个人或组织必须继续为其负责。流畅的语言不能证明这两点中的任何一点。

这一立场不主张每个 AI 辅助生成的句子都不可靠，也不主张每项引用错误都有同样的后果。当未经核验的主张进入研究、专业建议、机构记录或其他人们可能依赖它的场景时，关切会加深。

因此，人类责任边界在原则层面是清楚的：最终发表的主张归属于负有责任的作者或出版者。生成的参考文献不能代替他们承担责任。