AI生成の引用の不備：流暢さが検証を追い越すとき

AI生成の引用の不備：流暢さが検証を追い越すとき

Xufen Tu · 独立学際研究者 公開引用版：v1.0

参考文献は、実在するかどうか誰も確かめていなくても、説得力があるように見えることがあります。AI支援の文章では、流暢な段落に著者名、出版日、もっともらしい題名が添えられることがあります。その洗練された見た目によって、裏付けとなる証拠が確かなものに見えることがあります。

研究上の問題は、その見た目が検証より先に広まるときに始まります。参考文献がどのソースも指していなかったり、実在するソースを不正確に特定していたり、隣の主張を裏付けないソースを引用していたりする場合があります。文章が別の文書で再利用されると、証拠が改善されないまま、その形式に見かけの権威が増すことがあります。

中心的な所見は速度の違いです。文章は素早く生成・流通できますが、ソースが実際に何を述べているかを確かめるには、依然として注意が必要です。人間が関与するだけでは、その隔たりは埋まりません。人が文言を読み承認しても、参考文献がそれを裏付けていないことに気づかないのは無理もない場合があります。

私の現在の判断は、引用の健全性には証拠と責任の両方が関わるというものです。読者には主張の追跡可能なソースが必要であり、その主張を提示する人や組織は引き続き説明責任を負わなければなりません。流暢な言葉は、そのどちらも確立しません。

この立場は、AI支援によるすべての文が信頼できないとも、すべての引用誤りが同じ影響をもたらすとも主張しません。未検証の主張が、研究、専門的助言、機関の記録など、人が依拠する可能性のある場に入り込むとき、懸念は大きくなります。

したがって、原則の水準では人間の責任の境界は明確です。最終的に公開される主張は、説明責任を負う著者または出版者に属します。生成された参考文献は、その責任を代わりに負えません。