AI 생성 인용의 실패: 유창함이 검증을 앞지를 때

AI 생성 인용의 실패: 유창함이 검증을 앞지를 때

Xufen Tu · 독립 학제간 연구자 공개 인용 버전: v1.0

참고문헌은 실제로 존재하는지 아무도 확인하기 전에 그럴듯해 보일 수 있습니다. AI 보조 글쓰기에서는 유창한 문단에 저자명, 출판일, 그럴듯한 제목이 함께 제시될 수 있습니다. 정돈된 외형으로 인해 뒷받침하는 증거가 확정된 것처럼 보일 수 있습니다.

연구 문제는 그러한 외형이 검증보다 더 멀리 퍼질 때 시작됩니다. 참고문헌이 아무 출처도 가리키지 않거나, 실제 출처를 부정확하게 식별하거나, 옆의 주장을 뒷받침하지 않는 출처를 인용할 수 있습니다. 문장이 다른 문서에 재사용되면 증거는 나아지지 않은 채 그 형식에 겉보기 권위가 더해질 수 있습니다.

핵심 관찰은 속도의 차이입니다. 글은 빠르게 생성되고 유통될 수 있지만 출처가 실제로 무엇을 말하는지 확인하려면 여전히 주의가 필요합니다. 인간의 관여만으로 그 간극이 메워지지는 않습니다. 사람이 문구를 읽고 승인하면서도 참고문헌이 이를 뒷받침하지 않는다는 사실을 알아차리지 못하는 일이 충분히 있을 수 있습니다.

현재 저의 판단은 인용의 온전함이 증거와 책임 모두에 관한 문제라는 것입니다. 독자에게는 주장의 추적 가능한 출처가 필요하며, 주장을 제시하는 사람이나 조직은 계속 책임지고 답해야 합니다. 유창한 언어가 어느 것도 확립해 주지는 않습니다.

이 입장은 AI의 도움으로 작성된 모든 문장이 신뢰할 수 없다거나 모든 인용 오류의 결과가 같다고 주장하지 않습니다. 검증되지 않은 주장이 연구, 전문적 조언, 기관 기록 등 사람들이 의존할 수 있는 환경에 들어갈 때 우려가 커집니다.

따라서 원칙 수준에서 인간 책임의 경계는 명확합니다. 최종 출판된 주장은 책임지는 저자나 출판자에게 귀속됩니다. 생성된 참고문헌은 그들을 대신해 책임질 수 없습니다.