할루시네이션(환각)

할루시네이션은 입력 내용이나 실제 사실에 충실하지 않은 생성 콘텐츠를 말합니다. Ji 외(2023)의 서베이 논문은 원문과 모순되는 내재적 할루시네이션과 원문으로 검증할 수 없는 외재적 할루시네이션을 구분하고, 다양한 자연어 생성 작업에서 나타나는 원인을 정리했습니다.

할루시네이션은 모델이 사실이 아니라 그럴듯한 다음 내용을 만들도록 최적화되어 있기 때문에 발생합니다. 검색 기반 근거 제시(그라운딩), 더 나은 학습, 검증을 통해 줄일 수는 있지만 완전히 없앨 수는 없습니다.

MultipleChat에서 중요한 이유

MultipleChat은 여러 모델을 비교하고 검색된 출처에 근거해 답하게 함으로써, 근거 없는 주장이 사용자에게 전달되기 전에 모델 간 의견 차이를 드러내고 이를 표시해 줍니다.