Alucinação é o conteúdo gerado que não é fiel à entrada ou aos fatos do mundo. O levantamento de Ji et al. (2023) distingue as alucinações intrínsecas, que contradizem a fonte, das extrínsecas, que não podem ser verificadas com base nela, e cataloga suas causas em diversas tarefas de geração de linguagem natural.
As alucinações surgem porque um modelo é otimizado para continuações plausíveis, e não para a verdade. Elas são reduzidas — não eliminadas — com ancoragem em fontes recuperadas, treinamento melhor e verificação.
Por que isso importa no MultipleChat
Comparar vários modelos e ancorá-los em fontes recuperadas permite que o MultipleChat revele divergências e sinalize afirmações sem respaldo antes que elas cheguem ao usuário.