Enoki: многоуровневое детектирование галлюцинаций из одного open IE-конвейера
Skoltech
Enoki унифицирует детектирование галлюцинаций на уровне утверждений и на уровне спанов: извлекая привязанные к тексту реляционные факты через открытое извлечение информации, проверяя их против свидетельств и отображая неподтверждённые факты обратно на галлюцинированные спаны без отдельного шага выравнивания. Подход конкурентоспособен с тяжёлыми по LLM claim-level-конвейерами при меньшей стоимости, выигрывает в локализации на уровне спанов и сущностей и поставляется с датасетом двойной гранулярности EnokiQA.
Почему это важно
Практичная и дешёвая локализация галлюцинаций, дающая одновременно интерпретируемые утверждения и точные спаны из единого фреймворка.
Важность: 2/5
Полезный фреймворк локализации галлюцинаций с опубликованным датасетом; скромный отклик
Источники
официальный
HuggingFace Daily Papers: Enoki