Enoki: многоуровневое детектирование галлюцинаций из одного open IE-конвейера

Skoltech

исследования официальный 2 ист. ~1 мин

Enoki унифицирует детектирование галлюцинаций на уровне утверждений и на уровне спанов: извлекая привязанные к тексту реляционные факты через открытое извлечение информации, проверяя их против свидетельств и отображая неподтверждённые факты обратно на галлюцинированные спаны без отдельного шага выравнивания. Подход конкурентоспособен с тяжёлыми по LLM claim-level-конвейерами при меньшей стоимости, выигрывает в локализации на уровне спанов и сущностей и поставляется с датасетом двойной гранулярности EnokiQA.

Почему это важно

Практичная и дешёвая локализация галлюцинаций, дающая одновременно интерпретируемые утверждения и точные спаны из единого фреймворка.

Важность: 2/5

Полезный фреймворк локализации галлюцинаций с опубликованным датасетом; скромный отклик

Источники

официальный HuggingFace Daily Papers: Enoki