Metis: базовая модель памяти

MemTensor, Renmin University, NUS, Shanghai Jiao Tong University, Tongji University

исследования официальный 1 ист. ~1 мин

Metis представляет 'базовую модель памяти' (memory foundation model), которая наделяет трансформеры постоянным, динамически развивающимся нативным состоянием памяти через Metis Block (Local Memory Block плюс Hyper Memory Block), встраиваемый в слои трансформера, избегая линейно растущих контекстных окон.

Почему это важно

Набрала 255 голосов на HuggingFace Daily Papers; предлагает архитектурную альтернативу подходам на основе внешней памяти/RAG для долговременной памяти агентов, код открыт.

Важность: 3/5

Заметная статья с 255 голосами на HuggingFace Daily Papers (применена надбавка за порог >=100).

Источники

официальный Metis: Memory Foundation Model