Metis: базовая модель памяти
MemTensor, Renmin University, NUS, Shanghai Jiao Tong University, Tongji University
Metis представляет 'базовую модель памяти' (memory foundation model), которая наделяет трансформеры постоянным, динамически развивающимся нативным состоянием памяти через Metis Block (Local Memory Block плюс Hyper Memory Block), встраиваемый в слои трансформера, избегая линейно растущих контекстных окон.
Почему это важно
Набрала 255 голосов на HuggingFace Daily Papers; предлагает архитектурную альтернативу подходам на основе внешней памяти/RAG для долговременной памяти агентов, код открыт.
Важность: 3/5
Заметная статья с 255 голосами на HuggingFace Daily Papers (применена надбавка за порог >=100).
Источники
официальный
Metis: Memory Foundation Model