Orca: общая фундаментальная модель мира от BAAI, обученная на 125K часов видео
BAAI
Orca — общая фундаментальная модель мира от BAAI, обученная на 125K часов видео и 160M аннотациях событий. Вводит Next-State-Prediction как унифицированную цель обучения, сочетающую бессознательное обучение на плотных видеопереходах и сознательное обучение на событиях, описанных на естественном языке. По оценкам в задачах генерации текста, предсказания изображений и воплощённых действий превосходит специализированные базовые модели сравнимого масштаба по всем трём модальностям.
Почему это важно
Самая высоко оцениваемая статья в HuggingFace Daily Papers 1 июля с 187 голосами. Предлагает единую архитектуру модели, охватывающую язык, зрение и действие — шаг в сторону общих моделей мира вместо задачно-специфических архитектур.
Важность: 4/5
187 голосов в HF Daily Papers; общая модель мира, объединяющая текст, зрение и воплощённые действия в единой архитектуре