Ollama v0.30.10: модели Cohere Command A и North на Apple Silicon через MLX

Ollama

инструменты официальный 1 ист. ~1 мин

Ollama v0.30.10 позволяет запускать Cohere Command A и семейство моделей North на Apple Silicon с использованием движка MLX, расширяя число моделей, получающих преимущества от памятно-эффективного ускорения MLX. Релиз также обновляет встроенный движок llama.cpp до сборки b9672.

Почему это важно

Позволяет пользователям Apple Silicon запускать дополнительные модели фронтирного класса локально без обращения к API.

Важность: 2/5

Минорная версия с добавлением поддержки движка MLX для дополнительных семейств моделей.

Источники

официальный Releases — ollama/ollama