Предрелиз Ollama запускает модели на MLX по умолчанию на Apple Silicon

Ollama

инструменты официальный 1 ист. ~1 мин

Ollama v0.40.0-rc0 делает MLX средой выполнения по умолчанию на Apple Silicon для поддерживаемых архитектур моделей, замещая путь llama.cpp на Mac в цикле предрелиза.

Почему это важно

Маршрутизация через MLX по умолчанию существенно меняет производительность локального инференса на Mac — доминирующей платформе пользователей Ollama.

Важность: 3/5

Смена движка инференса по умолчанию для доминирующего инструмента локальных LLM на Mac

ollama mlx local-inference apple

Источники

официальный Ollama v0.40.0-rc0 release notes