#sparse-attention
- Tencent open-sources Hy4 preview, a 770B MoE flagship with 1M context Tencent Hunyuan models-llm
- Tencent открывает исходники Hy4 preview: 770B / 49B-active MoE с Gated DSA + iHC, контекст 1M, Apache 2.0 Tencent models-llm
- Tencent Hunyuan открывает SAS — маршрутизаторы разреженного внимания, обученные end-to-end на Qwen3 Tencent Hunyuan research