LLAMA_MAX_EXPERTS 384

gabriellarson · web-flow · commit 5d10e3ad0b1b · 2025-07-12T13:59:26.000-05:00
diff --git a/src/llama-hparams.h b/src/llama-hparams.h
@@ -6,7 +6,7 @@
 
 // bump if necessary
 #define LLAMA_MAX_LAYERS  512
-#define LLAMA_MAX_EXPERTS 256  // DeepSeekV3
+#define LLAMA_MAX_EXPERTS 384  // Kimi-K2
 
 enum llama_expert_gating_func_type {
     LLAMA_EXPERT_GATING_FUNC_TYPE_NONE    = 0,
