update megatron shell (#4773)

Author: Jintao-Huang

docs/source/BestPractices/Qwen3最佳实践.md

@@ -354,7 +354,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen3-30B-A3B-Base \
     --eval_interval 200 \

docs/source/Instruction/Megatron-SWIFT训练.md

@@ -69,7 +69,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 10 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --max_epochs 1 \
     --save megatron_output/Qwen2.5-7B-Instruct \

docs/source_en/BestPractices/Qwen3-Best-Practice.md

@@ -358,7 +358,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen3-30B-A3B-Base \
     --eval_interval 200 \

docs/source_en/Instruction/Megatron-SWIFT-Training.md

@@ -70,7 +70,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 10 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --max_epochs 1 \
     --save megatron_output/Qwen2.5-7B-Instruct \

examples/train/megatron/base_to_chat.sh

@@ -14,7 +14,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen2.5-14B \
     --eval_interval 200 \

examples/train/megatron/dense/72b.sh renamed to examples/train/megatron/dense/72b_offload.sh

@@ -18,7 +18,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen2.5-72B-Instruct \
     --eval_interval 500 \

examples/train/megatron/dense/qwen3_32b.sh

@@ -18,7 +18,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen3-32B \
     --eval_interval 500 \

examples/train/megatron/long_text.sh

@@ -19,7 +19,7 @@ megatron sft \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen2.5-7B \
     --eval_interval 200 \

examples/train/megatron/moe/qwen3_moe.sh

@@ -18,12 +18,11 @@ megatron sft \
     --recompute_granularity full \
     --recompute_method uniform \
     --recompute_num_layers 1 \
-    --train_iters 2000 \
-    --eval_iters 50 \
+    --max_epochs 3 \
     --finetune true \
     --cross_entropy_loss_fusion true \
     --lr 1e-5 \
-    --lr_warmup_iters 100 \
+    --lr_warmup_fraction 0.05 \
     --min_lr 1e-6 \
     --save megatron_output/Qwen3-30B-A3B-Base \
     --eval_interval 200 \

examples/train/megatron/moe/qwen3_moe_offload.sh

@@ -0,0 +1,34 @@
+# 28s/it; 4 * 75GiB
+NPROC_PER_NODE=4 \
+CUDA_VISIBLE_DEVICES=0,1,2,3 \
+megatron sft \
+    --load Qwen3-30B-A3B-Base-mcore \
+    --dataset 'liucong/Chinese-DeepSeek-R1-Distill-data-110k-SFT' \
+    --expert_model_parallel_size 4 \
+    --moe_grouped_gemm true \
+    --moe_shared_expert_overlap true \
+    --moe_aux_loss_coeff 0.01 \
+    --micro_batch_size 1 \
+    --global_batch_size 16 \
+    --packing true \
+    --recompute_granularity full \
+    --recompute_method uniform \
+    --recompute_num_layers 1 \
+    --finetune true \
+    --cross_entropy_loss_fusion true \
+    --lr 1e-5 \
+    --lr_warmup_fraction 0.05 \
+    --min_lr 1e-6 \
+    --save megatron_output/Qwen3-30B-A3B-Base \
+    --eval_interval 200 \
+    --save_interval 200 \
+    --max_length 8192 \
+    --max_epochs 3 \
+    --num_workers 8 \
+    --dataset_num_proc 8 \
+    --no_save_optim true \
+    --no_save_rng true \
+    --sequence_parallel true \
+    --optimizer_cpu_offload true \
+    --use_precision_aware_optimizer true \
+    --attention_backend flash