v0.3.0

AngelSlim V0.3.0版本发布

功能升级

投机采样

• 重构Eagle3训练的trainer和数据的代码架构 #178
• 支持Qwen3-VL的Eagle3模型训练及vLLM Benchmark测试 #176
• 更新HY模型、Qwen3系列模型Eagle3训练以及vLLM Benchmark测试流程 #172 #194
• 支持HunyuanOCR、Qwen3-VL及语音ASR模型投机采样训练、Benchmark测试流程及文档 #193 #196 #201 #202 #204
• 支持语音TTS模型投机采样训练、Benchmark测试流程及文档 #198 #205

量化

• 支持HunyuanOCR模型FP8量化 #164 #166
• 支持Diffusion模型sgl_kernel的fp8-per-block量化能力 #169
• 支持Qwen2-Audio模型的FP8、INT8量化 #191

Bug fix及其他

• 修复INT4-AWQ量化在低内存模式下的一些bug #179 #184
• 修复Qwen3-VL-235B模型FP8 Block-wise量化的OOM问题 #180 #185