关于IMAGE_MAX_TOKEN_NUM

[fyb99]

Checklist / 检查清单

• I have searched existing issues, and this is a new question or discussion topic. / 我已经搜索过现有的 issues，确认这是一个新的问题与讨论。

Question Description / 问题描述

采用cache数据 然后读取缓存数据进行sft Qwen3.5 的实验，是通过设定IMAGE_MAX_TOKEN_NUM=xxx 可以自动缩放输入图像大小到MAX_TOKEN的对应大小吗

[Jintao-Huang]

是的，cache数据中只有一个length。真实encode在训练中异步进行。

[fyb99]

想请问下设定IMAGE_MAX_TOKEN_NUM和设定IMAGE_MAX_PIXEL作用是等效的吗，框架自己可以进行token数量和图像的转换？

[fyb99]

您好我目前以cache数据之后 训练的方式 如果想控制输入图像最大为1024*1024的情况，是否只需要在以下两个脚本中指定--max_pixels 1048576 (1024 * 1024)即可？
swift export
--model Qwen/Qwen3.5-4B
.....
--max_pixels 1048576 \

swift sft
--model Qwen/Qwen3.5-4B
--tuner_type full \
....
--deepspeed zero2
--use_liger_kernel true
--max_pixels 262144
--attn_impl flash_attn

[fyb99]

之前cache不设定--max_pixels 1048576 \是可以顺利完成的 今天设定之后 cache到最后突然崩溃了