Motivation
官方文档里
docker pull crpi-4crprmm5baj1v8iv.cn-hangzhou.personal.cr.aliyuncs.com/lmdeploy_dlinfer/ascend:300i-duo-latest
这个镜像地址拉取下来的是0.9.2版本 cann还是8.1.RC1版本
能不能更新归档一下 配套CANN 8.3.RC1 lmdeploy 0.11.1 昇腾300I的镜像
Related resources
No response
Additional context
我们在尝试使用lmdeploy 在Ascend 300I硬件上推理我们基于InternVL3.5-8B微调的权重,想使用到lmdeploy支持的图模式的能力,看是否能不能有比vllm更好的性能表现。