支持在NPU上做推理吗

[1556900941lizerui]

想知道FG-CLIP2是否支持在NPU上做推理，我们打算在CUDA的卡上训练后放在910B3上做推理，这是否可行？若可行，要如何修改代码

[binwang777]

想知道FG-CLIP2是否支持在NPU上做推理，我们打算在CUDA的卡上训练后放在910B3上做推理，这是否可行？若可行，要如何修改代码

它支持在NPU推理，但是对于局部特征的提取需要适配，主要是针对torchvison.ops.roi_align算子:

from torch_npu.contrib.module import ROIAlign

# !NOTE only use it in NPU, for Cuda use torchvison.ops.roi_align
output_size = (1, 1)
spatial_scale = 1
sampling_ratio = 0
aligned = True
self.npu_roi_align = ROIAlign(output_size, spatial_scale, sampling_ratio, aligned=aligned)