Assignment （MLC 作业 1）答案 & Bug 解决思路 分享

[GeLee-Q]

作业链接：

https://github.com/GeLee-Q/TVM_Practice/blob/master/MLC_HW_01.ipynb

画图函数的Bug:

• 在colab中会报错

def imshow(img):
    img = img / 2 + 0.5
    # npimg = img.numpy()
    # plt.imshow(np.transpose(npimg, (1, 2, 0)))
    img = img.reshape(1, 28, 28).numpy()
    plt.figure()
    plt.imshow(img[0])  

实践1 ：从Pytorch中迁移模型：

问题1：

tvm.topi.nn.pool2d的文档并没有指定dilation的参数格式

从结果倒推来看是 (*list/tuple of two ints*)

实践2 ：

问题1：emit & call_tir 如何混合调用torch

由于作业和文档并没有详细解释blockbuilder 如何使用，但是助教和同学们热心讨论解决了这个问题。

参考讨论 mlc-ai/mlc-en#31

lv1_0 = bb.emit(relax.op.call_tir(relax.extern("env.conv2d"), (x, conv2d_weight),(4, 32, 26, 26), dtype="float32"))

问题2 ： Torch 的内存指向问题

问题：如果直接out_torch = torch.nn.functional.conv2d(...), 那out_torch指向的内存地址将产生变化，意味着out_torch 不再指向out预期的地址。

mlc-ai/mlc-en#31 (reply in thread)

谢谢这位同学的热心解答：

mlc-ai/mlc-en#31 (reply in thread)

@tvm.register_func("env.conv2d", override=True)
def torch_conv2d(
    x: tvm.nd.NDArray,
    w: tvm.nd.NDArray,
    out : tvm.nd.NDArray
):
    x_torch = torch.from_dlpack(x)
    w_torch = torch.from_dlpack(w)
    out_torch = torch.from_dlpack(out)
    t = torch.nn.functional.conv2d(x_torch, w_torch)
    out_torch.copy_(t)

实践3 ： 端到端模型中的程序变换

问题1: 循环的fuse ，spilt

• 需要参考答案对循环进行切分，然后混合

• 参考这位同学的切分方法 Question concerning assignment 4, with respect to `Section 4` mlc-en#32

问题2 ： parallel & vectorize

• 在上一个写TensorIR的作业里就注意到 parallel操作需要放在 decompose_reduction 前面. 参考助教和同学们的讨论

• 做这个作业的时候发现， 在变换的结尾部分，无论如何都没法去vectorizei2_1_i3_1_fused

• 参考 parallel 的文档 和 vectorize 的文档

  • 1. The scope block that the loop is in should have stage-pipeline property
  • 2. All the blocks under the loop are complete blocks or reduction blocks, and have affine bindings
  • 3. For each block under the loop, the loop can only be contained in data-parallel block iters’ bindings

  发现二者的要求近乎一模一样，所以这才感觉过来，这两个操作可能都要放到decompose_reduction

  前面去。 果然，最后去处理 decompose_reduction 让变换和标答近乎一致了。