RpcExecutor

[leon062112]

目前的实现思路：

• 本地调用 SampleRemoteExecutor(model_path, seed)
• 客户端把 model_path 打包成 tar.gz → 放进 CompressedData.payload
• gRPC 调用 Execute
• 服务端解包 → 构造 GraphModule → 加载权重 → model() 推理
• 服务端把输出 tensor 变 JSON放到 stdout 返回
• 客户端把 JSON 反序列化回 torch.Tensor tuple
  这样准确吗

[lixinqi]

服务端把输出 tensor 变 JSON放到 stdout 返回

这是不对的。首先服务器端需要两个临时目录：input_workspace和output_workspace。

1. 服务器Execute()函数收到request后把数据解压到input_workspace下，然后调用request.rpc_cmd脚本。
2. request.rpc_cmd里model()执行完后，张量列表保存为.npz文件，然后保存到"output_workspace/{request.output_file_name}"里。
3. Execute()函数在request.rpc_cmd执行完之后，读取"output_workspace/{request.output_file_name}"到reply.rpc_output里。

[lixinqi]

input_workspace和output_workspace可以是request.rpc_cmd的环境变量，也可以是命令行参数。

[leon062112]

收到

[leon062112]

与冬燕对齐后，发现以下问题仍需进一步确认：

1. 目前的bug自动定位工具的产出是一系列问题模型子图，但是paddle的模型是可以直接产出单测，torch还不可以，所以目前给server传输子图样本还是单测？
2. server端不依赖graphnet代码，只对模型进行推理，执行完后，张量列表保存为.npz文件返回给client，client拿到这个结果之后具体还要做什么，在client端的运行一遍然后两者的结果进行对比吗？还是再从另一个server拿到一组结果进行对比，如何对比，会用到某些已有的代码吗？

[Xreki]

1. 目前的bug自动定位工具的产出是一系列问题模型子图，但是paddle的模型是可以直接产出单测，torch还不可以，所以目前给server传输子图样本还是单测？

中间过程都是子图，只有分解到最后，确定了问题算子之后，才会生成一个单测返回给用户。

[lixinqi]

server端不依赖graphnet代码

你先让server端的代码也依赖GraphNet，把问题化简。

client拿到这个结果之后具体还要做什么

解包出来重新反序列化成numpy的张量。

在client端的运行一遍然后两者的结果进行对比吗？还是再从另一个server拿到一组结果进行对比，如何对比，会用到某些已有的代码吗？

这个不是SampleRemoteExecutor内部要考虑的问题，这是外部接到了SampleRemoteExecutor的结果后，上层业务逻辑该考虑的问题。