有人成功复现了吗，数据问题有没有解

[yigeyellow]

复现出现的问题好多，特别是数据上，从预处理到实际网络train的代码，数据格式不一样，文件后缀不同，文件名找不到，论文复现不了。但是审稿人又要求引用，传统方法非预训练模型根本比不过。只求如何能复现学习一下

[LeMei]

复现出现的问题好多，特别是数据上，从预处理到实际网络train的代码，数据格式不一样，文件后缀不同，文件名找不到，论文复现不了。但是审稿人又要求引用，传统方法非预训练模型根本比不过。只求如何能复现学习一下

抱歉，这个直接load pkl文件就可以，已经处理好了，pkl内部存储了train, valid和test数据，存储格式为字典，你可以先load下pkl文件看一下key是什么，然后再进行操作。希望您rebuttal顺利!

[LeMei]

复现出现的问题好多，特别是数据上，从预处理到实际网络train的代码，数据格式不一样，文件后缀不同，文件名找不到，论文复现不了。但是审稿人又要求引用，传统方法非预训练模型根本比不过。只求如何能复现学习一下

这整个工作是以t5为backbone，在t5的每层之间加入了adapter层，固定t5的其他参数，只训练adapter的参数。具体如何修改t5的模型结构，可以看modeling_t5.py，对于如何只对adapter层的参数进行优化，是通过识别parameter_name中是否包含adapter进行的，希望能帮助到您。

另外，如果实在比不过，可以从其他角度---比如参数量小的多，但效果并没有差很多或者模态缺失的情况、数据存在bias等情况下您的模型效果表现更为稳定来rebuttal。目前的话，感觉应该用一些更新的模型来做，我审的一些稿子中，就有很多还在用bert，lstm来做编码器，但目前各种主流模态都有了更强的选择，应该尽量选择这种，以免被审稿人问到。