File tree Expand file tree Collapse file tree 1 file changed +5
-2
lines changed Expand file tree Collapse file tree 1 file changed +5
-2
lines changed Original file line number Diff line number Diff line change @@ -180,8 +180,11 @@ ERINE-1.0-cluecorpussmall | 12L768H | 73.24(-0.54) | 74.26 | 57.24 | 60.79 | 81.
180
180
- ` ERINE-1.0-cluecorpussmall ` 复现版本,采用的是batch_size=512、steps=100w。
181
181
182
182
### 预训练模型贡献
183
- PaddleNLP为开发者提供了[ community] ( https://github.com/PaddlePaddle/PaddleNLP/tree/develop/community ) 模块,用户可以上传自己训练的模型,开源给其他用户使用。
184
- 使用本文档给出的参数配置,在CLUECorpusSmall数据集上训练,可以得到[ zhui/ernie-1.0-cluecorpussmall] ( https://github.com/PaddlePaddle/PaddleNLP/tree/develop/community/zhui/ernie-1.0-cluecorpussmall ) 参数,点击链接即可使用。
183
+ PaddleNLP为开发者提供了[ community] ( https://github.com/PaddlePaddle/PaddleNLP/blob/develop/docs/community/contribute_models/contribute_awesome_pretrained_models.rst ) 模块,用户可以上传自己训练的模型,开源给其他用户使用。
184
+ 使用本文档给出的参数配置,在CLUECorpusSmall数据集上训练,可以得到` zhui/ernie-1.0-cluecorpussmall ` 参数,可直接使用。
185
+ ``` python
186
+ model = AutoModelForMaskedLM.from_pretrained(' zhui/ernie-1.0-cluecorpussmall' )
187
+ ```
185
188
186
189
贡献预训练模型的方法,可以参考[ 贡献预训练模型权重] ( https://github.com/PaddlePaddle/PaddleNLP/blob/develop/docs/community/contribute_models/contribute_awesome_pretrained_models.rst ) 教程。
187
190
You can’t perform that action at this time.
0 commit comments