Skip to content

PaddleNLP v2.2.1

Compare
Choose a tag to compare
@wawltor wawltor released this 17 Dec 09:50
· 4562 commits to develop since this release
f56e429

New Features

中文特色小模型 PP-MiniLM 发布 #1403

  • 推理速度快,推理速度是BERT-base(12L768H) 4.2倍
  • 模型参数少,模型参数量相对BERT-base(12L768H) 减少52%
  • 模型精度高,在中文语言理解评测基准 CLUE 7 个分类数据集上精度比 BERT-base(12L768H) 高 0.32

产业级语义检索框架发布 #1463

  • 一站式提供高可用的训练&预测语义检索框架,同时集成高性能 ANN 引擎 Milvus
  • 召回模型方案覆盖有监督、无监督多种数据场景,支持只基于无监督数训练语义索引模型

Taskflow

  • Taskflow 新增中文对话PLATO-mini任务,支持多轮对话记忆功能 #1383

FasterGeneration

  • 生成解码框架新增注意力机制QKV融合,解码性能最高提升 8% #1455

Bugfix

  • 修复使用Paddle2.2及其以下版本兼容性问题 #1450
  • 修复MSRA_NER示例中 max_steps 选项,不生效的问题 #1451
  • 修复ERNIE-1.0模型预训练部分参数,增强预训练稳定性 #1344
  • 修复EFL及ernie-matching在windows下的静态图预测问题 #1480
  • 修复Taskflow文本相似度计算任务windows兼容性问题 #1465
  • 修复LayoutXLM模型加载时无法找到yaml文件的问题 #1454
  • 修复SqueezeBert模型vocab等资源路径的缺失和typo #1454
  • 修复FasterGeneration下diversity rate的结果错误的问题 #1477
  • 修复FasterGeneration下GPT模型的repetition_penalty被屏蔽的问题 #1471