File tree Expand file tree Collapse file tree 6 files changed +16
-5
lines changed Expand file tree Collapse file tree 6 files changed +16
-5
lines changed Original file line number Diff line number Diff line change @@ -77,7 +77,7 @@ ESMM是发表在 SIGIR’2018 的论文[《Entire Space Multi-Task Model: An E
7777<img align =" center " src =" ../../../doc/imgs/esmm.png " >
7878<p >
7979
80- ### 效果复现
80+ ## 效果复现
8181为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
8282在全量数据下模型的训练指标如下:
8383| 模型 | auc_ctr | batch_size | epoch_num | Time of each epoch |
Original file line number Diff line number Diff line change @@ -76,7 +76,7 @@ MMOE模型刻画了任务相关性,基于共享表示来学习特定任务的
7676<img align =" center " src =" ../../../doc/imgs/mmoe.png " >
7777<p >
7878
79- ### 效果复现
79+ ## 效果复现
8080为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
8181在全量数据下模型的指标如下:
8282| 模型 | auc_marital | batch_size | epoch_num | Time of each epoch |
Original file line number Diff line number Diff line change 3838## 模型简介
3939多任务模型通过学习不同任务的联系和差异,可提高每个任务的学习效率和质量。但在多任务场景中经常出现跷跷板现象,即有些任务表现良好,有些任务表现变差。 论文[ 《Progressive Layered Extraction (PLE): A Novel Multi-Task Learning (MTL) Model for Personalized Recommendations》] ( https://dl.acm.org/doi/abs/10.1145/3383313.3412236 ) ,论文提出了Progressive Layered Extraction (简称PLE),来解决多任务学习的跷跷板现象。
4040
41+ ## 模型准备
4142我们在Paddlepaddle定义PLE的网络结构,在开源数据集Census-income Data上验证模型效果。
42-
4343数据的格式如下:
4444生成的格式以逗号为分割点
4545```
@@ -70,8 +70,14 @@ python -u ../../../tools/static_infer.py -m config.yaml
7070```
7171
7272## 模型组网
73+ 为了解决跷跷板和负迁移的现象,[ PLE] ( https://dl.acm.org/doi/abs/10.1145/3383313.3412236 ) 提出了一种共享结构设计的渐进式分层提取模型。其包含两部分, 一部分是一种显式区分共享专家塔和特定任务专家塔的门控 (CGC) 模型,另一部分是由单层CGC结构扩展到多层的PLE模型,
74+ 模型主要结构如下:
75+ <p align =" center " >
76+ <img align =" center " src =" ../../../doc/imgs/ple.png " >
77+ <p >
78+
7379
74- ### 效果复现
80+ ## 效果复现
7581为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
7682在全量数据下模型的指标如下:
7783| 模型 | auc_marital | batch_size | epoch_num | Time of each epoch |
Original file line number Diff line number Diff line change @@ -72,8 +72,13 @@ python -u ../../../tools/static_infer.py -m config.yaml
7272```
7373
7474## 模型组网
75+ 模型结构如下:
76+ <p align =" center " >
77+ <img align =" center " src =" ../../../doc/imgs/shared-bottom.png " >
78+ <p >
7579
76- ### 效果复现
80+
81+ ## 效果复现
7782为了方便使用者能够快速的跑通每一个模型,我们在每个模型下都提供了样例数据。如果需要复现readme中的效果,请按如下步骤依次操作即可。
7883在全量数据下模型的指标如下:
7984| 模型 | auc_marital | batch_size | epoch_num | Time of each epoch |
You can’t perform that action at this time.
0 commit comments