HierarchicalContextASA/tsne.sh at main · a2d8a4v/HierarchicalContextASA · GitHub

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
#!/usr/bin/env bash

stage=0
stop_stage=10000

data_dir=nictjle
cache_dir=cache/NICTJLE
glove_path=glove/glove.6B.300d.txt
save_root=output/NICTJLE
log_path=log/NICTJLE
sentaspara=para
model_type=HSG
problem_type=regression
head=linear
wandb=
pred_method=
CUDA=0
BCUDA=0

. parse_options.sh
set -euo pipefail


if [ $stage -le 0 ] && [ $stop_stage -ge 0 ] ; then
    # lrs="1e-5 8e-6 6e-6 4e-6 2e-6"
    lrs="1e-5"
    pred_method=all_s
    for lr in $lrs; do
        PROTOCOL_BUFFERS_PYTHON_IMPLEMENTATION=python python3 tsne.py --cuda --gpu $CUDA --bert_gpu $BCUDA --data_dir $data_dir --cache_dir $cache_dir --embedding_path $glove_path --model HSDG --save_root $save_root --log_root $log_path --tsne --batch_size 1 --test_model trainbestmodel \
            --sentaspara sent \
            --doc_max_timesteps 88 \
            --problem_type regression \
            --reweight \
            --rw_alpha 2 \
            --head $head \
            --word_embedding \
            --pmi_window_width 5 \
            --interviewer \
            --pred_method $pred_method \
            --cefr_word \
            --cefr_info graph_init \
            --bert \
            --bert_model_path roberta-base \
            --bert_roberta_to_long \
            --sent_max_len 1600 \
            --lr $lr \
            --debug
    done
fi

if [ $stage -le 1 ] && [ $stop_stage -ge 1 ] ; then
    lrs="1e-5"
    # rlrs="1e-5 8e-6 6e-6 4e-6 2e-6" # need rerun
    pred_method=test_wdc
    for lr in $lrs; do
        PROTOCOL_BUFFERS_PYTHON_IMPLEMENTATION=python python3 tsne.py --cuda --gpu $CUDA --bert_gpu $BCUDA --data_dir $data_dir --cache_dir $cache_dir --embedding_path $glove_path --model HSDG --save_root $save_root --log_root $log_path --tsne --batch_size 1 --test_model trainbestmodel \
            --sentaspara sent \
            --doc_max_timesteps 88 \
            --problem_type regression \
            --reweight \
            --rw_alpha 2 \
            --head $head \
            --word_embedding \
            --pmi_window_width 5 \
            --interviewer \
            --pred_method $pred_method \
            --cefr_word \
            --cefr_info graph_init \
            --bert \
            --bert_model_path roberta-base \
            --bert_roberta_to_long \
            --sent_max_len 1600 \
            --lr $lr \
            --debug
    done
fi


if [ $stage -le 2 ] && [ $stop_stage -ge 2 ] ; then
    lrs="1e-5"
    # done 1e-5
    # elrs="8e-6 6e-6 4e-6 2e-6"
    pred_method=hec_s
    for lr in $lrs; do
        PROTOCOL_BUFFERS_PYTHON_IMPLEMENTATION=python python3 tsne.py --cuda --gpu $CUDA --bert_gpu $BCUDA --data_dir $data_dir --cache_dir $cache_dir --embedding_path $glove_path --model HSDG --save_root $save_root --log_root $log_path --tsne --batch_size 1 --test_model trainbestmodel \
            --sentaspara sent \
            --doc_max_timesteps 88 \
            --problem_type regression \
            --reweight \
            --rw_alpha 2 \
            --head $head \
            --word_embedding \
            --pmi_window_width 5 \
            --interviewer \
            --pred_method $pred_method \
            --cefr_word \
            --cefr_info graph_init \
            --bert \
            --bert_model_path roberta-base \
            --bert_roberta_to_long \
            --sent_max_len 1600 \
            --lr $lr \
            --debug
    done
fi

if [ $stage -le 3 ] && [ $stop_stage -ge 3 ] ; then
    lrs="1e-5"
    # lrs="1e-5 8e-6 6e-6 4e-6 2e-6"
    pred_method=sde_s
    for lr in $lrs; do
        PROTOCOL_BUFFERS_PYTHON_IMPLEMENTATION=python python3 tsne.py --cuda --gpu $CUDA --bert_gpu $BCUDA --data_dir $data_dir --cache_dir $cache_dir --embedding_path $glove_path --model HSDG --save_root $save_root --log_root $log_path --tsne --batch_size 1 --test_model trainbestmodel \
            --sentaspara sent \
            --doc_max_timesteps 88 \
            --problem_type regression \
            --reweight \
            --rw_alpha 2 \
            --head $head \
            --word_embedding \
            --pmi_window_width 5 \
            --interviewer \
            --pred_method $pred_method \
            --cefr_word \
            --cefr_info graph_init \
            --bert \
            --bert_model_path roberta-base \
            --bert_roberta_to_long \
            --sent_max_len 1600 \
            --lr $lr \
            --debug
    done
fi