[FEAT] lr scheduler 다양화 및 sweep 사용 #26
Description
Background
- 현재 lr scheduler 를 plateau, linear_warmup 이렇게 두 가지를 사용하고 있음
- lr 를 더 늘리고, sweep 도 사용해볼 것임
To do
- scheduler 찾기
- dkt/args.yaml 에 scheduler 를 위한 args
- dkt/sweep.yaml 생성
- wandb 에서 sweep 사용하도록 세팅
{{ message }}