Skip to content

Commit 2a782fe

Browse files
Youngdong2harheem
andauthored
Apply suggestions from code review
Co-authored-by: Harheem Kim <[email protected]>
1 parent 6a5fad8 commit 2a782fe

File tree

1 file changed

+4
-4
lines changed
  • chapters/ko/chapter3

1 file changed

+4
-4
lines changed

chapters/ko/chapter3/3.mdx

Lines changed: 4 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -64,7 +64,7 @@ from transformers import AutoModelForSequenceClassification
6464
model = AutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=2)
6565
```
6666

67-
[Chapter 2](/course/chapter2)와 달리 이 사전훈련된 모델을 인스턴스화하면 경고 메시지가 나타나는 것을 확인할 수 있습니다. 이는 BERT가 문장 쌍 분류를 위해 사전 훈련되지 않았기 때문에, 사전 훈련된 모델의 헤드가 제거되고 시퀀스 분류에 적합한 새로운 헤드가 추가되었기 때문입니다. 경고는 일부 가중치(제거된 사전 훈련 헤드에 해당하는 가중치)가 사용되지 않았고, 일부 다른 가중치(새로운 헤드용)가 무작위로 초기화되었다는 것을 나타냅니다. 마지막으로 모델을 훈련하도록 권장하는데, 이것이 바로 우리가 지금 할 일입니다.
67+
[Chapter 2](/course/chapter2)와 달리 이 사전 훈련된 모델을 인스턴스화하면 경고 메시지가 나타나는 것을 확인할 수 있습니다. 이는 BERT가 문장 쌍 분류를 위해 사전 훈련되지 않았기 때문에, 사전 훈련된 모델의 헤드가 제거되고 시퀀스 분류에 적합한 새로운 헤드가 추가되었기 때문입니다. 경고는 일부 가중치(제거된 사전 훈련 헤드에 해당하는 가중치)가 사용되지 않았고, 일부 다른 가중치(새로운 헤드용)가 무작위로 초기화되었다는 것을 나타냅니다. 마지막으로 모델을 훈련시키라는 메시지가 나오는데, 바로 지금부터 그 작업을 시작하겠습니다.
6868

6969
모델이 준비되면, 지금까지 구성한 모든 객체(`model`, `training_args`, 훈련 및 검증 데이터셋, `data_collator`, `processing_class`)를 전달하여 `Trainer`를 정의할 수 있습니다. `processing_class` 매개변수는 비교적 최근에 추가된 기능으로, `Trainer`에게 어떤 토크나이저를 사용해 데이터를 처리할지 알려줍니다.
7070

@@ -81,15 +81,15 @@ trainer = Trainer(
8181
)
8282
```
8383

84-
`processing_class` 토크나이저를 전달하면, `Trainer`가 기본적으로 `DataCollatorWithPadding``data_collator`로 사용합니다. 따라서 이 경우에는 `data_collator=data_collator` 줄을 생략할 수 있지만, 처리 파이프라인의 중요한 부분을 보여드리기 위해 여기에 포함했습니다.
84+
`processing_class` 토크나이저를 전달하면, `Trainer`가 기본적으로 `DataCollatorWithPadding``data_collator`로 사용합니다. 따라서 이 경우에는 `data_collator=data_collator` 줄을 생략할 수 있지만, 데이터 처리 파이프라인의 중요한 부분을 보여드리기 위해 코드에 포함했습니다.
8585

8686
<Tip>
8787

88-
📖 **더 자세히 알아보기**: Trainer 클래스와 그 매개변수에 대한 포괄적인 세부 정보는 [Trainer API 문서](https://huggingface.co/docs/transformers/main/en/main_classes/trainer)를 방문하고 [훈련 쿡북 레시피](https://huggingface.co/learn/cookbook/en/fine_tuning_code_llm_on_single_gpu)에서 고급 사용 패턴을 살펴보세요.
88+
📖 **더 자세히 알아보기**: Trainer 클래스와 그 매개변수에 대한 자세한 내용은 [Trainer API 문서](https://huggingface.co/docs/transformers/main/en/main_classes/trainer)를 방문하고 [훈련 쿡북 레시피](https://huggingface.co/learn/cookbook/en/fine_tuning_code_llm_on_single_gpu)에서 고급 사용 패턴을 살펴보세요.
8989

9090
</Tip>
9191

92-
데이터셋에서 모델을 미세 조정하려면 `Trainer``train()` 메서드를 호출하기만 하면 됩니다:
92+
데이터셋에서 모델을 미세 조정하려면 `Trainer``train()` 메소드를 호출하기만 하면 됩니다.
9393

9494
```py
9595
trainer.train()

0 commit comments

Comments
 (0)