3주차 과제

[GirinMan]

세 번째 과제: Fashion MNIST 분류 모델 학습 및 평가

회합 자료 링크: #1 (comment)

• 이번에도 colab notebook을 실행해보면서, MNIST와 유사한 Fashion MNIST 분류를 수행하는 모델을 학습시켜 봅시다!
• 노트북 실행 방법은 지난 회합 자료 마지막 부분을 참고하세요.

Colab Python 노트북을 사용한 모델 학습 코드 구성하기

train_mnist.ipynb
train_fashion_mnist.ipynb

• Google 계정 로그인 후 colab에 접속해서 현재 레포지토리의 /Week3/train_mnist.ipynb와 /Week3/train_fashion_mnist.ipynb 노트북을 실행해보면서 아래와 같은 단계로 과제를 진행해 주세요.
• 회합 시간에 다뤘던 MNIST 데이터와 유사하게, Fashion MNIST 역시 28*28 크기의 흑백 이미지 데이터입니다.
• 기존 모델 학습 코드를 동일하게 활용해도 좋고, 모델을 더 잘 학습시키기 위한 아이디어가 있다면 반영해도 좋아요!

Step 1. MNIST 데이터 분류 문제 실습

• 회합 시간에 다뤘던 MNIST 데이터 분류 노트북을 실행해보면서, 데이터셋은 어떻게 불러와지는지, 어떤 전처리 작업을 거치는지, 모델은 어떻게 구성되었는지 살펴보도록 합시다.

Step 2. Fashion MNIST 데이터 분류 모델 학습시키기

• Fashion MNIST 데이터셋을 불러오고 확인할 수 있도록 미리 colab 노트북을 준비해 두었어요.
• 데이터셋을 이리저리 살펴보고, MNIST와 유사하게 분류를 잘 수행할 수 있는 모델을 설계해서 학습을 진행하고, test 데이터로 평가한 결과를 공유해주세요!

[GirinMan]

과제 제출 예시
내용은 꼭 아래처럼 할 필요 없이 조별로 자유롭게 쓰시면 됩니다~!

0조

Fashion MNIST 학습 결과

• 사용한 모델

model = nn.Sequential(
    nn.Linear(784, 128),
    nn.ReLU(),
    nn.Linear(128, 10)
)

• 학습 결과
  Train accuarcy: 00%
  Test accuracy: 00%
• 학습 결과 스크린샷: (학습을 진행해봤다면 첨부해주세요)

[t2easure]

2조

Fashion MNIST 학습 결과

1.
- 사용한 모델

레이어를 하나 추가해 보았습니다.

- 학습 결과
Train accuracy : 87.58%
Test accuracy : 85.84%

- 학습 결과 스크린샷:

2.
- 사용한 모델


레이어 수를 늘리고, Epoch수를 20개로 늘려보았습니다.

- 학습 결과
Train accuracy : 89.17%
Test accuracy : 87.28%

- 학습 결과 스크린샷:

3.
- 사용한 모델

기존 모델에서 레이어를 추가하고 epoch 수를 늘려 학습을 더 많이 진행했습니다.

- 학습 결과
Train accuracy: 90.36%
Test accuracy: 86.91%

- 학습 결과 스크린샷:

[kimseongah]

5조

1. 조하준
   - linear 1개 : train 85.59%, test 85.73%
   model = nn.Sequential(
   nn.Linear(784, 128),
   nn.ReLU(),
   nn.Linear(128, 10)
   )
   
   - linear 2개 : train 88.00% test 86.03%
   model = nn.Sequential(
   nn.Linear(784, 128),
   nn.ReLU(),
   nn.Linear(128, 64),
   nn.ReLU(),
   nn.Linear(64, 10)
   )
   
   - linear 3개 : train 88.75% test 86.69%
   

2. 김성아
   - 간단한 CNN : train 94.46% test 90%
   
   

3. 김승관
   - linear 4개 : train 89.83% test 87.57%
   model = nn.Sequential(
   nn.Linear(784, 512),
   nn.ReLU(),
   nn.Linear(512, 256),
   nn.ReLU(),
   nn.Linear(256, 128),
   nn.ReLU(),
   nn.Linear(128, 64),
   nn.ReLU(),
   nn.Linear(64, 10)
   )
   

4. 윤호진
   - linear 6개 : train 99.29%, test 97.41%
   
   

5. 김민성
   - linear 2개 : train 87.83%, test 86.01%
   

[kimna428]

1조입니당
1.
-사용한 모델

linear 레이어 5개

-학습 결과
Train accuracy: 86.64%
Train accuracy: 84.89%

-학습 결과 스크린샷:

-사용한 모델

ReLU 대신 CELU를 사용했습니다

-학습결과
Train accuracy: 87.30%
Train accuracy: 85.78%

-학습 결과 스크린샷:

[YUNHYUNWOO]

3조

사용한 모델: 레이어와 노드의 개수를 늘려보았습니다.

학습 과정

테스트 결과

[ymnseol]

4조

Fashion MNIST 학습 결과

1. 표지원

• 두가지 간단한 모델로 학습 및 평가(학습 평가 코드는 MNIST와 유사)를 진행했는데,
  • 기존 모델은 단순히 Linear 계층 몇개 사이에 활성화 함수 ReLU를 적용한 모델이고,
  • 두번째 모델은, 과적합 방지용으로 Dropout과 log_softmax 함수를 적용하고 계층을 조금 늘려서 정확도를 소폭 올린 모델입니다!

모델

model = nn.Sequential(
    nn.Linear(28 ** 2, 512),
    nn.ReLU(),
    # 1. Dropout 적용 (20퍼만 버리도록)
    nn.Dropout(p=0.2),
    # 2. 계층 수 늘렸다 !
    nn.Linear(512, 256),
    nn.ReLU(),
    nn.Dropout(p=0.2),
    nn.Linear(256, 10),
    # 3. 일반 Softmax 말고 log_softmax로 변경
    nn.LogSoftmax(dim=1)
)

학습 결과
Train accuarcy: 91.86%
Test accuracy: 88.25%

학습 결과 스크린샷

2. 김율희

• 실습 때 사용했던 MNIST 학습 모델에서 layer를 추가하고, 학습 전 데이터를 normalize했습니다.

모델

model = nn.Sequential(
    nn.Linear(784, 512),
    nn.ReLU(),
    nn.Linear(512, 128),
    nn.ReLU(),
    nn.Linear(128, 64),
    nn.ReLU(),
    nn.Linear(64, 10)
)

학습 결과
Train accuracy: 91.68%
Test accuracy: 88.87%

학습 결과 스크린샷

3. 강다형

• 레이어 수를 늘리고 Regularization과 Batch normalization을 적용해보았습니다.
  • regulariaztion을 과하게 설정하면 train accuracy가 많이 낮아짐을 확인할 수 있었습니다.

모델

model = nn.Sequential(
    nn.Linear(784, 256),
    nn.BatchNorm1d(256),
    nn.ReLU(),
    #nn.Dropout(0.2),
    nn.Linear(256, 128),
    nn.BatchNorm1d(128),
    nn.ReLU(),
    #nn.Dropout(0.2),
    nn.Linear(128, 64),
    nn.BatchNorm1d(64),
    nn.ReLU(),
    #nn.Dropout(0.2),
    nn.Linear(64, 10)
)

학습 결과
(batch normalization만 적용)
Train accuracy: 93.82%
Test accuracy: 88.31%

학습 결과 스크린샷

4. 김재명

• Flatten으로 일차원벡터로 변환하고 입력해봤습니다.

학습 결과
Train accuracy: 92%
Test accuracy: 88%

5. 설유민

• BatchNorm1d 및 Dropout(p=0.1)을 적용하였고,
• Linear layer 개수를 4개로 늘렸습니다!
• 20 epochs로 설정하였고,
• scheduler로 cosine annealing을 적용하였는데 결과는 그다지 좋지 못하네요 :(
• 후반부에 train loss가 다시 튀는 모습을 보여서 조정이 필요할듯합니다!
  • Early stopping을 적용해볼 수도 있을 것 같고요!

모델

model = nn.Sequential(
        nn.Linear(784, 512),
        nn.BatchNorm1d(512),
        nn.ReLU(),
        nn.Dropout(0.1),
        nn.Linear(512, 256),
        nn.BatchNorm1d(256),
        nn.ReLU(),
        nn.Dropout(0.1),
        nn.Linear(256, 64),
        nn.BatchNorm1d(64),
        nn.ReLU(),
        nn.Dropout(0.1),
        nn.Linear(64, 10),
        nn.Softmax(dim=-1),
    )

학습 결과
Train accuracy: 87.84%
Test accuracy: 84.95%

학습 결과 스크린샷

[twkang43]

강태욱

1. 단순 1-hidden layer neural network

model = nn.Sequential(  
    nn.Linear(784, 128),  
    nn.ReLU(),  
    nn.Linear(128, 64),  
    nn.ReLU(),  
    nn.Linear(64, 10)  
)

학습 결과
Train accuracy: 87.69%
Test accuracy: 86.10%

2. Dropout, PReLU를 적용한 3-hidden layer neural network

model = nn.Sequential(
    nn.Linear(784, 512),
    # activation function으로 PReLU 사용
    nn.PReLU(),
    # overfitting 방지를 위해 dropout 사용
    nn.Dropout(p=0.3),
    # layer 수를 늘림
    nn.Linear(512, 256),
    nn.PReLU(),
    nn.Dropout(p=0.3),
    nn.Linear(256, 128),
    nn.PReLU(),
    nn.Dropout(p=0.3),
    nn.Linear(128, 64),
    nn.PReLU(),
    nn.Dropout(p=0.3),
    nn.Linear(64, 10)
)

다음의 모델을 통해 정확도를 향상시키고자 하였습니다.

1. Dying ReLU 현상 방지를 위해 activation function으로 PReLU 사용
2. overfitting을 방지하기 위해 Dropout 사용
3. layer를 늘려 neural network의 정확도 향상

학습 결과
Train accuracy: 88.35%
Test accuracy: 86.41%

단순 1-hidden layer neural network에 비해 accuracy가 향상된 것을 확인할 수 있습니다.

[mnxcv]

임세훈

1. 코드

import torch
from torch import nn
input_size = 28*28
output_size = 10
def modelGenerator(array, Sigmoid = False):
  model = nn.Sequential()
  left = 28*28
  right = 10
  for i in array:
    if(i[0] == "L"):
      model.append(nn.Linear(left, i[1]))
      model.append(nn.RReLU()) 
    else:
      exit(-1)
    left = i[1]
  model.append(nn.Linear(left, right));
  if(Sigmoid):
    model.append(nn.Sigmoid())
  return model

model = modelGenerator([("L", 398), ("L", 196), ("L", 98), ("L", 49), ("L", 24), ("L", 12)])

• 모델을 직관적으로 나타내고, 수정하기 쉽게 함수로 작성
  • Layer 종류/수 같은 Hyperparameter를 변화시켜가면서 코드를 실행하는 데 유용
• 각각의 Linear Layer 사이에는 RReLU Layer 삽입 (과적합 방지)
• Epoch는 30으로 설정

2. 학습 결과

Train Accuracy: 90.69%
Test Accuracy: 87.87% 

[KangMeanWoo]

강민우

사용한 모델:

from torch import nn

model = nn.Sequential(
    nn.Linear(784,1024),
    nn.ReLU(),
    nn.Linear(1024, 256),
    nn.ReLU(),
    nn.Linear(256,64),
    nn.ReLU(),
    nn.Linear(64,16),
    nn.ReLU(),
    nn.Linear(16,10)
)

epoch는 30으로 설정하였습니다.

학습 결과:
Train accuracy: 94.21%
Test accuracy: 89.20%

[dhki]

김동하

사용한 모델

model = nn.Sequential(
    nn.Linear(784, 128),
    nn.ReLU(),
    nn.Linear(128, 128),
    nn.ReLU(),
    nn.Linear(128, 10)
)

10번을 학습시키고, 테스트 함수를 이용해 정확도를 확인했습니다.

loss 변화

테스트 결과