Repository For My BigData and Artificial Intelligence Course in KNU
- Date : 2022-03-28
- Last Modified At : 2022-06-29
- ๊ฐ์๋ํ๊ต ์ตํฉ๋ณด์์ฌ์ ๋จ ์ฃผ๊ด 2020 ๋น ๋ฐ์ดํฐ ์ธ๊ณต์ง๋ฅ ๊ต์ก๊ณผ์ ํ๊ธฐ
์ด ๊ต์ก๊ณผ์ ์ ์ ๋ง ์ฐ์ฐํ ๊ธฐํ๋ก ์๊ฒ ๋์๋ค. KNU Everytime ์ปค๋ฎค๋ํฐ์ ์ด๋ ๋ ์ด๋ฐ ํฌ์คํฐ๊ฐ ์ฌ๋ผ์์๋ ๊ฒ์ด๋ค. ๋๋ 2์ฐจ๋ก์ ์ฐ๊ตฌ ๊ฒฝํ์ ํตํด ํ๋ก๊ทธ๋๋ฐ์ ๋ํด ์ด๋์ ๋ ์ต์ํ ์ํ์์ง๋ง, ์ธ์ ๋ ๋ ํ์ผ๋ก ๋จธ์ ๋ฌ๋์ ๊ณต๋ถํด์๊ธฐ ๋๋ฌธ์ ํ๋ฒ ์ฏค์ ์ ๋๋ก ๋ ๊ต์ก๊ณผ์ ์ ๋ฃ๊ณ ์ถ๋ค๋ ์์ฌ์ด ์์๋ค.
ํ์์ ๋ค๋๊น ์๊ฐ๋ ํด๋ดค์ง๋ง, ํ์์์ ๋ด๊ฐ ์ํ๋ ์์ค์ ๊ต์ก์ ์ ๋๋ก ํ ๊ฒ ๊ฐ์ง ์์๊ณ , ํ์์ ๋ค๋ ์๊ฐ์ด๋ ๋น์ฉ๋ ๊ฑฐ์ ์์๋ค. ๊ทธ๋ฐ ๋์๊ฒ ์์ฃผ ์ข์ ๊ธฐํ๋ผ๊ณ ์๊ฐํ๊ธฐ ๋๋ฌธ์ ๋ฐ๋ก ์ ์ฒญํ๊ฒ ๋์๋ค.
๋น ๋ฐ์ดํฐ ์ธ๊ณต์ง๋ฅ ์๋ด ํฌ์คํฐ
๋น์ ์ปค๋ฎค๋ํฐ์์ ํด๋น ๊ต์ก๊ณผ์ ์ ํ๋ณด๋ด๋น์๊ฐ ์ฌ๋ฌ ํ์๋ค์ ์ง๋ฌธ์ ๋ต๋ณํด์ฃผ๋ฉด์ ์๋นํ ์ธ๊ธฐ๋ฅผ ๋์๋ ๊ธฐ์ต์ด ์๋ค. ๊ฒฝ์๋ฅ ์ด ์ด๋ ์ ๋ ์์ ๊ฒ์ผ๋ก ์๊ฐ๋์์ผ๋, ๋คํํ 1์ฐจ์ ํ๋ฒ์ ํฉ๊ฒฉํ๊ฒ ๋์๋ค!
๊ธฐ์ ์ธ์ฌ 1๊ธฐ ํฉ๊ฒฉ
๋์ ๊ฐ์ด ์ ์ฒญํ๋ ํ๋ถ์ฐ๊ตฌ์์ ๋ถํํ๋ ํ๋ฝํด์, ๋์ค์ 2์ฐจ ๊ต์ก๊ณผ์ ์ ์ฌ๋์ ํ์ฌ ํ ๋ฌ ๋ฆ๊ฒ ์๊ฐํ๊ฒ ๋์๋ค. ์ด ๋๋ ํ๋ จ์๋น์ ๋ฐ์ผ๋ฉฐ ๋ด๊ฐ ์ํ๋ ์ธ๊ณต์ง๋ฅ ๋ถ์ผ๋ฅผ (๋น๋ก ๊ธฐ์ด์์ค์ด์ง๋ง) ๋ฐฐ์ธ ์ ์๋ค๋ ์ฌ์ค์ ํ๋ณตํ๊ธฐ๋ง ํ๋ค. ใ ใ
- Fundamental Python Programming
- Python Library for Data Processing
- Database (SQL)
- Web Programming
- Machine Learning
- Deep Learning
- Deep Learning Framework (Tensorflow, Keras, PyTorch)
- Natural Language Processing (NLP)
- Audio Voice Processing
- Computer Vision
- Final Projects : Precipitation Nowcasting / Sentimental Analysis of KNU Website
์ ๋ชฉ๋ก์ ๋ณด๋ฉด ์๊ฒ ์ง๋ง ์ด์ฌ์ ์ ์ฅ์์๋ ์ ๊ฒ๋ค ์ค ํ๋๋ผ๋ 6๊ฐ์ ๋์ ์ ๋๋ก ๋ฐฐ์ฐ๋ฉด ๋คํ์ด๋ค. ๋ฏธ๋ฆฌ ์์ตํด๊ฐ๋ ๊ฒ์ ํ์!
์ฆ, ๊ต์ฅํ ์์ ์ง๋๊ฐ ๋น ๋ฅด๊ฒ ๋๊ฐ๋ค๋ ๊ฒ์ ์ ์ ์์๋ค. ๋คํํ ๋๋ ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ์นํ๋ก๊ทธ๋๋ฐ์ ์ ์ธํ๋ฉด, ๋๋จธ์ง์ ๋ํด์๋ ๊ธฐ์ด์ ๋๋ ๊ณต๋ถํ ์ ์ด ์์๊ธฐ ๋๋ฌธ์ ์ด๋์ ๋ ์์ํ๊ฒ ๋ฐ๋ผ๊ฐ ์ ์์๋ค. ๊ทธ๋ฌ๋ ํ์ผ ํ๋ฃจ์ ์ต์ 4~5์๊ฐ์ ํฌ์ํด์ผ ๊ต์ก๊ณผ์ ์ ๋ฐ๋ผ๊ฐ ์ ์์๊ธฐ ๋๋ฌธ์ ๊ต์ฅํ ๋ฐ์ 6๊ฐ์์ ๋ณด๋ผ ์ ๋ฐ์ ์์๋ค.
์ด ๊ต์ก๊ณผ์ ์ ๋ฃ๊ธฐ ์ ๊น์ง ๋์ ํ๋ก๊ทธ๋๋ฐ ๊ฒฝํ์ ๊ฐ์๋ค.
- ์ฝ 1๋ ๋์์ ์ดํต๊ณ๋ฌผ๋ฆฌ ์์นํด์ ๋ฐ ๋จธ์ ๋ฌ๋ ์์ฉ ์กธ์ ์ฐ๊ตฌ
- 6๊ฐ์ ๋์์ SCOPUS ๋ ผ๋ฌธ ์ฐ๊ตฌ
๊ณผ๊ฑฐ์ ๋๋ฅผ ๋ ์ฌ๋ ค๋ณด๋ฉด ์ฝ๊ฐ ์์ ๊ฐ์ด ๊ณผํ์ง ์์๋์ถ๋ค. ๊ฒจ์ฐ 2๋ฒ์ ์ฐ๊ตฌ๊ฒฝํ์ผ๋ก ๋ ์ ๋๋ฉด ๊ฝค ์ํ๋๊ฑฐ ์๋๊น? ํ๊ณ ์๊ฐํ๋ ๊ฒ ๊ฐ๋ค. (ใ ใ ํ์ญ์ฌ) ์ฌ์ค ์ด ์ ๋๋ ๋๊ตฌ๋ ํ ์ ์๋ ๊ฒ์ผํ ๋ฐ.. ์๋ง๋ ๋๋ํฌ๋ฃจ๊ฑฐ ๊ณก์ ์ ์ ์์ ์์นํ์ง ์์๋์ถ๋ค.
DunningโKruger Effect
๊ต์ก๊ณผ์ ์ ๋ค์ ๋น์์ ๋๋ ์ด ๊ต์ก๊ณผ์ ์ ํตํด ๋ฌด์ธ๊ฐ ๋๋จํ ๊ฒ์ ๋ฐฐ์ธ ์ ์๋ค๊ณ ๋ ์๊ฐํ์ง ์๊ณ , ๋๋จํ ํ๊ฐ์ ํํ๊ณ ์์๋ค. ์๋ํ๋ฉด ํด๋น ๊ต์ก๊ณผ์ ์ด ๋ํ๊ต ์ฃผ๊ด์ผ๋ก ์ด๋ฃจ์ด์ง๋ ๊ตญ๋น์ง์ IT ๊ต์ก์ ์ผ์ข ์ด๋ผ๊ณ ์ดํดํ๊ณ ์์๊ณ , ๊ทธ๋ฌํ ๊ต์ก๊ณผ์ ์ ๋ํ ์ฌ๋๋ค์ ๋ถ์ ์ ์ธ ํ๊ธฐ๋ฅผ ์ธํฐ๋ท์์ ์์ฃผ ๋ณด์์๊ธฐ ๋๋ฌธ์ด๋ค.
๊ต์ก๊ณผ์ ์ด ์์๋๊ณ ์ค์ ๋ก 2๋ฌ ๋์์ ๋ณ๋ก ๋๋จํ ๊ฒ์ด ์์๋ค. ๋ด๊ฐ ์ด๋ฏธ ์ง๊ฒน๊ฒ ๊ณต๋ถํ๋ Python ๊ธฐ์ด๋ฌธ๋ฒ๊ณผ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์ฌ์ฉ๋ฒ์ ๋ฐฐ์ ๋ค. ์ฝ๊ฐ ํน์ดํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ ์ฌ๋ฏธ์์๋ค.
๊ฐ์ฅ ํฅ๋ฏธ๊ฐ ์์๋ ๊ฒ์ ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ์น ํ๋ก๊ทธ๋๋ฐ์ด์๋๋ฐ, ๋๋ ๋๋์ฒด ์ด๊ฑธ ์ ๋ฐฐ์์ผ ํ๋์ง ์ดํดํ ์๊ฐ ์์ด์ ๊ฑฐ์ ์ค๋ํฌ๊ธฐํ ์๊ธฐ๊น์ง ๊ฐ์๋ค. ๋ด๊ฐ ๋ฐฐ์ฐ๊ณ ์ถ์๋ ๊ฒ์ ๋ณต์กํ ๋ฐ์ดํฐ ๋ถ์์ด๋ ๋จธ์ ๋ฌ๋์ด์๊ธฐ ๋๋ฌธ์, ๊ทธ๊ฒ ์๋ ์ธ๋ฐ์์ด ๋ณด์ด๋ ๋ค๋ฅธ ๊ฒ์ ๋ฐฐ์ฐ๋ ๊ฒ์ ๋ํด ๋์ ํ ์ด์๋ฅผ ๋ผ ์ ์์๋ค.
๋คํํ ๊ต์ก๊ณผ์ 3๋ฌ์ ์ ์ด๋ค์ ๋จธ์ ๋ฌ๋์ ๋ฐฐ์ฐ๊ฒ ๋๋ฉด์, ๋๋์ด ๋ด๊ฐ ๊ณต๋ถํ๊ณ ์ถ์ ๋ด์ฉ๋ค์ด ์ฃผ๋ฅผ ์ด๋ฃจ๊ฒ ๋์๋ค. ์ด ๋๋ถํฐ๋ ํ์คํ ์์์ ์ผ๋ก ๊ณต๋ถํ๊ณ , ํญ๋ฐ์ ์ผ๋ก ์ง์์ ํก์ํ๊ฒ ๋์๋ค.
๊ต์ก๊ณผ์ ์ ํน์ฑ์ ๋๋จํ ๋ฐฉ๋ํ ์ฃผ์ ๋ฅผ ์์ฑ์ผ๋ก ๋ค๋ฃจ์์ง๋ง, ๊ฐ ์ฃผ์ ๋ณ ๊ธฐ์ด ~ ์ค๊ธ ์์ค์ ์ฝ๋๋ฅผ ๊ณต๋ถํ๊ณ ๋์ด๊ฐ๋ ๊ฒ์ด ์๊ฐ๋ณด๋ค ๋ง๋ง์น ์์๋ค. ํนํ ์ค๊ธ์์ค์ ์ฝ๋๋ฅผ ๋ค๋ฃจ๋ ์์ ์๊ฐ์๋ ์ฝ๋์ ๊ตฌ์ฑ์ด ์์ธ๋ก ์์ค๋๋ค๊ณ ๋๊ปด์ ธ์ ์ด๋ ต์ง๋ง ๋ง์กฑ์ค๋ฌ์ ๋ค. ๋ํ, ๋ด๊ฐ ์ ๋ชจ๋ฅด์ง๋ง ๋๋ฆฌ ์ฌ์ฉ๋๋ ์ ํ์ ์ธ ๋ฌธ๋ฒ์คํ์ผ๋ ์ผ๋ถ ์ตํ ์ ์์๋ค.
์๋นํ ์๋๊ฐ ์๊ฒ ์์ ์ด ์งํ๋์์ผ๋ฏ๋ก, ๊ต์ก๊ณผ์ ๋์ ๋ชจ๋ ๊ฒ์ ์๋ฒฝํ ์ตํ๋ค๊ณ ๋ ํ ์ ์์ง๋ง ๋งค์ผ ์ต์ 4์๊ฐ ์ด์์ ๊ท์น์ ์ผ๋ก ์ฝ๋ฉํ๋ฉด์ ์ด๋ ์ ๋ ๊ฐ๋ฐ์์ ์ธ(?) ๋ง์ธ๋๋ก ์์ ์ ํ๋ค๋ ๊ฒ์ด ์ด๋ค ๋๋์ธ์ง ์ ์ ์์๋ค. ๊ทธ ์ ๊น์ง๋ ์ฝ๊ฐ ์ํ๊ณต๋ถํ๋ฏ ์ฝ๋ ํ ์ค ํ ์ค์ ์ ํํ ์ดํดํ๊ณ ๋์ด๊ฐ๋ ๊ฒ์ ์ค์ํ๋๋ฐ, ๋ฐฉ๋ํ ์์ ์ฝ๋๋ก ์์ ํ๋ค๋ณด๋ฉด ํญ์ ๊ทธ๋ด์๋ ์๊ณ , ์ํฉ์ ๋ฐ๋ผ์๋ ๋น๋ ค์ฐ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ ํจ์์ Input, Output ๊ด๊ณ๋ง์ผ๋ก ๊ทธ ๊ธฐ๋ฅ์ ์ถ๋ก ํ๊ณ ๊ณ ์์ค์์ ์ฌ์ฉํ๋ ๊ฒ๋ ์ค์ํ๋ค๋ ๊ฒ์ ์์๋ค.
์ต์ข ์ ์ผ๋ก ๊ต์ก๊ณผ์ ๋ค์ฏ๋ฌ์งธ๊น์ง์ ๋ฅ๋ฌ๋ ๊ณต๋ถ๋ ์๋นํ ๊ด์ฐฎ์๋ค. ๊ต์ก๊ณผ์ ๋ง์ง๋ง ๋ถ๋ถ์์ ์ปดํจํฐ๋น์ /์์ฐ์ด์ฒ๋ฆฌ/์์ฑ์ฒ๋ฆฌ์ ๊ฐ์ ๋ฅ๋ฌ๋์ ์ฃผ์ ๋ถ์ผ๋ฅผ ๋ค์ ํ๋ฒ ์ฌ๋์๊ฒ ๋ฐฐ์ด ๊ฒ๋ ๊ด์ฐฎ์๋ค. ๋ฌผ๋ก ๊ด๋ จ๋ถ์ผ ์ ๊ณต์๋ค์ด ๋ณด๊ธฐ์๋ ์ด๋ฆฐ์์ด ์ฅ๋ ์์ค์ด๊ฒ ์ง๋ง, ๋น์์ ์ด๋ณด์๋ ๋์๊ฒ๋ ๊ฝค ์ด๋ ต๊ฒ ๋๊ปด์ก๋ค.
๊ต์ก๊ณผ์ ์ด ๋ฅ๋ฌ๋๊น์ง ๋๋ ์ดํ, ๊ฐ ๋ถ์ผ์์ ์ ๋ฌธ๊ฐ๋ค์ด ์ด๋น๋์ด ์ค๋ฌด์ ์ฐ๊ด๋ ์ธ๊ณต์ง๋ฅ ๊ธฐ์ ์ ์์ฉ๊ฐ๋ฅ์ฑ์ ๋ํด 2์ฃผ ๋์ ๊ฐ์๋ฅผ ๋ค์๋ค. ์ฌ์ค ์ด ๋จ๊ณ๋ ๋ ์ฌ๋ฏธ์์๋ค. ๋๋ ์ด๋ฐ ๊ธฐ์ ๋ค์ ์์ ์ ์์ฉ์๋ ํฌ๊ฒ ๊ด์ฌ์๊ณ , ๋์ ํ๋ก๊ทธ๋๋ฐ/๋จธ์ ๋ฌ๋ ์ค๋ ฅ์ ์ฌํ์ํฌ ์ ์๋ ๋์ ์์ค์ ์ง์/๊ธฐ์ ์ ์ค์ ์ ์ผ๋ก ์ํ๊ธฐ ๋๋ฌธ์ด๋ค. ์ด๋ฐ ๋ฉด์ ์์ฉ์ ์ค์ํ์ง ์๋ ์ด๋ก ์ ์ธ ์์ฐ๊ณ์ด ํ์๋ต๋ค๊ณ ๋ณผ ์ ์๋ค. ใ ใ
์ค๋ฌด๊ด๋ จ ๊ฐ์๊น์ง ๋ชจ๋ ๋๋ ์ดํ์๋ ๋๋์ด IT ๊ต์ก๊ณผ์ ์ ๊ฝ(?)์ด๋ผ๊ณ ํ ์ ์๋ ์ต์ข ํ๋ก์ ํธ๋ฅผ ํ๊ฒ ๋์๋ค. ์ปดํจํฐ๊ณตํ๊ณผ๋ฅผ ์กธ์ ํ๋ค๋ ์ง์ฅ์ธ CSM์จ์ ํจ๊ป 2์ธ ํ์ผ๋ก Dacon์์ ์งํ๋๋ ์๋ ฅ๋ ๊ธฐํ์์ธก ํ๋ก์ ํธ๋ฅผ ์งํํ์๋ค.
๊ฐ์ฐ์์ธก(Precipitation Nowcasting) ๋ฌธ์ ๋ ์ธ๊ณต์์ฑ์ ํตํด ์ป์ด์ง ์ฌ๋ฌ ์ง์ญ์ ๋ ์ด๋ ์ฌ์ง๋ค์ด ์ด๋ฏธ์ง์ Sequence๋ก ์ฃผ์ด์ง ๋, ๊ทธ ๋ค์ ์์ ์ ๊ฐ์ฐ ์ด๋ฏธ์ง๋ฅผ ์์ธกํ ์ ์๋ ๋ชจ๋ธ์ ๋ง๋ค ์ ์๋๊ฐ์ ๊ดํ ๊ฒ์ด์๋ค. ์ด ๋ํ๋ฅผ ํตํด์ ์ฒ์์ผ๋ก ์ด๋ฏธ์ง Sequence๋ฅผ ๋ค๋ฃจ๋ ๋ฅ๋ฌ๋ ๋ฌธ์ ์ ํ์ ์๊ฒ ๋์๋ค. ์ฐธ๊ณ ๋ก ์ด ๋ ์๊ฒ ๋ Precipitation Nowcasting์ด๋ผ๋ ๋ถ์ผ๋ ๋์ค์ ํ๋ํ์ AI ์ฐ๊ตฌ์ค์ ๊ฐ์ ๊ต์๋๊ณผ ๋ํ๋ฅผ ํ ๋, ์ด๋ฐ์ ๋ฐ ์ด์ผ๊ธฐ๋ฅผ ํ๋ค๊ฐ ๋ด๊ฐ ์ด๊ฒ์ ๋งํ์ ๊ต์๋๊ป์ ์ด์ง ๋๋ผ์ จ๋ ๊ธฐ์ต์ด ์๋ค. ๋๋๊ฒ๋ ๊ทธ ์ฐ๊ตฌ์ค์์๋ ๊ธฐ์์ฒญ์ผ๋ก๋ถํฐ ์ฐ๊ตฌ๊ณผ์ ๋ฅผ ๋ฐ์ ์ด์ชฝ ๋ถ์ผ์ ์ฐ๊ตฌ๊ณผ์ ๋ฅผ ์ํ์ค์ด์๋ค. ๋ญ๋ ์ด์ฌํ ํด๋๋ฉด ๋์ค์ ์ฐ๊ฒฐ๋๋ค. ใ ใ
๋์ ํ์์ ๊ด๋ จ ๋ถ์ผ์ ๋ ผ๋ฌธ์ 10ํธ ์ ๋ ์ฝ์ผ๋ฉฐ ๊ธฐ์ด์ ์ธ ์ง์์ ์ต๋ํ์๋ค. ๋๋ ConvLSTM2D ๊ธฐ๋ฐ์ ๋ชจ๋ธ์, ํ์์ RainNet์ด๋ผ๋ CNN ๋ฐ Upsampling ๊ธฐ๋ฐ์ ๋ชจ๋ธ์ ๋ง๋ค์๋ค.
๋ค๋ง ๋์ ConvLSTM2D ๋ชจ๋ธ์ ์ง๋์น๊ฒ ๋ง์ ํ์ต๋์ ์๊ตฌํ๊ธฐ ๋๋ฌธ์, ์ค์ง์ ์ผ๋ก ๋ํ๊ธฐ๊ฐ ๋์ ํ์ต์ ๋ชจ๋ ๋๋ง์น๊ธฐ ์ด๋ ค์ด ์ํฉ์ด์๋ค. ๊ฒฐ๊ณผ์ ์ผ๋ก ๋ปํ์ง ์๊ฒ ์ฝ๊ฐ์ ๋ฒ์ค๋ฅผ ํ๋ ๊ฒ ๊ฐ์ ํ์ ๋ถ์๊ฒ ๋ฏธ์ํ๋ค. ๋์ ๋ฐํ PPT๋ฅผ ๋ง๋๋ ๊ณผ์ ์์๋ ์ด์ฌํ ํ๋ค. ใ ใ
๋ํ, ๊ฐ์ ์ฐ๊ตฌ์ค ์์์ ํ๋ถ์ฐ๊ตฌ์์ธ PSH์จ์ ํจ๊ป ๊ฐ์๋ํ๊ต Everytime ์ปค๋ฎค๋ํฐ์์ Web Crawling์ ์ด์ฉํ ๋๊ธ ์ค์ผ๋ ๋ถ์ ํ๋ก์ ํธ๋ฅผ ์ถ๊ฐ๋ก ๋์์ ์งํํ์๋ค. ์น ํฌ๋กค๋ง์ ์ด๋ฐ ๋ถ๋ถ์ ๋ด๊ฐ ์กฐ๊ธ ์๋ ค์ค ๊ฒ์ ์ ์ธํ๋ฉด ๋๋จธ์ง ๋ถ๋ถ์ PSH์จ๊ฐ ์ข ๋ ์ด์ฌํ ํ๋ ๊ฒ ๊ฐ๋ค. ๋๋ ์์ฐ์ด์ฒ๋ฆฌ์๋ ํฌ๊ฒ ๊ด์ฌ์ด ์์๊ณ , ํด๋น ํ๋ก์ ํธ๋ ์์ ์๊ฐ์ ๊ณต๋ถํ๋ ๊ฐ์ฑ๋ถ์ ์ฝ๋์์ ๋ฐ์ดํฐ ๋ถ๋ถ๋ง ๋ฐ๊พธ๋ฉด ๋๋ ํ๋ก์ ํธ์ฌ์ ํฌ๋กค๋ง๊ณผ ์ ์ฒ๋ฆฌ, ์๊ฐํ ์ ๋๋ง ํ ์คํธํ๊ณ PSH์จ์๊ฒ ๋งก๊ฒผ๋ค.
์ฌ์ค ๋๋ PSH์จ๊ฐ ์ด๋ค ์๋ฏธ๊ฐ ์๋ ๋๊ธ ์ค์ผ๋ ๋ถ์์ ํ๊ฒ ๋ค๋ ๊ฒ์ธ์ง ๋ง์ง๋ง๊น์ง ์ดํดํ์ง ๋ชปํ๋ค. ใ กใ ก; ์ผ๋จ ๋๊ธ ์ค์ผ๋ ๋ถ์์ผ๋ก ๊ธ์ /๋ถ์ ํ๋ณ์ ํ๊ฒ ๋ค๋ ๊ฒ์ ์ดํดํ๋๋ฐ, ์ ๊ทธ๋ฐ ํ๋ก์ ํธ์ ๋ง์ค์ฝํธ ์บ๋ฆญํฐ๊ฐ ํ์ํ ๊ฒ์ธ๊ฐ..?? ๋๋ ์ ํ ์ดํดํ ์ ์์๋ค. ์๋ง ๋จ์ํ ๋ฅ๋ฌ๋ ํ๋ก์ ํธ๊ฐ ์๋๋ผ, ๋ญ๊ฐ ์ดํ๋ฆฌ์ผ์ด์ ์ ๋ง๋๋ ๊ทธ๋ฌํ ๊ธฐํ์ ํ๋ ๊ฒ ๊ฐ๋ค. ์ด์จ๋ ๋ณธ์ธ์ด ๋๋ฆ๋๋ก ๋ฟ๋ฏํ๊ฒ ์งํํ๋ ๊ฒ ๊ฐ์์ PPT์์ ๋์์ธ ๋ถ๋ถ์ ๋ง์ ์๋ผ๊ณ ํ๊ณ ์ถ์ ๋๋ก ํ๊ฒ ํ๋ค. ใ ใ
์ฌ๊ธฐ์ ์ ๊น ์ต์ข ํ๋ก์ ํธ์ ๋ํด ๊ฐ๋จํ ์ค๋ช ํ๊ณ ๋์ด๊ฐ๊ณ ์ ํ๋ค.
์ต์ข ํ๋ก์ ํธ๋ก ๋์ ํ์์ Dacon์์ ์ฃผ์ตํ๋ ์๋ ฅ๋ ๊ฐ์ฐ์์ธก ๋ํ์ ์ฐธ๊ฐํ๊ธฐ๋ก ํ์๋ค. ํด๋น ๋ํ์์๋ ๋ ์ด๋๋ก ์์ง๋ ํน์ ์ง์ญ์ ๊ตฌ๋ฆ ์ด๋ฏธ์ง๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ค์ ์์ ์ ๊ตฌ๋ฆ ์ด๋ฏธ์ง๊ฐ ์ด๋ป๊ฒ ๋ ๊ฒ์ธ์ง๋ฅผ ์์ธกํ๋ ๋ฌธ์ ๋ฅผ ๋ค๋ฃจ์๋ค. ์ฐ๋ฆฌ๋ ๊ด๋ จ๋ถ์ผ์ ๋ ผ๋ฌธ์ ์ดํด๋ณด๊ณ ์ ๋นํ ๋ชจ๋ธ์ ๊ตฌํํด๋ณด๊ธฐ๋ก ํ๋ค.
๋ค์ ๊ทธ๋ฆผ์ ๊ธฐํ์์ธก ๋ฌธ์ ํด๊ฒฐ์ ๋ชฉ์ ์ผ๋ก U-Net ํํ๋ฅผ ๊ฐ๋ FCNs ๊ธฐ๋ฐ์ Convolutional Neural Network์ ๊ตฌ์กฐ๋ฅผ ๋ณด์ฌ์ค๋ค.
RainNet Architecture
์ฌ๊ธฐ์ FCNs(Fully Connected Networks)๋ Semantic Segmentation์์ Skip-Connection ๊ตฌ์กฐ๋ฅผ ์ฐจ์ฉํ ๊ฒ์ด๋ค. U-Net์ Biomedical ๋ถ์ผ์์ Image Segmentation์ ์ํ End-to-End ๋ฐฉ์์ FCNs ๊ธฐ๋ฐ ๊ตฌ์กฐ๋ฅผ ๊ฐ๋ ๋ชจ๋ธ์ด์๋ค. ์ด๋ฌํ ๋ชจ๋ธ์ ๋ชจ๋ธ์ ์ธต์ด ๊น์ด์ง์ ๋ฐ๋ผ Input์ ๊ณต๊ฐ ์ ๋ณด๋ฅผ ์ ์งํ๋ค๊ณ ์๋ ค์ ธ ์์๋ค.
๊ทธ๋ผ Skip-Connection์ ๋ฌด์์ผ๊น?
๋ค์ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด Down Sampling์ ๊ฒฐ๊ณผ์ธ Local Information๊ณผ Up Sampling์ Semantic Information์ ๊ฒฐํฉํ ๊ฒ์ ๋งํ๋ค.
์ด์ ์ํ์ ํ์ฌ ์ ๋ ฅ์ ๊ฒฐํฉํ์ฌ Local Information ํ์ฉ
์ฌ๊ธฐ์ Local Information์ ๋ชจ๋ธ์ ์ต์ด๋ก ๋ค์ด์๋ Input ์ด๋ฏธ์ง์ ์ ์ฐจ์ Pixel ๋ฐฐ์ด๋ก๋ถํฐ ์ ์๋ฏธํ ํน์ฑ๋งต์ผ๋ก ๋ณํ๋ ํฉ์ฑ๊ณฑ ๊ฒฐ๊ณผ์ ๋ํด Pooling์ ์คํํ์ฌ ์ป์ด์ง ์ผ์ข ์ ์์ถ์ ๋ณด์ด๋ค.
Semantic Information์ ์์ฐจ์ ์ธ ํฉ์ฑ๊ณฑ, ํ๋ง ์ฐ์ฐ๋ง์ผ๋ก๋ ๋ชจ๋ธ์ด ํ์ตํ ์ ์๋ ๋ ์ถ์์ ์ธ ์ ๋ณด๋ฅผ ์๋ฏธํ๋ ๊ฒ ๊ฐ์๋ค. ๋ํ, Skip-Connection์ ๊ธฐ์กด์ CNN ๋ชจ๋ธ์์ ์ ํ์ ์ผ๋ก ๋ณด์ด๋ Sequentialํ ๊ตฌ์กฐ๊ฐ ์๋๋ผ, ์ค๊ฐ์ ๋ค๋ฅธ ์ฐ์ฐํ๋ก๋ฅผ ๋ ์ด์ด๋ฅผ ์ ํํ๋ ๋ฐฉ์์ผ๋ก ์ฝ์ ํจ์ผ๋ก์จ, ์ญ์ ํ(Back-Propagation) ๋ฐฉ์์ผ๋ก ํ์ตํ ๋ Gradient์ ์ ํ๋ฅผ ์ข ๋ ์ํํ๊ฒ ํด์ฃผ๋ ํน์ฑ์ด ์์๋ค. ๊ฒฐ๊ณผ์ ์ผ๋ก ์ผ๋ฐ์ ์ธ CNN ๋ชจ๋ธ๋ณด๋ค ์ธต์ด ๊น์ด์ง๋ฉด์ ์ด๋ฏธ์ง์ ์์น์ ๋ณด๋ฅผ ์๊ฒ ๋๋ ๋จ์ ์ ๊ทน๋ณตํ ์ ์์๋ค.
์ด ๋ถ๋ถ์ ๋ฅ๋ฌ๋์ ๊ณต๋ถํ๋ฉด ์ด๋ฐ์ ๋ฐฐ์ฐ๋ ๋ถ๋ถ์ด์ด์ ๋ค๋ค ์ ๊ฒ ๊ฐ๋ค. CNN ๊ธฐ๋ฐ์ ๋ชจ๋ธ๋ค์ ์ด์ฐฝ๊ธฐ AlexNet ์์ ๋ถํฐ ๋ฐ์ ํด์ค๋ฉด์ ๊ฑฐ์ ์ง์์ ์ผ๋ก Convolution, (Max)Pooling, ReLU ํจ์์ ์ฌ์ฉ์ด ์ ์ง๋์ด ์๋ค.
CNN์ ํฌ๊ฒ 2๋จ๊ณ๋ก ๊ตฌ์ฑ๋๋๋ฐ, ์ฒซ ๋จ๊ณ๋ ์ด๋ฏธ์ง์ ๊ธฐํํ์ ํน์ฑ์ ์ถ์ถํ๋ Feature Extraction ๊ณผ์ ์ด๋ค.
๋ค์ ๊ทธ๋ฆผ์์ ์ผ์ชฝ์ ์ด๋ฏธ์ง๊ฐ Input์ผ๋ก ์ ๋ ฅ๋์์ ๋, ๋ชจ๋ธ ๋ด๋ถ์์ ์ด๋ฃจ์ด์ง๋ ํน์ฑ์ถ์ถ ๊ณผ์ ์ ๋ณด์ฌ์ค๋ค. ์ด๋ฏธ์ง๋ ๋ชจ๋ธ ๋ด๋ถ๋ก ๋ค์ด์ ํน์ ํ ํฌ๊ธฐ์ Convolution Filter์ Element-wise Product๋ฅผ ํ๊ณ ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋ชจ๋ ๋ํ์ฌ, ํน์ฑ๋งต(Feature map)์ ์ป๊ฒ ๋๋ค. ์ด ๋ถ๋ถ์ ์๋ฆฌ๋ฌผ๋ฆฌํ ๋๋ ๊ณต์ ์ํ์์ ๋ฐฐ์ฐ๋ ํฉ์ฑ๊ณฑ ์ฐ์ฐ์ Discreteํ ๋ฐฉ์์์ ์ด๊ณต๊ณ ํ์์ด๋ผ๋ฉด ์ฝ๊ฒ ์ ์ ์๋ค.
Convolution and Pooling
์ด๋ ๊ฒ ์ป์ด์ง ํน์ฑ๋งต์ ๋ณดํต Convolution ์ฐ์ฐ ์ด์ ์ Raw-Pixel ๋ฐฐ์ด๋ณด๋ค ์ข ๋ ์ ์๋ฏธํ ๊ธฐํํ์ ์ ๋ณด๋ฅผ ๋ง์ด ํฌํจํ๊ณ ์๋ค. ์ด๋ฌํ ์ ๋ณด๋ค์ ๊ทธ๋๋ก ์ฌ์ฉ๋ ์๋ ์์ง๋ง, ๋ณดํต Pooling์ด๋ผ๋ ๋ฐฉ์์ผ๋ก ์ผ์ข ์ ๋ํ๊ฐ์ ์ถ์ถํ์ฌ ์ฌ์ฉ๋๋ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค.
๊ทธ๋ฆฌ๊ณ ์ด๋ฌํ Convolution-Pooling ๊ณผ์ ์ด ๋ฐ๋ณต์ ์ผ๋ก ์ด๋ฃจ์ด์ง๋ค๊ฐ ์ต์ข ์ ์ผ๋ก ์ด๋ฏธ์ง์ ๊ณ ์ฐจ์์ ํน์ฑ์ ์ถฉ๋ถํ ์ ์ค๋ช ํ ์ ์๋ ๋ฒกํฐ๋ก ํํ๋์ด ์ผ๋ฐ์ ์ธ FCL์ ๋ค์ด๊ฐ๊ณ , ์ฃผ์ด์ง ๋ผ๋ฒจ์ ์ถ์ ํ๋๋ก ํ์ต๋๋ค.
๊ฒฐ๊ตญ CNN์ ์ด๋ฏธ์ง์ ๊ตญ์์ ์์ญ์ ์กด์ฌํ๋ ๊ธฐํํ์ ํน์ฑ์ ์ถ์ถํ์ฌ ๊ณ ์ฐจ์์ ์๋ฏธ๋ฅผ ์ถ๋ก ํ๊ธฐ ์ํด ์ฌ์ฉ๋๋ ๊ฒ์ด๋ฉฐ, ์ด๋ฏธ์ง ์ธ์ ๋ถ์ผ์์ ์ ํ์ ์ผ๋ก ์ฌ์ฉ๋๋ ๋ชจ๋ธ์ด๋ผ ํ ์ ์๋ค. ์ค๋๋ CNN์ ์ด๋ฏธ์ง ์ธ์๋ฅ๋ ฅ์ ์ธ๊ฐ์ ์๊ฐ์ธ์๋ฅ (์ฝ 96%)๋ฅผ ๋์ด์๋ ๊ฒ์ผ๋ก ์๋ ค์ ธ ์๋ค.
CNN์ ํตํด ์ด๋ฏธ์ง ์ธ์์ ํจ๊ณผ์ ์ผ๋ก ํ์ตํ ์ ์๋ค๋ ๊ฒ์ ์๊ฒ ๋์๋ค. ๊ทธ๋ผ ๋ฌธ์ ๋ ๋ชจ๋ ํ๋ฆฐ ๊ฒ์ผ๊น?
์ฌ์ค ๊ทธ๋ ์ง ์๋ค. ์๋ํ๋ฉด ์ฐ๋ฆฌ๊ฐ ๋ค๋ฃจ์๋ ๋ฌธ์ ๋ Image Sequence๋ฅผ ํ์ตํ๊ณ ๊ทธ ๋ค์ ์์
์ด๋ ์ฐ๋ฆฌ์ ๋ชจ๋ธ์ ๋ค์ด์ค๋ Input์ด ์ด๋ฏธ์ง 1์ฅ์ด ์๋๋ผ ์ฌ๋ฌ ์ด๋ฏธ์ง์ ๋์ด์ด๊ณ , ๊ฐ ์ด๋ฏธ์ง๋ ์ ํ ์ฌ์ด์ ์์์ ์๋ฏธ๊ฐ ์๊ธฐ ๋๋ฌธ์, ์์๋ฅผ ํ์ตํ๋ ๊ธฐ๋ฅ์ด ํ์ํจ์ ์๋ฏธํ๋ค.
๋ค์ ๊ทธ๋ฆผ์ LSTM์ด๋ผ๋ RNN(Recurrent Neural Network) ๊ณ์ด์ ๋ํ์ ์ธ ๋ชจ๋ธ์ ๋ณด์ฌ์ค๋ค.
LSTM Model
LSTM์ ๋ด๋ถ์ฐ์ฐ์ ๋ณด๋ฉด ๋ค์ ๋ณต์กํด๋ณด์ด๋ ๋ด๋ถ ํ๋ก๋ค์ด ์๊ณ , ๊ฐ๊ฐ์ ํ๋ก๋ ๋ฌด์ธ๊ฐ ๋ณต์กํ ์ฐ์ฐ์ ํ๋ ๊ฒ์ฒ๋ผ ๋ณด์ธ๋ค. ์กฐ๊ธ ์ด๋ ค์๋ณด์ผ ์ ์์ง๋ง, ๊ฒฐ๊ตญ ํ๋์ LSTM ๋ชจ๋์ด ํ๊ณ ์ ํ๋ ๊ฒ์, ์ ๋ ฅ๋๋ Sequence์ ์์๋ฅผ ํ์ตํ์ฌ ๋ค์์ ๋ฌด์์ด ๋์ฌ์ง๋ฅผ ์์ธกํ๋ ค๋ ๊ฒ์ด๋ค. ๊ทธ๋ฆฌ๊ณ ์ด๊ธฐ Vanila RNN ๋ชจ๋ธ์ ๋นํด, Sequence ์ ๋ณด์ ์ค์์ฑ์ ํ๋ณํ์ฌ ๊ทธ ๋ค์ ์์ ์ ํ์ต๊น์ง ๋ณด์กดํ ์ง ์๋์ง๋ฅผ ์กฐ์จํ๋ Cell state๋ผ๋ ๋ฒกํฐ๊ฐ ํ๋ ์ถ๊ฐ๋ ๊ฒ ๋ฟ์ด๋ค.
์ฝ๊ฐ ์ด์ผ๊ธฐ๋ฅผ ๊ฑฐ์ฌ๋ฌ ์ฌ๋ผ๊ฐ์๋ฉด, ์์ฐ์ด์ฒ๋ฆฌ ๋ถ์ผ์์๋ ๊ธฐ๊ณ๋ฒ์ญ(Machine Translation)์ด๋ผ๋ ํน์ ํ ์ธ์ด๋ฅผ ๋ค๋ฅธ ์ธ์ด๋ก ๋ฒ์ญํ๋ Task๊ฐ ์กด์ฌํ๋ค. ์๋ฅผ ๋ค๋ฉด, ํ๊ตญ์ด ๋ฌธ์ฅ "๋๋ ํ๊ต์ ๊ฐ๋ค." ๋ผ๋ ์ ๋ณด๊ฐ Word Vector์ Sequence๋ก ์ ๋ ฅ๋๋ฉด, ์์ด ๋ฌธ์ฅ "I go to school."์ ์์ธกํ๋๋ก ํ์ตํด์ผ ํ๋ ๊ฒ์ด๋ค. ์ด ๊ฒฝ์ฐ ๋ชจ๋ธ์ Sequence๋ฅผ ์ ๋ ฅ๋ฐ์ Sequence๋ฅผ ์ถ๋ ฅํด์ผ ํ๋ฏ๋ก ์ด์ ๊ด๋ จ๋ ๋ฌธ์ ์ํฉ์ ๋ณดํต Seq2Seq๋ผ ๋ถ๋ฅธ๋ค. ๊ทธ๋ฆฌ๊ณ Seq2Seq์์ ์ด๊ธฐ์ ๋ฑ์ฅํ๋ ๋ชจ๋ธ์ด Vanila RNN์ด๋ผ ๋ถ๋ฆฌ๋ ๋จ์ํ ํํ์ Recurrent ๋ฐฉ์ ๋ชจ๋ธ์ด์๋๋ฐ, RNN์ ์ ๋ ฅ๋๋ ๋ฌธ์ฅ์ ๊ธธ์ด๊ฐ ๊ธธ์ด์ง๋ฉด ์ ๋ถ๋ถ์ ์ ๋ณด๋ฅผ ๊ธฐ์ตํ์ง ๋ชปํ๋, ์ผ์ข ์ ์ฅ๊ธฐ๊ธฐ์ต ์์ค ๋ฌธ์ ๊ฐ ์์๋ค. ๊ทธ๋ฆฌ๊ณ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ์๋ก ๊ณ ์๋ ๋ชจ๋ธ์ด ์ดํ์ ์๋ ค์ง๋ LSTM์ด๋ GRU ๋ฑ์ ๋ชจ๋ธ์ด์๋ ๊ฒ์ด๋ค. ์ฌ๊ธฐ์๋ ํธ์์ ๋จ์ํ ์ค๋ช ์ ๋ชจ๋ ์ ๊ฒ์ด๋ผ ๊ฐ์ ํ๊ณ ๋์ด๊ฐ๋ค.
์ฆ, LSTM ์ ์ ์ฐ์์ ์ผ๋ก ์ฐ๊ฒฐํ์ฌ ์ ๊ฒฝ๋ง์ ๊ตฌ์ฑํ๋ฉด ์๊ณ์ด(Time Series) ๋ฐ์ดํฐ์ ํจํด ํ์ต์ ํนํ๋ ๋ชจ๋ธ์ ๋ง๋ค ์ ์์๋ค. ์ด๋ฌํ ๋ชจ๋ธ๋ค์ ์ค๋ ๊ณผ๊ฑฐ์ ๋ฐ์ํ๋ ์ฌ๊ฑด์ ์ ๋ณด๊น์ง ๋์น์ง ์๊ณ ํจํดํ์ต์ด ๊ฐ๋ฅํ๋ค๊ณ ์๋ ค์ ธ ์์๋ค.
์์ ๋ฐฐ์ด CNN๊ณผ LSTM์ ์ฌ์ค ๋ฅ๋ฌ๋์ ์กฐ๊ธ๋ง ๊ณต๋ถํ๋ค๋ณด๋ฉด ๊ธ๋ฐฉ ์ต์ํด์ง๊ฒ ๋๋ ๊ฐ๋ ์ด๋ค. ์ด ํ๋ก์ ํธ๋ฅผ ํ๋ ๋น์์๋ ์ด ์ ๋์ ๊ธฐ์ด์ ์ธ ์ง์์ ์๊ณ ์์๋ค.
๊ทธ๋ฌ๋ Precipitation Nowcasting ๊ด๋ จ ๋ ผ๋ฌธ๋ค์ ์ฝ์ผ๋ฉด์, ์ด ๋ ๊ฐ์ง๋ฅผ ๊ฒฐํฉํ ์๋ก์ด ๋ชจ๋ธ์ด ์๋ค๋ ๊ฒ์ ์๊ฒ ๋์๋๋ฐ ๊ทธ๊ฒ์ด ๋ฐ๋ก ConvLSTM์ด๋ผ๋ ๋ชจ๋ธ์ด์๋ค.
๋ค์ ๊ทธ๋ฆผ์ ์ผ์ชฝ์ ๋ณด์.
ConvLSTM Model
์์ ๋ฐฐ์ ๋ LSTM๊ณผ ๋๋จํ ์ ์ฌํ ๊ตฌ์กฐ๋ก ๋ณด์ธ๋ค.
์ฐ์ , Input์ผ๋ก ๋ค์ด์ค๋ ๊ฒ์ด Vector์ Sequence๊ฐ ์๋๋ผ, ์ด๋ฏธ์ง์ Sequence์ด๋ค. ์ฆ, ๊ฐ๊ฐ์ Time step
๊ฒฐ๊ตญ, ConvLSTM ๋ชจ๋ธ์ ์ด๋ฏธ์ง์ ํนํ๋ ํฉ์ฑ๊ณฑ(Convolution) ์ฐ์ฐ์ LSTM ๋ชจ๋ธ ๋ด๋ถ๋ก ๊ฒฐํฉ์ํจ ํํ๋ก ๋ณผ ์ ์๋ค. ConvLSTM์ ๋ฐํํ ๋ ผ๋ฌธ์ ์ฃผ์ฅ์ ๋ฐ๋ฅด๋ฉด, ์ด๋ฌํ ๋ฐฉ์์ ์ฐ์ฐ์ Convolution ์ฐ์ฐ๊ณผ LSTM ์ฐ์ฐ์ ๋ฐ๋ก ๋๋์ด ํ์ตํ ๋๋ณด๋ค ๋ ํจ๊ณผ์ ์ผ๋ก ์ด๋ฏธ์ง์ ์จ๊ฒจ์ง ์๋์ ๋ณด๋ฅผ ํ์ตํ ์ ์๋ค๊ณ ํ๋ค.
์ด ๋ฐ์์ ์๋นํ ์ธ์๊น์๋ค. ์๋ํ๋ฉด ๋ฅ๋ฌ๋์ ์กฐ๊ธ ๋ฐฐ์ด ํ์์ด ์ด๋ฏธ์ง Sequence ํ์ต์ ๋ํด ๋ ์ฌ๋ฆด ์ ์๋ ๊ฐ์ฅ ํ๋ฒํ ์๊ฐ์, Convolution์ ๋จผ์ ํด์ ํน์ฑ๋ฒกํฐ๋ฅผ ์ถ์ถํ๊ณ , ์ด๋ฌํ ํน์ฑ๋ฒกํฐ๋ฅผ ๋ชจ์ Sequence๋ก ํ์ต์ํค๋ ๊ฒ์ด๊ธฐ ๋๋ฌธ์ด๋ค. ์ฆ, Two-Stage์ ๊ฑธ์ณ์ ์๋ก ๋ค๋ฅธ ์ข ๋ฅ์ ์ฐ์ฐ์ ๋ ๋ฒ ํ๋ ๊ฒ ๋์ , ๋ ์ฐ์ฐ์ ๊ฒฐํฉํ์ฌ One-Stage๋ก ํ์ต์ด ๋๋๋ก ๊ณ ์๋ ๊ฒ์ด๋ค!! ๋น์์๋ ๋ชฐ๋์ง๋ง, ์ด๋ ๋ง์น ๊ฐ์ฒด์ธ์ ๋ถ์ผ์์ Classification๊ณผ Localization์ ๋์์ ์ํํ๋ YOLO ๊ฐ์ One-Stage Detector ๋ชจ๋ธ์ ๋ ์ฌ๋ฆฌ๊ฒ ํ๋ค.
์ต์ข ์ ์ผ๋ก, ์๊ณ์ด ์ด๋ฏธ์ง ๋ฐ์ดํฐ์ ์๊ฐ์ ์์ฑ๊ณผ ๊ณต๊ฐ์ ์์ฑ์ ๋์์ ํ์ตํ๋ ๋ชจ๋ธ์ด ๋ง๋ค์ด์ง ์ ์์๋ค. ์ ๊ทธ๋ฆผ์ ์ค๋ฅธ์ชฝ์ ๋ณด๋ฉด ๊ทธ๋ฌํ ๋ชจ๋ธ์ ๋์์ด ํํ๋์ด ์๋ค. ๋ชจ๋ธ์ด Input์ ์ ๋ณด๋ฅผ ์ถฉ๋ถํ ํ์ตํ์ฌ ๋ฐ์ดํฐ๋ฅผ ์ ์ค๋ช ํ ์ ์๋ ํน์ฑ๋ฒกํฐ๋ฅผ Encodingํ ์ ์๊ฒ ๋๋ฉด, Decoding ํ๋ ๋ชจ๋ธ ๋ท ๋ถ๋ถ์์ ์ถ์ถ๋ ํน์ฑ์ ๊ธฐ๋ฐ์ผ๋ก ๋ฐ์ดํฐ๋ฅผ ๋ณต์ํ ์ ์์๋ค.
๊ทธ๋ฆฌ๊ณ ์ฌ์ค ์์ ๋ ๋ชจ๋ธ ์ด์ธ์๋, ์ธ๋ฒ์งธ๋ก ์ค๋นํ๋ ๋ชจ๋ธ์ด ์์๋๋ฐ ๋ฐ๋ก Trajectory GRU๋ผ๋ ๋ชจ๋ธ์ด์๋ค.
์ฌ๊ธฐ์ GRU๋ Gated Recurrent Unit์ ์ฝ์๋ก, LSTM๊ณผ ์ ์ฌํ๊ฒ Sequence๋ฅผ ํ์ตํ ์ ์๋ RNN ๊ณ์ด์ ๋ชจ๋ธ์ด๋ค. ๊ทธ๋ฆฌ๊ณ ์ด๋ฌํ GRU์ ๋ํด ConvLSTM๊ณผ ์ ์ฌํ๊ฒ Convolution ์ฐ์ฐ์ ๊ฒฐํฉํ์ฌ ํ์ตํ๋ ๋ชจ๋ธ์ ๊ดํ ๋ ผ๋ฌธ์ด ์์๋ค. ๋ค๋ง, ์ด ๋ถ๋ถ์ ๋ ผ๋ฌธ์ ๋ณด๋ฉฐ ์ด๋ก ์ ์ธ ๋ด์ฉ์ ์กฐ๊ธ ๊ณต๋ถํ์์ ๋ฟ ์ค์ ๋ก ๊ตฌํํ์ฌ ํ์ตํ์ง๋ ์์๊ธฐ ๋๋ฌธ์ ์ง๊ธ์ ์ค๋ช ์ ์ ํ ์ ์์ ๊ฒ ๊ฐ๋ค. (๋์ค์ ๋ค์ ๊ณต๋ถํด์ผ๊ฒ ๋ค.)
Trajectory GRU Model
Trajectory GRU๋ฅผ ์ ์ํ ๋ ผ๋ฌธ์ ์ฃผ์ฅ์ ๋๋ต ์ด๋ฌํ๋ค.
- Trajectory GRU๋ ์ด์ ์ํ์ ํ์ฌ ์ ๋ ฅ์ ๊ฒฐํฉํ์ฌ Local Information์ ํ์ฉํ๋ค.
- ConvLSTM๊ณผ ConvGRU์ Invariant Filter์ ๋ค๋ฅธ Variant ์ฑ๊ฒฉ์ Filter๋ฅผ ๊ฐ์ง๋ค.
- ์ฐ๊ฒฐ๊ตฌ์กฐ์ Filter Weight๊ฐ ์ ์ฐํ๋ค.
- ์ฐ์ฐ๋น์ฉ์ด ๋ณด๋ค ์ต์ ํ๋์๋ค.
- ๋ค๋ฅธ ๋ชจ๋ธ์ ๋นํด ๋์ ์ฑ๋ฅ์ ๋ณด์ฌ์ค๋ค.
์ฐ๋ฆฌ์ ๋ชจ๋ธ์ด ํ์ตํ์ฌ ์ต์ข ์ ์ผ๋ก ํ ์คํธ ๋ฐ์ดํฐ์ ์ ๋ํด ์ถ๋ก ํ ๊ฒฐ๊ณผ๋ ๋ค์๊ณผ ๊ฐ์๋ค.
๋ค์ ๊ทธ๋ฆผ์
์์ธก ๋ฐ์ฌ๋์ ์ค์ ๋ฐ์ฌ๋(๋นจ๊ฐ์ ์ฌ๊ฐํ)
๊ฒฐ๊ณผ์ ์ผ๋ก ํ๋ก์ ํธ์ ๊ฒฐ๋ก ์ ์ด๋ฌํ๋ค.
- RainNet์ ConvLSTM2D ๋ชจ๋ธ์ ๋นํด ํ์ต๋น์ฉ ๋๋น ์ฝ๊ฐ ๋ ๋์ ์ ํ๋๋ฅผ ๋ณด์ฌ์ฃผ์๋ค. ๋ค๋ง, ์ด๋ ConvLSTM ๋ชจ๋ธ์ชฝ์ ํ์ต์กฐ๊ฑด์ด ๋ถ์์ ํ๊ธฐ ๋๋ฌธ์ ํ์ ํ ์๋ ์์๋ค.
- ์์ ๋ค ์์ ์ ๋ ์ด๋ ๊ธฐ๋ฐ ๊ธฐ์์ด๋ฏธ์ง๋ฅผ ์ด์ฉํ์ฌ ๊ทธ ๋ค์ ์์ ์ ์ด๋ฏธ์ง๋ฅผ ์์ธกํ ์ ์์๋ค.
- Trajectory GRU ๋ชจ๋ธ, Time2Vec์ ์ด์ฉํ์ฌ ๋ ๋์ ์ ํ๋์ ๊ฐ์ ์ ๊ธฐ๋ํ ์ ์์์ง๋ง, ์๊ฐ๊ด๊ณ์ ๋ชจ๋ ๊ตฌํํ ์๋ ์์๋ค.
๊ทธ๋ฆฌ๊ณ ์ด๋ ๊ฒ ๋์ผ๋ก ์์ธก๊ฒฐ๊ณผ๋ฅผ ๋ณด๋ ๊ฒ์ ๋ชจ๋ธํ์ต์ด ์ ๋์๋์ง์ ๋ํ ์ ๋์ ์ธ ํ๋จ์ ๊ทผ๊ฑฐ๋ก๋ ๋น์ฝํ๋ค. ์ค์ ๋ก Dacon์์ ๋ชจ๋ธ ์ฑ๋ฅ์ ํ๊ฐ๋ฐ์ ๋๋, Precipitation Nowcasting ๋ถ์ผ์ Criterion์ด ์ ์ฉ๋์ด ๊ทธ ๊ฐ์ ๊ธฐ์ค์ผ๋ก ๋ชจ๋ธ์ ํ ์คํธ ์ฑ๋ฅ์ด ์ธก์ ๋์๋ค.
์ต์ข ์ ์ผ๋ก ์ธ๊ณต์ ๊ฒฝ๋ง์ ํ์ฉํ ๊ฐ์ฐ์์ธก ํ๋ก์ ํธ, ๋๊ธ ์ค์ผ๋ ๋ถ์ ํ๋ก์ ํธ 2๊ฐ ๋ชจ๋ ๊ต์ก๊ณผ์ ์์ ์ฐ์์์ผ๋ก ์ ์ ๋์๋ค! ์ด๋ ์์ ๊ธฐ๋ถ์ข์๋ค. ใ ใ
ํ์ง๋ง ์ฝ๋ก๋ ๋๋ฌธ์.. "2020 ๊ฐ์ BigData Forum"์์ ์งํ๋ ์์ ์ด์๋ ๊ต์ก์ ์ฐ์ ํ๋ก์ ํธ ์์ฐํ์ ํฌ์คํฐ ์ ์๊ฐ ๋ชจ๋ ์ทจ์๋์ด ๋ฒ๋ ธ๋ค.
ํ์ง๋ง! ์๊ณ ๋ณด๋ ํฌ๋ผ ์์ฒด๋ ์ทจ์๋ ๊ฒ์ด ์๋์๋ค. ๋น์์ ์ฝ๋ก๋๊ฐ ์ฌํด์ ธ์ 50๋ช ์ด์์ ๋ชจ์ผ ์ ์์๋๋ฐ, ๊ทธ ๋๋ฌธ์ ํ์๋ค์ ์ฐธ์ํ์ง ์๊ฒ ๋๊ณ ์ผ๋ถ ๊ด๊ณ์๋ค๋ง ๋ชจ์ฌ์ ์์ํ๊ฒ ํ์ฌ๊ฐ ์งํ๋์๋ ๊ฒ์ด๋ค. ๊ทธ๋ ์ฐํ ์ฌ์ง๋ค ์ค์๋ ๋ณธ ๊ต์ก๊ณผ์ ์ ์ฐ์์์ผ๋ก ์ ์๋ ๋์ ์ํ ์ฌ์ง๋ ์์๋ค! ใ ใ ใ
2020 ๊ฐ์ BigData Forum
์ ๋ณด๋ฉด.. ๋ด ์ด๋ฆ์ด ์ ํ ํฌ์คํฐ๊ฐ 2๊ฐ ์๋ค. ใ ใ
๊ฒฐ๊ณผ์ ์ผ๋ก 5๊ฐ์ ๋์์ ๊ต์ก๊ณผ์ + ํ ๋ฌ ๋์์ ํ๋ก์ ํธ์ ์์ ๋ ธ๋ ฅ์ด ๋น์ ๋ฐํ๊ฒ ๋์๋ค! ์ญ์ ๋ ธ๋ ฅ์ ๋ฐฐ์ ํ์ง ์๋๋ค. ๊ทธ๋ฆฌ๊ณ 6๊ฐ์(840์๊ฐ) ๋์ ํด๋น ๊ต์ก๊ณผ์ ์ ์ ์ด์ํ๋ค๋ ์๋ฃ์ฆ๋ช ์๋ ๋ฐ์๋ค. ์์ ๋ฟ๋ฏ ใ ใ
๊ต์ก๊ณผ์ ์๋ฃ์ฆ!!
๊ต์ก๊ณผ์ ์ ์๊ฐํ ์๊ธฐ๋ ๋ํ์ ์์ฌ 1ํ๊ธฐ์๋๋ฐ, ๋ํ์ ์์ ๋ฐ ์ฐ๊ตฌ๋ฅผ ์งํํ๋ฉด์ ๋์์ ๊ต์ก๊ณผ์ ์ ์๊ฐํ๊ณ ์ต์ข ํ๋ก์ ํธ๊น์ง ์งํํ๋๋ผ ์ ๋ง ์์ฒญ๋๊ฒ ๋ฐ๋นด๋ค. ๊ณผ์ฅ์ด ์๋๊ณ , ์์นจ 7์์ ์ผ์ด๋ ์ ๋ ์ ๋ฐ๋ฆฐ ์ฝ๋ฉ ๊ณต๋ถ๋ฅผ ํ๊ณ , ์์นจ์ ์ฐ๊ตฌ์ค์ ์ถ๊ทผํ์ฌ ๋ํ์ ์์ ๋ฐ ์ฐ๊ตฌ๋ฅผ ์งํํ๊ณ , ์ ๋ ์ดํ๋ถํฐ ์ ๋ค๊ธฐ ์ ๊น์ง ๋ค์ ์ฝ๋ฉ์ ํ๋ ๋ฏธ์น ์ผ์ ์ด 6๊ฐ์ ๋์ ์งํ๋์๋ค!! ๋๋ฌด ํ๋ค์ด์ ์ค๊ฐ์ ๋ํ์์ด๋ ๊ต์ก๊ณผ์ ๋ ์ค ํ๋๋ฅผ ํฌ๊ธฐํด์ผ ํ๋.. ์ง์งํ๊ฒ ์๊ฐํ๋ค. ์ 40๋ง์์ ๊ต์ก์๋น์ด ์์๋ค๋ฉด ์ง์์ ๊ทธ๋ง๋์์์ง๋ ๋ชจ๋ฅด๊ฒ ๋ค.
์ฌ๋ฌ๊ฐ์ง๋ก ํ๋ ์ ์ด ๋ง์์ง๋ง, 6๊ฐ์ ๋์ ์ ๋ง๋ก ๋ง์ ๊ฒ์ ๋ฐฐ์ ๋ค. ๊ทธ๋ฆฌ๊ณ ์ต์ข ํ๋ก์ ํธ๋ฅผ ์งํํ๋ฉฐ ์ ์ ๋ฐฐ์ด ์ง์๋ค์ ์ค์ ๋ก ํ์ฉํด๋ณผ ๊ธฐํ๊ฐ ์์ด์ ๋ ์ข์๋ค.
๊ต์ก๊ณผ์ ๋์ ์น์ ํ๊ฒ ํ์๋ค์ ์ด๋์ด์ฃผ์ ๊ฐ์๋ํ๊ต ์ตํฉ๋ณด์์ฌ์ ๋จ์ ์ด์์ ์ ์๋๊ป ์ง์ฌ์ผ๋ก ๊ฐ์ฌ๋ฅผ ๋๋ฆฐ๋ค. ๊ทธ๋ฆฌ๊ณ ๋ํ์ ์์ฌ ์ฒซ ํ๊ธฐ์ ๋ด์งํ๋ ์ ์๋ฅผ ๊ด๋ํ๊ฒ ๋ด์ฃผ์ จ๋ ์ง๋๊ต์ HSK ๊ต์๋๊ป๋ ๊ฐ์ฌ์ ๋ง์์ ๋๋ฆฐ๋ค.