03. ๋ฐ์ดํฐ ๊ณผํ ๋ฐ ๋ถ์
03. ๋ฐ์ดํฐ ๊ณผํ ๋ฐ ๋ถ์ ๊ด๋ จ
ํ์ด์ฌ์ ๋ฐ์ดํฐ ๊ณผํ๊ณผ ๋ถ์ ๋ถ์ผ์์ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ์ธ์ด ์ค ํ๋์ ๋๋ค. ๊ทธ ์ธ๊ธฐ์ ์ด์ ๋ ๊ฐ๋ ฅํ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ, ์ฌ์ด ํ์ต ๊ณก์ , ๊ทธ๋ฆฌ๊ณ ํ๋ฐํ ์ปค๋ฎค๋ํฐ ์ง์์ ์์ต๋๋ค. ํ์ด์ฌ์ ๋ฐ์ดํฐ ์์ง, ์ฒ๋ฆฌ, ๋ถ์, ์๊ฐํ ๋ฑ ๋ฐ์ดํฐ ๊ณผํ์ ์ ๊ณผ์ ์ ์์ฐ๋ฅด๋ ํฌ๊ด์ ์ธ ๋๊ตฌ๋ฅผ ์ ๊ณตํฉ๋๋ค.
- ๊ฐ๋ ฅํ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: Pandas๋ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ๋ถ์์ ํ์์ ์ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ก, ๋ณต์กํ ๋ฐ์ดํฐ๋ฅผ ์ฝ๊ฒ ์กฐ์ํ๊ณ ๋ถ์ํ ์ ์๋ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. NumPy๋ ๊ณผํ์ ๊ณ์ฐ์ ์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ก, ๋๊ท๋ชจ์ ์์น ๋ฐ์ดํฐ๋ฅผ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํฉ๋๋ค.
- ํต๊ณ ๋ฐ ๋จธ์ ๋ฌ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: Scikit-learn์ ๋จธ์ ๋ฌ๋์ ์ฌ์ฉ๋๋ฉฐ, ๋ค์ํ ํต๊ณ์ ๋ชจ๋ธ๋ง๊ณผ ๋จธ์ ๋ฌ๋ ์๊ณ ๋ฆฌ์ฆ์ ๊ฐํธํ๊ฒ ์ ์ฉํ ์ ์๊ฒ ํด์ค๋๋ค. Statsmodels๋ ํต๊ณ์ ๋ชจ๋ธ๋ง๊ณผ ๊ฐ์ค ๊ฒ์ ์ ์ฌ์ฉ๋ฉ๋๋ค.
- ํจ๊ณผ์ ์ธ ๋ฐ์ดํฐ ์๊ฐํ: Matplotlib๊ณผ Seaborn์ ๋ฐ์ดํฐ ์๊ฐํ๋ฅผ ์ํ ๊ฐ๋ ฅํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ๋๋ค. ์ด๋ค์ ์ฌ์ฉํ์ฌ ๋ณต์กํ ๋ฐ์ดํฐ ์ ์ ์ดํดํ๊ธฐ ์ฌ์ด ๊ทธ๋ํฝ๊ณผ ์ฐจํธ๋ก ๋ณํํ ์ ์์ต๋๋ค.
- ์ฌ์ด ํ์ต ๊ณก์ ๊ณผ ์ ๊ทผ์ฑ: ํ์ด์ฌ์ ๊ฐ๊ฒฐํ๊ณ ๋ช ํํ ๋ฌธ๋ฒ์ ์ด๋ณด์๋ ์ฝ๊ฒ ํ์ตํ ์ ์๊ฒ ํด์ฃผ๋ฉฐ, ๋ค์ํ ์๋ฃ์ ์ปค๋ฎค๋ํฐ์ ์ง์์ผ๋ก ๋ฐ์ดํฐ ๊ณผํ ๋ถ์ผ์ ์ฝ๊ฒ ์ ๊ทผํ ์ ์์ต๋๋ค.
- ๋๊ท๋ชจ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ๋ถ์ฐ ์ปดํจํ : Dask, Apache Spark์ ๊ฐ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ ๋๊ท๋ชจ ๋ฐ์ดํฐ์ ์ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํ ์ ์๊ฒ ํด์ฃผ๋ฉฐ, ๋ณ๋ ฌ ์ฒ๋ฆฌ์ ๋ถ์ฐ ์ปดํจํ ์ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค.
ํ์ด์ฌ์ ๋ฐ์ดํฐ ๊ณผํ์์ ๋ถ์๊ฐ์๊ฒ ํ์์ ์ธ ๋๊ตฌ์ ๋๋ค. ์ด ์ธ์ด๋ ๋ฐ์ดํฐ ๊ธฐ๋ฐ์ ํต์ฐฐ๋ ฅ์ ์ป๊ณ , ์ ๋ณด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ ์์ฌ๊ฒฐ์ ์ ๋ด๋ฆฌ๋ ๋ฐ ํ์ํ ๊ด๋ฒ์ํ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. ๋ฐ์ดํฐ ๊ณผํ๊ณผ ๋ถ์ ๋ถ์ผ์์์ ํ์ด์ฌ์ ์ฌ์ฉ์ ๋น์ฆ๋์ค ์ธํ ๋ฆฌ์ ์ค, ๊ณ ๊ธ ๋ถ์, ์ธ๊ณต ์ง๋ฅ ๊ฐ๋ฐ ๋ฑ ๋ค์ํ ๋ถ์ผ์์ ํ์ ์ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค.
์ ๊ฒฝ ์จ์ผ ํ ์์
์ฑ๋ฅ ์ต์ ํ
ํ์ด์ฌ์ ์ธํฐํ๋ฆฌํฐ ์ธ์ด๋ก ์คํ ์๋๊ฐ ์๋์ ์ผ๋ก ๋๋ฆด ์ ์์ต๋๋ค. ํฐ ๋ฐ์ดํฐ์ ์ ๋ค๋ฃฐ ๋๋ ์ฑ๋ฅ์ด ์ค์ํ๋ฏ๋ก, Cython ๊ฐ์ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ์ฌ ์๋๋ฅผ ํฅ์์ํฌ ์ ์์ต๋๋ค.
๋ฉ๋ชจ๋ฆฌ ๊ด๋ฆฌ
๋ฐ์ดํฐ๊ฐ ๋ง์ ๊ณตํ์ ๊ณ์ฐ์์๋ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋์ด ๊ธ๊ฒฉํ๊ฒ ์ฆ๊ฐํ ์ ์์ต๋๋ค. ์ด๋ฅผ ํจ์จ์ ์ผ๋ก ๊ด๋ฆฌํ๊ธฐ ์ํด ๋ฐ์ดํฐ ํ์ ๊ณผ ๊ตฌ์กฐ๋ฅผ ์ ์คํ๊ฒ ์ ํํ๊ณ , ํ์ ์๋ ๋ฐ์ดํฐ๋ ์ ์์ ์ญ์ ํด ๋ฉ๋ชจ๋ฆฌ ๋์๋ฅผ ๋ฐฉ์งํด์ผ ํฉ๋๋ค.
๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์ ํ ๋ฐ ์ฌ์ฉ
๋ฐ์ดํฐ ๊ณผํ์์๋ ๋ค์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๊ฐ ์กด์ฌํฉ๋๋ค. ๊ฐ๊ฐ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๊ฐ ์ ๊ณตํ๋ ๊ธฐ๋ฅ๊ณผ ์ฑ๋ฅ์ ์ ์ดํดํ๊ณ , ํ๋ก์ ํธ ์๊ตฌ์ ๋ง๊ฒ ์ ์ ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ ํํด์ผ ํฉ๋๋ค.
๋ค์ํ ํ๋ซํผ๊ณผ์ ํธํ์ฑ
๋ค์ํ ์ด์ ์ฒด์ ๋ ํ๋์จ์ด์์๋ ์ ๋์ํ๋๋ก ์ฝ๋๋ฅผ ์์ฑํ๋ ๊ฒ์ด ์ค์ํฉ๋๋ค. ํนํ ์คํ์ ์ธ ์ฅ๋น๋ ํน์ํ ํ๊ฒฝ์์ ํ์ด์ฌ ์ฝ๋๋ฅผ ์ฌ์ฉํ ๋๋ ํธํ์ฑ์ ๊ณ ๋ คํด์ผ ํฉ๋๋ค.