๊ณ ์ฐจ์์์ ๊ตญ์์ ๋ฐฉ๋ฒ(interpolate->extrapolate)
ยท
๐ Statistics
K-NN (k-์ต๊ทผ์ ์ด์) *์์ ์ ์ด์ง๋ง ํธํฅ๋ ์ ํ ๋ชจ๋ธ vs ๋ ์์ ์ ์ด์ง๋ง ๋ ํธํฅ์ ์ธ ๋ชจ๋ธ *์ด๋ ํ x๋ ์ง ์ด์ ๊ฐ๊น์ด ๊ด์ธก์น์ ์ด์์ ๊ฝค ๋ง์ด ์ฐพ๊ณ ํ๊ท ์ ๊ตฌํ ์ ์๋ค. -> ํ์ง๋ง high dimension์์ ์ด ๋ฐฉ์์ ํตํ์ง ์๋๋ค. curse of dimensionality(Bellman, 1961) p์ฐจ์ ์ ๋์ ์ด์
๋ฐฉ์ฒด๋ด ๊ท ์ผํ๊ฒ ๋ถํฌ๋ ์
๋ ฅ๊ฐ์ ๊ดํ K-NN ๋ชจ๋ธ ๊ฐ์ $e_{r}$= $r^\frac{1}{p}$ ๊ณ ์ฐจ์์์ ํ์ง์ ๋ค๋ฅธ ์ค์ํ ์ ์ ๋ชจ๋ ํ๋ณธ ์ง์ ๋ค์ด ํ๋ณธ์ ๋ชจ์๋ฆฌ์ ๊ฐ๊น๋ค๋ ๊ฒ์ด๋ค. N๊ฐ์ ๋ฐ์ดํฐ ์ง์ ์ด ์์ ๋ ์์ ์ผ๋ก๋ถํฐ ๊ฐ์ฅ ๊ฐ๊น์ด ๋ฐ์ดํฐ ์ง์ ์ ์ค์๊ฐ์ ๊ฑฐ๋ฆฌ๋ฅผ $d(p,N) = (1 - \frac{1}{2}^(1/N))^(1/p)$ N=500, p=10 d..