💿 Data

KNN(K-Nearest Neighbors)

K-Nearest Neighbors : input feature에 대해 최근접 k개의 데이터의 f(x)값을 다수결 형식으로 따라가는 방식 Nonparametric approach(비모수 접근) - 데이터가 특정 분포를 따른다고 가정하지 않는다. - train data가 많을수록 파라미터의 갯수도 많아진다. (모수 접근과 다르게 파라미터의 갯수가 한정되지 않는다.) Classification : 임의의 k에 대해 input feature 최근접 k개의 데이터 label을 따라 다수결로 결정 Regression : 마찬가지로 최근접 k개의 데이터 값에 대한 평균 혹은 linear regression Curse of Dimensionality(차원의 저주) : 데이터의 차원이 커질수록 모델의 성능이 급격하게 ..