Dimension Reduction

Find the best
Vector Space that represents data effectively

More well behaved representation from optimization perspective. Therefore, we must minimize the information (residual) that is lost when reducing dimensions.

Observed dimensionality 데이터셋은 보통 모든 가능한 경우를 포함하지 않으므로 (의미없는 데이터는 미포함). 따라서 이러한 경우에는 데이터셋의 차원이 실제로는 낮출수 있다

Dimension Reductions

Linear dimensionality reduction

Non-linear dimensionality

Dimension Reduction Notion

Embedding vector

Data Whitening

'차원의 저주'를 경계하라...효율적 알고리즘 구축 위한 '차원 축소'란 무엇일까?

과유불급이라는 말이 있다. 지나친 것은 적은 것만 못하다는 뜻이다. 이 오래된 사자성어가 최첨단 머신러닝 알고리즘과 어울릴 때가 있다. 바로 '차원의 저주'라 불리는 데이터 과적용 현상을 표현할 때다.차원의 저주(Curse of Dimensionality)는 데이터 용량이 커지면서 불필요한 샘플이 많아지는 것을 뜻한다. 일례로 1개월 간 강수량을 예측하는 모델을 개발한다고 가정해보자.

http://www.aitimes.com/news/articleView.html?idxno=138584

Dimension Reduction

Find the best Vector Space that represents data effectively

Recommendations

Find the best
Vector Space that represents data effectively