본문 바로가기

차원축소

Principal Component Analysis(PCA) 알고리즘 전체코드 및 결과에 대한 내용은 아래 GitHub 에 PDF 로 올려두었으니 참고해 직접 작성해보면 도움될 듯하다. GitHub주소: https://github.com/pjh5672/Machine_Learning/blob/master/Mathematics_for_Machine_Learning%20(Imperial%20College%20London)/principal_component_analysis.ipynb Principal Component Analysis(PCA), 주성분 분석 알고리즘은 대표적인 비지도학습 기법으로 주로 차원을 축소하고 데이터를 압축하는데 사용되며, 알고리즘 구현방법은 아래와 같다. 데이터 정규화 - Whitening 이라고도 하며, 데이터분포를 원점 기준으로 변경.. 더보기
4-5. Projection Pursuit (PP) 용어정의 Projection pursuit (PP) 1. 용어정의 아래 페이지를 참고해주세요. 2021.04.01 - [인공지능/머신러닝] - 4-1. Multivariate Analysis : PCA (1/2) 2. Projection pursuit (PP) Projection Pursuit(PP)방법은 기존의 데이터를 더 낮은 차원으로 변환시키며, 가장 "Interesting"한 차원을 찾는 것으로 아래 그림으로 나타낼 수 있다. PP는 고차원을 갖는 데이터의 경우에 발생하는 문제인 "curse of dimensionality" 를 피할 수 있는 multivariate analysis 방법으로, 앞서 설명했던 PCA나 ICA가 이 PP의 Special Case로 속하며, noisy 혹은 .. 더보기
4-2. Multivariate Analysis : PCA (2/2) 용어정의 Multivariate analysis : PCA (2/2) Principal component analysis (PCA in details) 1. 용어정의 아래 페이지를 참고해주세요. 2021.04.01 - [인공지능/머신러닝] - 4-1. Multivariate Analysis : PCA (1/2) 2. Principal component analysis (PCA in details) 2021.04.01 - [인공지능/머신러닝] - 4-1. Multivariate Analysis : PCA (1/2) 의 글에서 소개된 PCA 알고리즘을 수식으로 하나씩 풀어나려면, 우선 데이터 X에 대한 Covariance matrix 계산이 필요하다. 기존의 입력데이터 X가 m > n인 m x .. 더보기
4-1. Multivariate Analysis : PCA (1/2) 용어정의 Multivariate analysis : PCA (1/2) Introduction Principal component analysis (PCA) 1. 용어정의 Orthonormal : 서로 직교하며, 그 크기가 1인 두 벡터간의 성질을 말함 2. Introduction 여러 개의 종속 변수를 동시에 분석하는 방법인 다변량분석(Multivariate analysis) 는 'Linear Transform Methods'으로 Transformation matrix를 통해 아래의 경우에 활용할 수 있다. 3. Principal component analysis (PCA) 주성분 분석이라고 하며, 데이터를 분산이 가장 큰 부분을 기준으로 하는 새로운 축을 찾는 것이다. 아래 그림과 같이 기.. 더보기

728x90
반응형