2022. 1. 29. 01:38ㆍ코딩/AI
1. 주성분 분석(PCA; Principal component analysis)는 고차원의 데이터를 저차원의 데이터로 환원시키는 기법을 뜻한다.
=> 차원 축소(Diensionality Reduction)
이 때, 차원 축소를 위해 직교 변환(orthogonal projection)을 이용한다.

Projection의 규칙은 Maximum variance이다.
2. Maximum Variance Formulation

이 때, Variance of the projected data는 다음과 같다. (m < d)



의 조건은 그냥 '크기' 때문이다.(조건)





보라색 밑줄 친 부분이 Covariance matirx of data(= S) 이다.
라그랑즈 승수법(Lagrange multiplier method)를 이용하면

이를 미분하면


즉,

는 maximum eigenvalue와 같다.
3. PCA의 의미
PCA는 차원 축소와 함께 data의 Strongest pattern을 띈다.

파이썬 코드
PCA using Python (scikit-learn)
My last tutorial went over Logistic Regression using Python. One of the things learned was that you can speed up the fitting of a machine learning algorithm by changing the optimization algorithm. A…
towardsdatascience.com
'코딩 > AI' 카테고리의 다른 글
MCP (Model Context Protocol) 뜻, 설명, 만드는 방법, 파이썬 코드 실행, Claude for Desktop 설치 (0) | 2025.03.31 |
---|---|
5. 비지도 학습 (Unsupervised Learning), Clustering 뜻, 파이썬 코드 (0) | 2022.02.11 |
4. 경사 하강법 Gradient Descent, 파이썬 코드, 머신 러닝 (0) | 2022.02.08 |
3. 딥러닝 Overfitting(과적합)과 Regularization 뜻(Ridge, Lasso regression) (0) | 2022.02.07 |
2. 지도 학습(Supervised learning): 회귀 분석(Regression), 파이썬 코드 (0) | 2022.02.06 |