고유값과 고유벡터 — 변환의 본질

안녕하세요, 오늘은 인공지능 수학의 핵심 중 핵심, 고유값과 고유벡터를 배워볼 거예요.

고유값과 고유벡터는 행렬이라는 변환의 본질을 드러내는 도구예요.

비유를 해볼게요. 태풍이 불면 나무가 사방으로 흔들리죠.

하지만 태풍의 눈 방향만큼은 바람이 일정해요. 그게 고유벡터의 직관이에요.

그림 왼쪽을 보세요. 피씨에이 차원 축소 박스가 있어요.

공분산 행렬의 고유벡터가 곧 주성분 방향이에요. 고유값이 클수록 정보가 많은 축이죠.

그 옆 빨간 박스를 보세요. 구글 페이지랭크예요.

전이 행렬의 주 고유벡터가 곧 각 페이지의 중요도 점수가 됩니다.

보라색 박스에는 에스브이디 추천 시스템이 있어요.

넷플릭스가 여러분 취향을 맞추는 것도 사실 행렬의 특이값 분해, 즉 고유값 분해의 확장이에요.

오른쪽 시안색 박스를 보면 헤시안 고유값 분석이 나와요.

딥러닝에서 손실 함수의 곡률을 파악할 때도 고유값을 씁니다. 경사가 급변하는 정도를 알려주죠.

가운데 파란 강조 박스를 보세요. 에이 곱하기 브이 같다 람다 곱하기 브이.

이 한 줄이 네 분야의 공통 원리예요. 행렬이 벡터의 방향을 보존한다는 뜻이에요.

하단 비교를 보시면, 일반 벡터는 행렬 곱 후 방향이 바뀌지만 고유벡터는 방향이 유지돼요.

왼쪽 회색 박스에서 일 영 벡터에 에이를 곱하면 삼 이 가 되어 방향이 틀어집니다.

반면 오른쪽 박스에서 일 일 벡터에 에이를 곱하면 삼 삼 이에요. 방향 그대로, 크기만 세 배.

이 방향 유지 성질이 바로 피씨에이가 데이터의 축을 찾는 원리입니다.

에이아이가 데이터를 이해할 때 찾는 건 결국 이 고유벡터라는 축이에요.

오늘 수업에서 이 개념을 정의부터 코드 구현까지 차근차근 살펴볼게요.