Ch.07
고유값과 고유벡터: 변해도 변하지 않는 방향
챕터별 수학 도식화
챕터를 선택하면 아래 도식이 해당 챕터 내용으로 바뀌어요. 중급 수학 흐름을 한눈에 보세요.
고유값과 고유벡터: 변해도 변하지 않는 방향
고유벡터는 행렬을 곱해도 방향이 꺾이지 않고 처음 있던 같은 직선 위에만 남습니다. 그 직선에서 길이가 몇 배로 바뀌는지를 나타내는 수가 고유값입니다.
행렬 / Matrix
고유값 / Eigenvalue
고유벡터 / Eigenvector
갈색 동그라미는 ‘공간을 어떻게 돌리고 늘이는지’ 변환 규칙입니다. 연두 동그라미는 그 직선에서의 길이 배율입니다. 붉은 밑줄은 등호 양쪽이 같은 방향임을 강조합니다. 바깥 곡선 화살표는 위 라벨과 가운데 글자를 짝지어 보여 줍니다.
세탁기에 빨랫감을 넣고 돌리는 모습을 떠올려 보세요. 물은 소용돌이 치고 옷은 엉키며, 움직임의 방향은 이리저리 꺾입니다. 어떤 행렬이 공간을 변환할 때도 비슷해서, 대부분의 벡터(데이터 화살표)는 변환 뒤 원래 있던 직선에서 벗어나 방향이 바뀝니다.
그런데 세탁기 한가운데 회전축은 달라요. 아무리 세게 돌아도 축은 같은 직선 위에 남습니다. 수학에서도 같은 직선 위에 그대로 남는 특별한 방향이 있고, 그때 길이만 배로 늘거나 줄어듭니다. 이런 방향을 고유벡터, 그때의 배율을 고유값이라고 부릅니다. 이 장에서는 복잡해 보이는 데이터 속에서 그런 고정된 축을 찾고, 그걸 기준으로 내용을 나누어 이해하는 연습을 합니다.
고유값과 고유벡터: 변해도 변하지 않는 방향
1. 고유벡터(Eigenvector): 소용돌이 속에서도 꺾이지 않는 나만의 축
행렬은 공간을 비틀고 돌리는 변환 기계라고 생각하면 됩니다. 대부분의 벡터는 변환 뒤 방향이 바뀝니다. 그런데 어떤 벡터는 처음 가리키던 직선 위에만 남고, 길이만 늘거나 줄어듭니다. 이런 “방향이 안 꺾이는” 벡터를 고유벡터라고 부릅니다. 핵심 한 줄은 — “행렬에 곱해도 같은 직선, 길이만 배로”라고 외우면 됩니다.
2. 고유값(Eigenvalue): 그 축 위에서 일어나는 신축과 반전의 배율
고유벡터는 방향은 그대로이고 길이만 바뀝니다. 그때 길이가 원래의 몇 배인지를 나타내는 숫자가 고유값입니다. 배율이 1보다 크면 늘어나고, 0과 1 사이면 줄어듭니다. 음수면 같은 직선 위에서 반대쪽을 가리키는 것처럼 보입니다.
3. 특성방정식: 고유값을 구하는 대표적인 식
고유값은 특성방정식을 세워 후보를 고릅니다. 직관적으로는 “적당한 후보를 넣었을 때 공간이 한 겹 찌그러져 넓이·부피 느낌이 사라지는 지점”을 찾는다고 생각하면 됩니다. 그때 나오는 방향이 고유벡터 후보입니다.
4. 대각화(Diagonalization): 복잡한 얽힘을 단순한 축으로 풀기
서로 다른 고유방향을 충분히 모아 새 기준축으로 삼을 수 있으면, 복잡한 변환을 축마다 숫자만 곱하는 아주 단순한 형태로 바꿔 쓸 수 있습니다. 한마디로 “축끼리 섞이지 않고 배율만 적용된다”고 읽으면 됩니다.
5. trace·det: 손가락 두 개로 검산하기
행렬식 는 정사각 행렬이 공간 부피(2차원에서는 넓이)를 선형 변환으로 몇 배로 바꾸는지 나타내는 하나의 숫자입니다(Ch.05). 이 장에서는 “고유값을 곱하면 그 배율과 같다”는 점을 빠른 검산에 씁니다.
고유값들의 합은 행을 따라 대각에 있는 숫자를 더한 값(대각합)과 같고, 곱은 행렬식과 같습니다(같은 값이 여러 번 나오면 그만큼 더 셉니다). 2×2에서는 이 두 숫자만으로 맞는지 빠르게 확인할 때가 많습니다.
한 줄 요약: — 고유벡터는 같은 직선, 고유값은 그 길이 배율. 후보는 특성방정식으로 고르고, 앞 장의 행렬식·독립과 이어 PCA·동역학 등으로 연결됩니다.
고유값과 고유벡터는 여러 방향이 한꺼번에 섞여 있을 때, “가장 의미 있는 축”을 골라 내는 데 도움이 됩니다.
차원이 아주 큰 데이터에서는, 어떤 방향은 값이 크게 바뀌고(중요한 정보), 어떤 방향은 거의 안 바뀝니다(덜 중요). 공분산 행렬의 고유벡터를 보면 “데이터가 가장 크게 퍼지는 방향”을 짚을 수 있고, 고유값은 그 크기를 숫자로 말해 줍니다.
같은 행렬을 여러 번 곱하는 상황(날씨·시장·웹 랭킹처럼 규칙이 반복될 때)에서도 고유값이 큰 도움이 됩니다. 끝까지 다 곱해 보지 않아도, 값이 폭발할지·0으로 줄어들지·어느 정도로 안정될지 대략 가늠할 수 있습니다.
1. 주성분 분석(PCA)과 차원 압축 (가장 중요한 특징 찾기)
얼굴 사진처럼 픽셀이 아주 많을 때, 모든 픽셀이 같은 중요도는 아닙니다. 공분산 행렬을 만들고 고유벡터를 구하면, 가장 큰 고유값에 해당하는 방향이 눈·윤곽처럼 “한눈에 잘 보이게 달라지는” 주된 방향이 되는 경우가 많습니다. 그 방향 몇 개만 남기면 정보는 거의 유지하면서 차원만 크게 줄일 수 있습니다.
2. 구글 알고리즘의 탄생, 페이지랭크(PageRank)
웹 페이지들이 서로 링크로 연결되어 있을 때, “랜덤으로 계속 클릭하면 어디에 가장 많이 머무를까?”를 행렬로 표현합니다. 그 안정적인 점수 분포를 구하는 문제는, 점수를 한 번 더 적용해도 그대로인 고정 방향을 찾는 유형과 같다고 보면 됩니다.
3. 딥러닝과 동역학계의 안정성 (기울기 폭발 방지)
RNN처럼 같은 행렬을 여러 번 곱하는 모델에서는, 고유값의 크기가 1보다 훨씬 크면 값이 폭주(기울기 폭발)하고, 모두 1보다 작으면 신호가 거의 사라질 수 있습니다(기울기 소실). 그래서 학습이 잘 되도록 스펙트럼이 1 근처에 오게 설계하는 일이 중요합니다.
이 장의 뼈대는 한 줄입니다. 고유벡터는 변환 뒤에도 같은 직선에 남는 방향, 고유값은 그 직선에서의 길이 배율입니다. 값은 특성방정식으로 구하고, 필요하면 닮음·대각화·대각합·행렬식으로 성질을 점검합니다.
- 말로 정리고유쌍
- 의미같은 직선 위에서 방향은 고정, 길이만 배로 변함 ()
- 말로 정리특성방정식
- 의미고유값 후보를 고르는 대표적인 한 식
- 말로 정리고유방향 구하기
- 의미후보를 정한 뒤, “그 배율을 빼서 만든 식”을 풀어 방향을 찾음
- 말로 정리기하적·대수적 중복
- 의미한 고유값에 대응하는 방향이 실제로 몇 차원인지 vs 방정식에서 몇 번 겹치는지
- 말로 정리대각화
- 의미독립된 고유방향이 충분하면, 축마다 숫자만 곱하는 형태로 단순화
- 말로 정리
- 의미부피·넓이 배율(Ch.05); 고유값 곱과 같아 검산
- 말로 정리대각합·행렬식
- 의미고유값의 합과 곱을 빠르게 점검할 때 쓰는 두 숫자
| 말로 정리 | 의미 |
|---|---|
| 고유쌍 | 같은 직선 위에서 방향은 고정, 길이만 배로 변함 () |
| 특성방정식 | 고유값 후보를 고르는 대표적인 한 식 |
| 고유방향 구하기 | 후보를 정한 뒤, “그 배율을 빼서 만든 식”을 풀어 방향을 찾음 |
| 기하적·대수적 중복 | 한 고유값에 대응하는 방향이 실제로 몇 차원인지 vs 방정식에서 몇 번 겹치는지 |
| 대각화 | 독립된 고유방향이 충분하면, 축마다 숫자만 곱하는 형태로 단순화 |
| 부피·넓이 배율(Ch.05); 고유값 곱과 같아 검산 | |
| 대각합·행렬식 | 고유값의 합과 곱을 빠르게 점검할 때 쓰는 두 숫자 |
① 2×2는 합·곱만으로도 맞는지 자주 확인합니다.
② 상삼각·대각이면 대각에 적힌 숫자가 고유값입니다.
③ 닮은 두 행렬은 고유값 묶음이 같습니다.
④ 서로 다른 고유값에 속한 고유벡터는 서로 독립입니다.
풀이 예시
예시 1 — 정의
문제: “행렬에 곱해도 같은 직선”일 때 배율 숫자와 방향 벡터를 각각 뭐라 부를까?
풀이: 배율이 고유값, 그 방향이 고유벡터입니다.
예시 2 — 참·거짓
문제: 닮은 두 행렬은 특성다항식이 같다.
풀이: 참입니다.
예시 3 — 대각행렬
문제: 대각에 3과 2만 있는 2×2 대각행렬의 고유값은?
풀이: 3과 2입니다(대각만 읽으면 됨).
예시 4 — 거듭제곱
문제: 배율이 λ일 때 같은 변환을 세 번 거치면 그 직선에서 배율은 어떻게 될까?
풀이: λ를 세 번 곱한 값에 해당합니다.
예시 5 — 합·곱
문제: 고유값이 1과 4이면 대각합과 행렬식은?
풀이: 합 5, 곱 4입니다.
예시 6 — PCA
문제: 공분산에서 가장 큰 고유값에 해당하는 방향의 의미는?
풀이: 데이터가 가장 크게 퍼지는 주성분 방향입니다.
연습 문제
에서 축에 대한 반사 행렬 의 고유값은?
1 / 10