모두의 AI
머신러닝AI논문
로딩 중…

배우기

🏅내 업적

Ch.05

역행렬과 행렬식: 되감기와 넓이의 비밀

챕터별 수학 도식화

챕터를 선택하면 아래 도식이 해당 챕터 내용으로 바뀌어요. 중급 수학 흐름을 한눈에 보세요.

행렬식 한 숫자로 — 넓이는 몇 배로 바뀌는지, 그림이 거울처럼 뒤집혔는지 알 수 있어요

파란 칸은 처음 모양(정사각형), 빨간 칸은 밀려 난 기울어진 네 모서리 도형이에요. 점선은 같은 모서리끼리 이은 선입니다

두 패널이 같이 움직여요. 격자가 비뚤어지며 당겨질수록 빨간 도형의 넓이 배율과, 모서리를 도는 방향이 뒤바뀌는지가 함께 바뀝니다

PP′PP′
행렬식은 단위 칸이 빨간 평행사변형이 될 때 넓이가 몇 배인지(절댓값)와 방향이 거울처럼 뒤집혔는지(부호)를 한 숫자에 담아요. 왼쪽은 넓이만 커지고 도는 방향은 그대로(양수).
오른쪽도 같은 그림인데, 넓이 비율은 비슷해 보여도 모서리 도는 방향이 바뀌어 부호가 음수예요.
스마트폰 사진 편집에서 크기·회전·기울이기를 할 때, 컴퓨터 안에서는 사실상 행렬을 곱해 공간을 만지는 과정이 일어납니다. Ch.04에서 행렬이 찰흙·밀가루 반죽처럼 공간을 주무르는 규칙이었다면, 이번 장은 두 가지 질문을 던집니다. 첫째, 한 번 주물러 버린 뒤 완벽히 원래 모양·각도로 되돌릴 수 있을까요? — 그 답이 역행렬입니다. 둘째, 늘리거나 눌렀을 때 면적·부피가 몇 배가 될까요? — 그 답이 행렬식입니다. 둘은 숫자 문제를 넘어, 데이터가 학습·계산 과정에서 붕괴하지 않고 보존되는지를 보는 가장 기초적인 문법이며, 회귀·최적화·확률 코드에서도 같은 질문으로 이어집니다.

역행렬과 행렬식: 되감기와 넓이의 비밀

1. 역행렬: 마법의 되감기 버튼
행렬 AAA가 공간을 비스듬히 밀거나 돌렸다면, 역행렬 A−1A^{-1}A−1은 그 변화를 정확히 반대로 밟아 원래 상태로 복구하는 장치입니다. 핵심 식은 AA−1=A−1A=IAA^{-1}=A^{-1}A=IAA−1=A−1A=I — III는 항등행렬로, 숫자의 1처럼 아무 변화도 주지 않는 가만한 상태입니다. 변환 다음 되감기를 곱하면 결국 처음(III)으로 돌아온다는 뜻이죠.
그러나 모든 변환을 되돌릴 수는 없습니다. 3차원 찰흙을 발로 밟아 납작한 판으로 만들었다면, 원래가 공이었는지 별 모양이었는지 알 길이 없습니다. 점들이 겹치거나 뭉개져 정보가 사라지면 역행렬은 존재하지 않습니다.
2. 행렬식: 넓이 변화를 재는 눈금자
행렬식 det⁡(A)\det(A)det(A)는 변환 후 원래 도형의 면적(또는 부피)이 몇 배인지를 나타내는 배율입니다. 가장 기본인 2×22\times22×2에서는 det⁡(A)=ad−bc\det(A)=ad-bcdet(A)=ad−bc — 대각 방향으로 곱한 뒤 서로 빼는 아주 짧은 계산입니다.
- 크기: 값이 333이면 면적이 3배, 0.50.50.5면 절반으로 줄었다는 뜻입니다.
- 부호: 음수(예: −2-2−2)이면 넓이는 여전히 2배지만, 공간이 거울에 비친 것처럼 앞뒤가 뒤집혔다는 신호입니다.
- 0: 면적이 0 — 평면이 선이나 점으로 완전히 찌그러졌다는 뜻이라 되감기도 구할 수 없습니다.
3. 손으로 자주 쓰는 2×2 패턴
위 ad−bcad-bcad−bc만 손에 익혀 두면 판별·검산에 충분합니다. 0이 아니면 역이 있고, 0이면 두 열이 한 직선 위에 놓인 전형적인 특이(singular) 상황입니다. 큰 역행렬 표는 치트시트·계산기에 맡기고, 대각 맞바꿈·부호 뒤집기의 리듬만 몸에 익히면 됩니다.
4. 곱의 역: 양말과 신발의 법칙
여러 변환을 연달아 적용하는 것이 행렬 곱 ABABAB입니다. 이를 한 번에 되감는 역은 (AB)−1=B−1A−1(AB)^{-1}=B^{-1}A^{-1}(AB)−1=B−1A−1 — 순서가 앞뒤로 뒤바뀝니다. 아침에 양말(BBB)을 먼저 신고 신발(AAA)을 신었다면, 집에 와서 맨발이 되려면 나중에 신었던 신발부터 벗고, 그다음 양말을 벗어야 합니다. 행렬도 나중에 적용된 필터부터 벗겨 내야 하므로 수식이 거꾸로 옵니다. 넓이 배율은 각 단계 배율을 곱한 것과 같다고 보면 됩니다(Ch.04 합성과 연결).
5. 특이(singular)와 ‘납작 샌드위치’
행렬식이 0이면 정보가 한 줄·한 면으로 눌립니다. 납작해진 샌드위치에서 원래 층을 복원할 수 없듯, 무한히 많은 해나 해 없음으로 컴퓨터가 길을 잃기 쉽습니다. 이때는 ‘진짜 역’ 대신 릿지나 의사역처럼 근사로 되돌리는 도구가 나옵니다(Ch.06과 연결).
한 줄 요약: 되감기는 정보가 한 줄로 눌리지 않을 때 가능하고, 행렬식은 얼마나 넓혀졌는지(절댓값)와 뒤집혔는지(부호)를 말합니다. 합성을 되감을 때는 나중에 한 일부터 거꾸로 하는 그림만 손에 익히면, 이후 최적화·통계 코드를 읽을 때도 훨씬 편해집니다.
딥러닝은 층을 쌓을수록 행렬 곱이 이어지는 탑과 비슷합니다. 역행렬이 있는지는 ‘한 번에 답이 하나로 정해지는지’, 행렬식이 0에 너무 가까운지는 ‘중간에 공간이 찌그러져 정보가 섞였는지’를 보는 경고등에 가깝습니다. 역이 망가지면 업데이트 방향이 여러 갈래로 갈리거나 아예 없어져 학습이 들쭉날쭉해질 수 있어요. 행렬식은 각 단계에서 면적·부피가 몇 배로 커졌는지(절댓값)와 앞뒤가 뒤집혔는지(부호)를 알려 줘서, 데이터가 층 사이에서 덜 새고 지나가는지 감으로 점검하게 해 줍니다.
식과 코드 이름은 다르지만, 자주 돌아오는 질문은 세 가지예요: 되돌릴 수 있나? 공간이 얼마나 늘어났나? 거울처럼 뒤집혔나? 선형 회귀 가중치, 학습 중 헤시안(손실을 가중치로 두 번 미분해 만든 행렬—어느 방향이 급경사이고 어느 방향이 완만한지를 요약)이 거의 특이하면 어떤 방향으로는 손실 면이 너무 평평해 업데이트가 불안정해질 수 있고, 생성 모델에서 좌표를 바꿀 때 나오는 부피 보정(행렬식·야코비안)까지 같은 그림으로 이어집니다.
전통 ML·선형 모델: 최소제곱 해를 쓸 때 (XTX)−1(X^{\mathsf T}X)^{-1}(XTX)−1처럼 역이 필요합니다. 특징들이 서로 너무 비슷하면(다중공선성) 행렬식이 0 근처로 가서 역을 못 구하고 수치가 터집니다. 이때 릿지(Ridge)는 대각에 작은 λ\lambdaλ를 더해 (XTX+λI)−1(X^{\mathsf T}X+\lambda I)^{-1}(XTX+λI)−1로 ‘숨구멍’을 내 주는 안전장치입니다.
딥러닝·생성 모델: 층마다 선형 변환이 곱해지니, 중간에 공간이 한 줄로 찌그러지면 정보가 섞여 역으로 나누기 어렵습니다. 역행렬을 직접 안 쓰더라도 헤시안은 손실 곡면의 굽기(어느 방향은 가파르고 어느 방향은 거의 평평한지)를 나타내고, 이 행렬이 거의 특이(일부 방향이 너무 평평)하면 업데이트 방향이 불안정해질 수 있습니다. 정규화 플로우처럼 좌표를 바꿔 확률 밀도를 쓸 때는 부피가 몇 배 바뀌는지를 행렬식(야코비안)으로 맞춰야 값이 맞습니다.
물 한 컵 비유: 같은 양의 물을 더 넓은 쟁반에 고르게 부으면 받친 면적은 커지지만, 물층 깊이(단위 면적당 물의 양)는 얇아집니다. 확률 밀도도 좌표를 늘리거나 비틀면 같은 이유로 단위 부피·단위 면적당 확률을 맞추려면 ∣det⁡(A)∣\lvert\det(A)\rvert∣det(A)∣로 보정합니다. 이미지를 다른 좌표계로 보내는 일부 생성·변환 모델에서도 같은 생각이 들어갑니다. 기하: 절댓값은 부피 배율, 부호는 뒤집힘. 수치: 조건이 나쁘면 작은 오차에도 답이 크게 흔들립니다.
아래 표에는 역행렬·행렬식에 자주 나오는 기호와 규칙을 정리했습니다. 풀이 예시는 연습 문제 은행의 대표 유형(정의·진위·계산·개념·성질 전개·응용)을 따라 문제 / 풀이 형식으로 적어 두었습니다.
  • 기호A−1A^{-1}A−1
  • 의미역행렬. AA−1=A−1A=IAA^{-1}=A^{-1}A=IAA−1=A−1A=I를 만족
  • 기호det⁡(A)\det(A)det(A)
  • 의미면적·부피가 몇 배인지(절댓값). 부호는 공간 뒤집힘 여부
  • 기호det⁡(AB)\det(AB)det(AB)
  • 의미det⁡(A)det⁡(B)\det(A)\det(B)det(A)det(B)
  • 기호(AB)−1(AB)^{-1}(AB)−1
  • 의미B−1A−1B^{-1}A^{-1}B−1A−1 (합성의 되감기는 역순)
  • 기호특이(singular)
  • 의미det⁡(A)=0\det(A)=0det(A)=0. 완전한 A−1A^{-1}A−1 없음
  • 기호κ(A)\kappa(A)κ(A)
  • 의미조건수. 역이 있어도 해가 예민할 수 있음
기호의미
A−1A^{-1}A−1역행렬. AA−1=A−1A=IAA^{-1}=A^{-1}A=IAA−1=A−1A=I를 만족
det⁡(A)\det(A)det(A)면적·부피가 몇 배인지(절댓값). 부호는 공간 뒤집힘 여부
det⁡(AB)\det(AB)det(AB)det⁡(A)det⁡(B)\det(A)\det(B)det(A)det(B)
(AB)−1(AB)^{-1}(AB)−1B−1A−1B^{-1}A^{-1}B−1A−1 (합성의 되감기는 역순)
특이(singular)det⁡(A)=0\det(A)=0det(A)=0. 완전한 A−1A^{-1}A−1 없음
κ(A)\kappa(A)κ(A)조건수. 역이 있어도 해가 예민할 수 있음
항목별 자세한 설명
① 눌림 det⁡(A)=0\det(A)=0det(A)=0인지, 열이 한 직선 위(공선)인지 먼저 본다.
② 2×22\times22×2 ad−bcad-bcad−bc와 역의 대각 맞바꿈·부호 반전·1/det⁡1/\det1/det만 손에 익힌다.
③ 순서 (AB)−1(AB)^{-1}(AB)−1는 역순, det⁡(AB)\det(AB)det(AB)는 곱—서로 다른 규칙임을 구분한다.
④ 수치 가능하면 A−1A^{-1}A−1를 직접 만들기보다 선형계 풀이(최소제곱·`solve` 등)가 안정적인 경우가 많다.

풀이 예시

예시 1 — 행렬식 계산(정의·계산 유형)
문제: A=(21−13)A=\begin{pmatrix}2&1\\-1&3\end{pmatrix}A=(2−1​13​)일 때 det⁡(A)\det(A)det(A)는?
풀이: ad−bc=2⋅3−1⋅(−1)=7ad-bc=2\cdot 3-1\cdot(-1)=7ad−bc=2⋅3−1⋅(−1)=7.
예시 2 — 가역 여부(정의·진위 유형)
문제: 예시 1의 AAA는 가역한가?
풀이: det⁡(A)=7≠0\det(A)=7\neq 0det(A)=7=0이므로 가역이다(역행렬이 존재한다).
예시 3 — 곱의 역(개념·Ch.04 합성 유형)
문제: 가역인 정사각 행렬 A,BA,BA,B에 대해 (AB)−1(AB)^{-1}(AB)−1는 무엇인가?
풀이: 합성을 되감을 때 나중에 곱한 변환부터 없애므로 B−1A−1B^{-1}A^{-1}B−1A−1이다.
예시 4 — 곱의 행렬식(정의·계산 유형)
문제: 같은 크기의 정사각 행렬 A,BA,BA,B에 대해 det⁡(AB)\det(AB)det(AB)는?
풀이: det⁡(A)det⁡(B)\det(A)\det(B)det(A)det(B) (면적·부피 배율은 변환을 이어 붙이면 서로 곱한다).
예시 5 — 2×22\times22×2 역행렬 요령(계산 유형)
문제: det⁡(A)=7\det(A)=7det(A)=7인 2×22\times22×2 행렬의 역을 손으로 쓰려면?
풀이: 17\dfrac{1}{7}71​을 앞에 두고 대각 원소 맞바꿈, 비대각 부호 반전 패턴을 적용한다.

연습 문제

2×22\times 22×2 행렬 AAA에 대해 det⁡(2A)\det(2A)det(2A)는? (222배는 모든 성분에 곱함)
1 / 10