모두의 AI
머신러닝플레이그라운드
로딩 중…

배우기

Ch.08

방향 도함수와 그라디언트: 올라가야 할 길 찾기

챕터별 수학 도식화

챕터를 선택하면 아래 도식이 해당 챕터 내용으로 바뀌어요. 중급 수학 흐름을 한눈에 보세요.

방향 도함수와 그라디언트: 올라가야 할 길 찾기

산 지도를 볼 때 그라디언트 ∇f\nabla f∇f는 등고선과 직각이고, 제일 가파른 오름길을 가리킵니다. 방향 도함수 DufD_{\mathbf{u}} fDu​f는 “u\mathbf{u}u 방향으로 한 걸음 걸으면 얼마나 오르내리나”이고, ∇f\nabla f∇f와 u\mathbf{u}u의 내적 ∇f⋅u\nabla f \cdot \mathbf{u}∇f⋅u 한 줄로 구합니다.

그림 읽기: 빨강·노랑은 오차가 큰 봉우리, 파랑·보라는 오차가 작은 골짜기입니다. 검은 선은 오차를 줄이려 내려가는 길(경사하강), 보라 화살표는 그 자리에서 가장 가파르게 오르는 방향(∇f\nabla f∇f)입니다.
한 치 앞도 보이지 않는 짙은 안개 속에서, 험준한 산맥의 가장 깊은 골짜기(오차가 가장 작은 최적의 장소)를 찾아가야 하는 탐험가를 상상해 봅시다. 눈으로 지형을 볼 수 없으니 오직 발바닥으로 느껴지는 '경사도'에만 의지해서 하산해야 합니다. 인공지능이 수많은 데이터를 받아들이며 똑똑해지는 학습 과정은 이 탐험가의 아슬아슬한 산 타기와 완벽하게 똑같습니다. 인공지능이 예측을 틀릴 때마다 발생하는 오차(손실)는 거대한 3차원 산맥을 이룹니다.
이때 눈이 먼 탐험가에게 '지금 당신이 서 있는 자리에서 동쪽으로 가면 얼마나 가파른가요?'를 알려주는 지표가 방향 도함수입니다. 그리고 내 주변 360도 모든 방향을 통틀어 '어느 쪽이 가장 가파른 오르막길인가요?'를 한 치의 오차도 없이 콕 집어 가리키는 기적의 나침반이 바로 그라디언트(Gradient) ∇f\nabla f∇f입니다. 이 장에서는 미적분학의 꽃이라 불리는 그라디언트가 어떻게 인공지능의 길잡이가 되어 복잡한 오차의 산을 무사히 내려가게 만드는지, 수학 수식의 장벽을 허물고 생생한 지형도의 비유를 통해 아주 깊고 풍성하게 안내합니다.

방향 도함수와 그라디언트: 올라가야 할 길 찾기

1. 다변수 함수와 등고선: 3차원 지형을 2차원으로 읽기
우리가 흔히 보는 2차원 지도는 평면이지만, 그 위에 그려진 구불구불한 선(등고선)을 보면 어디가 산봉우리이고 어디가 푹 패인 계곡인지 알 수 있습니다. 등고선이 빽빽하게 뭉쳐 있으면 땀을 뻘뻘 흘려야 하는 가파른 절벽을 의미하고, 널찍하게 퍼져 있으면 걷기 편안한 완만한 평지입니다. 인공지능이 데이터를 학습할 때 계산하는 오차(손실) 역시 변수가 워낙 많아서 이렇게 거대하고 험준한 다차원 산맥을 형성합니다. 우리는 수학이라는 강력한 렌즈를 통해 이 보이지 않는 거대한 산맥의 등고선을 읽어내고, 현재 오차가 얼마나 가파르게 솟아오르고 있는지, 혹은 안정적으로 낮아지고 있는지를 직관적으로 파악할 수 있습니다.
2. 편미분: 동서남북 중 오직 한 우물만 파는 경사 측정
여러분이 험난한 산 중턱에 멈춰 섰다고 가정해 봅시다. 이때 '만약 다른 방향은 전부 무시하고, 오직 정동쪽(xxx축 방향)으로만 한 걸음 내디디면 경사가 어떨까?' 혹은 '오직 정북쪽(yyy축 방향)으로만 걸어가면 오르막일까 내리막일까?'를 측정해 볼 수 있습니다. 이처럼 여러 방향 중에서 딱 하나의 축 방향만 선택해서 그쪽의 기울기만 쏙 뽑아 재는 것을 편미분이라고 부릅니다. 수식으로는 ∂f∂x\frac{\partial f}{\partial x}∂x∂f​ 처럼 둥근 기호를 사용하여 나타내며, 이는 오직 한 방향만의 경사를 측정하는 아주 제한적이지만 모든 계산의 기초가 되는 핵심 도구입니다.
3. 방향 도함수: 내가 고개를 돌려 바라보는 바로 그 길의 경사도
하지만 탐험가가 꼭 반듯하게 동서남북 4방향으로만 걸어야 할 의무는 없습니다. 목적지에 따라 북동쪽 30도 방향, 혹은 남서쪽으로 비스듬한 방향 등 내가 가고자 하는 임의의 방향을 360도 자유롭게 정할 수 있습니다. 그렇게 내가 선택한 특정 방향으로 아주 살짝 발을 내디뎠을 때, 지형이 얼마나 급격하게 높아지거나 낮아지는지를 측정한 순간적인 변화율이 바로 방향 도함수 DufD_{\mathbf{u}} fDu​f입니다. 쉽게 말해, 지금 서 있는 자리에서 내가 자유롭게 고개를 돌려 바라보고 있는 바로 그 오솔길의 체감 경사도라고 이해하시면 됩니다.
4. 그라디언트(Gradient): 가장 무시무시한 오르막길을 가리키는 기적의 나침반
내 주변 360도 모든 방향 중에서, 산 정상으로 향하는 가장 끔찍하게 가파른 오르막길 방향은 단 하나 존재할 것입니다. 앞서 구했던 xxx축 방향의 기울기와 yyy축 방향의 기울기를 따로 구한 뒤, 이것을 묶어 하나의 화살표(벡터)로 만든 것이 바로 그라디언트(Gradient, ∇f\nabla f∇f)입니다. 이 마법의 화살표는 항상 지형의 등고선을 가장 단기간에 가로지르는 수직 방향으로 뻗어나갑니다. 화살표가 향하는 '방향'은 내 주변에서 가장 가파른 오르막길을 가리키고, 화살표의 '길이'는 그 오르막길이 도대체 얼마나 가파른지(최대 경사도)를 수치로 알려줍니다.
5. 내적과 그라디언트의 마법 같은 관계
내가 바라보는 임의의 방향 경사도(방향 도함수)를 구할 때마다 매번 험난하고 복잡한 계산을 새로 할 필요가 없습니다. 우리가 가진 최고의 나침반인 '그라디언트'와 내가 가고자 하는 '방향 벡터'를 서로 내적(Dot Product)하기만 하면 놀랍게도 그 방향의 경사가 바로 계산되어 튀어나옵니다. 핵심은 Duf=∇f⋅uD_{\mathbf{u}} f = \nabla f \cdot \mathbf{u}Du​f=∇f⋅u입니다. 만약 내가 그라디언트가 가리키는 곳과 정확히 똑같은 곳을 바라보고 걷는다면, 나는 세상에서 가장 가파른 오르막길을 정면으로 마주하며 걷고 있는 셈이 됩니다.
한 줄 요약: 등고선 지도처럼 손실 산맥을 읽고, 임의 방향 경사는 Duf=∇f⋅uD_{\mathbf{u}} f = \nabla f \cdot \mathbf{u}Du​f=∇f⋅u, 최대 오름은 ∇f\nabla f∇f, 한 걸음 내림은 wk+1=wk−η∇L\mathbf{w}_{k+1}=\mathbf{w}_k-\eta\nabla Lwk+1​=wk​−η∇L로 정리됩니다.
인공지능 모델을 똑똑하게 만드는 훈련 과정(최적화)은 사실상 오차가 가장 적은 상태, 즉 '거대한 산맥의 가장 깊고 평온한 골짜기 밑바닥'을 찾아가는 험난한 여정입니다. 입력된 데이터와 가중치가 수십만 개로 늘어나면 이 산맥은 수백만 차원의 상상조차 할 수 없는 복잡한 지형이 됩니다. 이런 짙은 안개 속에서 눈을 가린 채 무작정 걷다가는 평생을 헤매도 골짜기를 찾을 수 없습니다.
이때 그라디언트(Gradient) ∇L\nabla L∇L은 한 줄기 빛과 같은 기적의 내비게이션 역할을 수행합니다. 탐험가가 현재 서 있는 위치에서 오차가 가장 폭발적으로 증가하는 끔찍한 오르막길을 정확히 손가락으로 가리켜 주기 때문입니다. 인공지능은 그저 그 손가락이 가리키는 방향의 정반대로 몸을 돌려 한 걸음씩 묵묵히 걸어 내려가기만 하면 됩니다. 이 수학적 나침반이 없다면 딥러닝 모델의 학습 자체가 아예 불가능하며, 수많은 가중치들이 어디로 변해야 할지 길을 잃고 영원히 방황하게 될 것입니다.
1. 딥러닝의 멈추지 않는 심장, 경사하강법(Gradient Descent)
이 모든 방향과 경사에 대한 개념은 결국 인공지능을 완성하는 단 하나의 위대한 알고리즘, 경사하강법으로 귀결됩니다. wk+1=wk−η∇L(wk)\mathbf{w}_{k+1} = \mathbf{w}_k - \eta \nabla L(\mathbf{w}_k)wk+1​=wk​−η∇L(wk​) 이라는 핵심 수식은 인공지능이 발걸음을 옮기는 생생한 원리를 보여줍니다. 여기서 ∇L\nabla L∇L은 앞서 말한 '가장 가파른 오르막길'을 뜻하고, 그 앞에 붙은 마이너스 기호(−-−)는 '오르막의 정반대인 내리막길로 조심스럽게 내려가겠다'는 강력한 의지를 의미합니다.
또한, 에타(η\etaη)라고 불리는 학습률(Learning Rate)은 탐험가의 '보폭'을 뜻합니다. 보폭이 너무 크면 껑충껑충 뛰다가 목표한 골짜기를 훌쩍 건너뛰어 반대편 산봉우리로 추락해버리는 대참사가 발생하고, 보폭이 개미처럼 너무 작으면 바닥에 닿기도 전에 학습 시간이 끝나버립니다. 따라서 실전에서는 이 보폭을 환경에 맞게 세밀하게 조절하는 것이 모델의 성공을 좌우합니다.
2. 모델의 건강 상태를 눈으로 확인하는 손실 곡면 시각화
최신 데이터 과학 연구나 논문들을 살보면 알록달록한 3D 산맥 그림이나 색깔이 짙어졌다 옅어지는 등고선 히트맵을 아주 자주 볼 수 있습니다. 이는 모델이 얼마나 부드럽고 쾌적하게 학습을 진행하고 있는지 확인하기 위해, 억 단위가 넘는 미지의 가중치 변수들을 우리가 눈으로 볼 수 있는 2~3개의 차원으로 꾹꾹 압축하여 오차의 곡면을 그려본 것입니다. 연구자들은 그라디언트 나침반을 따라 내려가는 하산 경로가 이 히트맵 위에서 지그재그로 불안하게 요동치는지, 아니면 썰매를 타듯 쾌속으로 부드럽게 미끄러져 내려가는지를 눈으로 직접 보고 모델의 건강 상태와 학습 구조를 진단합니다.
먼저 핵심 세 줄만 잡으세요.
① 방향 경사: Duf=∇f⋅uD_{\mathbf{u}} f = \nabla f \cdot \mathbf{u}Du​f=∇f⋅u (u\mathbf{u}u는 단위벡터).
② ∇f\nabla f∇f는 등고선에 직각, 제일 가파른 오름.
③ 경사하강: wk+1=wk−η∇L\mathbf{w}_{k+1}=\mathbf{w}_k-\eta\nabla Lwk+1​=wk​−η∇L (마이너스·η\etaη 확인). 풀이 순서는 ∇f\nabla f∇f(또는 ∇L\nabla L∇L) → u\mathbf{u}u 정규화 → 내적.
  • 말로 정리방향 도함수
  • 의미u\mathbf{u}u 방향으로 걸을 때의 경사
  • 말로 정리그라디언트
  • 의미제일 가파른 오름 방향 ∇f\nabla f∇f
  • 말로 정리핵심식
  • 의미Duf=∇f⋅uD_{\mathbf{u}} f = \nabla f \cdot \mathbf{u}Du​f=∇f⋅u
  • 말로 정리등고선
  • 의미∇f\nabla f∇f는 등고선에 직각; 접선으로 걸으면 경사 0
  • 말로 정리경사하강
  • 의미wk+1=wk−η∇L\mathbf{w}_{k+1}=\mathbf{w}_k-\eta\nabla Lwk+1​=wk​−η∇L
  • 말로 정리평평한 곳
  • 의미∇f≈0\nabla f\approx\mathbf{0}∇f≈0 → 극값·안장 후보
말로 정리의미
방향 도함수u\mathbf{u}u 방향으로 걸을 때의 경사
그라디언트제일 가파른 오름 방향 ∇f\nabla f∇f
핵심식Duf=∇f⋅uD_{\mathbf{u}} f = \nabla f \cdot \mathbf{u}Du​f=∇f⋅u
등고선∇f\nabla f∇f는 등고선에 직각; 접선으로 걸으면 경사 0
경사하강wk+1=wk−η∇L\mathbf{w}_{k+1}=\mathbf{w}_k-\eta\nabla Lwk+1​=wk​−η∇L
평평한 곳∇f≈0\nabla f\approx\mathbf{0}∇f≈0 → 극값·안장 후보
① ∇f\nabla f∇f 먼저.
② u\mathbf{u}u 단위벡터인지.
③ Duf>0D_{\mathbf{u}} f>0Du​f>0이면 그 방향 오름.
④ η\etaη 너무 크면 튐, 너무 작으면 느림.

풀이 예시

예시 1 — 정의
문제: f(x,y)=x2+y2f(x,y)=x^2+y^2f(x,y)=x2+y2에서 점 (1,1)(1,1)(1,1)의 그라디언트와 그 크기는?
풀이: ∇f=(2,2)\nabla f=(2,2)∇f=(2,2), ∥∇f∥=22\|\nabla f\|=2\sqrt{2}∥∇f∥=22​입니다.
예시 2 — 방향 도함수
문제: 같은 점에서 단위 방향 u=(1/2,0)\mathbf{u}=(1/\sqrt{2},0)u=(1/2​,0)일 때 DufD_{\mathbf{u}} fDu​f는?
풀이: Duf=(2,2)⋅(1/2,0)=2D_{\mathbf{u}} f=(2,2)\cdot(1/\sqrt{2},0)=\sqrt{2}Du​f=(2,2)⋅(1/2​,0)=2​입니다(내적 공식).
예시 3 — 최대 상승
문제: ∥u∥=1\|\mathbf{u}\|=1∥u∥=1일 때 DufD_{\mathbf{u}} fDu​f가 최대가 되는 방향과 최댓값은?
풀이: 방향은 ∇f\nabla f∇f와 같음, 최댓값은 ∥∇f∥\|\nabla f\|∥∇f∥입니다.
예시 4 — 등고선
문제: 등고선 위에서 접선 방향으로 걸으면 DufD_{\mathbf{u}} fDu​f는? ∇f\nabla f∇f는 등고선과 어떤 관계?
풀이: 접선 방향에서는 Duf=0D_{\mathbf{u}} f=0Du​f=0; ∇f\nabla f∇f는 등고선에 수직입니다.
예시 5 — 경사하강
문제: L=w12+w22L=w_1^2+w_2^2L=w12​+w22​, w=(2,1)\mathbf{w}=(2,1)w=(2,1), η=0.25\eta=0.25η=0.25일 때 한 걸음 뒤 w\mathbf{w}w는?
풀이: ∇L=(4,2)\nabla L=(4,2)∇L=(4,2)이므로 wnew=(2,1)−0.25(4,2)=(1,0.5)\mathbf{w}_{\text{new}}=(2,1)-0.25(4,2)=(1,0.5)wnew​=(2,1)−0.25(4,2)=(1,0.5)입니다.
예시 6 — 학습 정체
문제: 손실이 더 이상 줄지 않을 때, 그라디언트가 힌트를 주는 상황은?
풀이: ∇L≈0\nabla L\approx\mathbf{0}∇L≈0인 평평한 곳(극값·안장 후보)에 갇혔을 수 있습니다.

연습 문제

f(x,y)=x2+xy+y2f(x,y)=x^2+xy+y^2f(x,y)=x2+xy+y2에서 원점의 ∇f\nabla f∇f는?
1 / 5