Ch.11

테일러 급수: 복잡한 함수를 다항식으로 따라하기

챕터별 수학 도식화

챕터를 선택하면 아래 도식이 해당 챕터 내용으로 바뀌어요. 중급 수학 흐름을 한눈에 보세요.

어려운 곡선도 한 점 근처만 보면, 직선이나 포물선으로 꽤 비슷하게 그릴 수 있습니다. 아래 그림에서 1차, 2차, 3차로 갈수록 원래 곡선에 더 가까워지는 모습을 확인해 보세요.

테일러 급수는 "지금 이 점 근처에서는 이 쉬운 식으로 그려도 된다"고 바꿔 주는 방법입니다. 즉, 복잡한 함수를 잠깐 쉬운 다항식으로 바꿔서 이해하게 도와주는 도구입니다.

1차: 접선으로 따라가기2차: 포물선처럼 휘어 붙기3차: 더 멀리까지 닮기

지금 보는 단계

1차: 접선으로 따라가기

원함수1차 근사핵심: 중심에서 멀수록 오차 큼

핵심: 차수가 올라갈수록 보통 더 정확해집니다.

보라색은 원래 함수, 주황·초록·파랑은 1차·2차·3차 근사 곡선입니다. 중심점 근처에서는 잘 맞고, 멀어질수록 차이가 커질 수 있습니다.

a

테일러 급수: 복잡한 함수를 다항식으로 따라하기

f(x)

2. 직관적 이해 지구는 둥글지만, 우리가 서 있는 동네의 길은 평평하게 느껴집니다. 테일러 급수도 같은 생각입니다. 복잡한 곡선도 "지금 보는 한 점 근처"에서는 직선이나 포물선처럼 보일 수 있습니다. ① 1차 로 방향을 잡고, ② 2차\cdot3차 로 정밀도를 올립니다. 이렇게 항을 늘리면 근사식이 원래 함수의 모양을 더 잘 따라갑니다. 중요한 것은 처음부터 완벽함이 아니라, 필요한 만큼 정확하게 만드는 것입니다.

T_n(x)=f(a)+f^{\prime}(a)(x-a)+\frac{f^{\prime\prime}(a)}{2!}(x-a)^2+\cdots

4. 인공지능에서 왜 중요한가 딥러닝 학습은 손실을 줄이는 방향으로 조금씩 이동하는 과정입니다. 이때 1차 근사는 "어느 방향으로 가야 하는지"를 알려 주고, 2차 근사는 "얼마나 이동하면 좋은지" 판단을 더 도와줍니다. 즉, 테일러 급수는 복잡한 손실 함수를 잠깐 쉬운 형태로 바꿔서, 학습 과정을 더 이해하기 쉽게 만들어 주는 도구입니다.

한 줄 요약: 테일러 급수는 어려운 함수를 "지금 보는 점 근처에서" 잠깐 쉬운 식으로 바꿔서 이해하는 방법입니다. 처음에는 1차 근사부터 생각하면 됩니다. 1차 근사는 "지금 어디로 움직이면 되는지" 같은 방향 정보를 빠르게 알려줍니다. 여기에 2차 근사를 더하면 곡선의 휘어짐까지 보이기 시작해서, 이동 방향뿐 아니라 이동 크기까지 더 정확하게 판단할 수 있습니다. 차수를 올릴수록 원래 함수에 더 잘 맞는 경우가 많습니다. 다만 식이 길어지고 계산도 늘어나기 때문에, 실제로는 "지금 필요한 정확도"에 맞춰 적절한 차수를 고르는 것이 중요합니다. 결국 테일러 급수의 핵심은 공식 암기보다 사고 방식입니다. 복잡한 문제를 한 번에 풀려고 하기보다, 먼저 가까운 구간에서 단순하게 바꿔 본 뒤 이해하고 계산하는 연습입니다. 이 관점이 잡히면 경사하강법, 뉴턴법, 헤시안 같은 다음 개념도 훨씬 자연스럽게 이어집니다.

1. 가까운 정보만으로도 충분히 시작할 수 있어요 실전에서는 함수 전체를 처음부터 완벽하게 알기 어렵습니다. 그래도 괜찮습니다. 지금 서 있는 위치 근처에서 함수가 어떻게 생겼는지만 알아도, 다음에 어디로 움직일지 정하는 데 큰 도움이 됩니다. 테일러 급수는 이 "근처 정보"를 보기 쉽게 정리해 주는 방법입니다. 그래서 복잡한 문제를 한 번에 다 풀려고 하기보다, 작은 구간부터 안정적으로 이해하고 학습 방향을 잡게 해 줍니다.

2. 헤시안과 뉴턴법으로 이어지는 연결 고리 1차 근사가 방향을 알려 준다면, 2차 근사는 곡선이 얼마나 휘어 있는지도 함께 알려 줍니다. 이 차이가 중요합니다. 단순히 "어느 쪽으로 갈지"만 보는 게 아니라, "얼마나 이동하면 좋을지"까지 더 정확하게 판단할 수 있기 때문입니다. 이 흐름을 이해하면 Ch.10에서 배운 헤시안과 뉴턴법이 훨씬 자연스럽게 연결됩니다. 즉, 테일러 급수는 기초 내용이지만, 실제로는 고급 최적화로 넘어가는 핵심 다리 역할을 합니다.

1. 경사하강법에서 어떻게 쓰일까? (1차 근사) 경사하강법은 "지금 위치에서 손실이 가장 빨리 줄어드는 방향"으로 조금씩 이동하는 방법입니다. 이때 실제로 내부에서 하는 생각은 1차 테일러 근사와 같습니다. 즉, 지금 점 근처에서는 손실 함수가 접선(직선)처럼 보인다고 가정하고 다음 스텝을 정합니다. 실전 흐름으로 보면 다음과 같습니다. - 현재 파라미터에서 손실과 기울기를 계산한다. - 1차 근사 관점으로 "이 방향으로 가면 손실이 내려간다"고 판단한다. - 학습률을 곱해 한 스텝 이동한다. 이 관점이 중요한 이유는, 경사하강법 업데이트 식이 단순 암기 대상이 아니라 "1차 근사에 근거한 선택"이라는 점을 이해하게 해 주기 때문입니다. 그래서 학습률이 너무 크면 왜 흔들리고, 너무 작으면 왜 느린지도 더 쉽게 설명할 수 있습니다.

2. 뉴턴법\cdot헤시안에서 어떻게 쓰일까? (2차 근사) 뉴턴법은 1차 정보(기울기)만 보는 대신, 2차 정보(휘어짐)까지 함께 사용합니다. 2차 테일러 근사로 보면 손실 함수의 모양을 포물면처럼 보고, 그 모양을 바탕으로 "얼마나 이동해야 가장 효율적인지"를 정합니다. 쉽게 비교하면, - 1차 근사(경사하강법): 방향을 잘 잡는 데 강함 - 2차 근사(뉴턴법): 방향 + 이동 크기를 더 똑똑하게 결정 여기서 헤시안은 곡률 정보를 담은 핵심 도구입니다. 어떤 방향은 급하게 휘고, 어떤 방향은 완만하게 휘는지를 알려 주기 때문에, 축마다 다른 크기로 이동하는 판단이 가능해집니다. 그래서 조건이 맞으면 뉴턴법 계열이 훨씬 빠르게 수렴할 수 있습니다.

e^x

문제 풀이 핵심 순서 문제를 보면 먼저 중심점이 어디인지 확인하세요. 그다음 1차 문제인지 2차 문제인지부터 구분하면 대부분 방향이 잡힙니다. 마지막으로 필요한 정보만 골라 계산하면 됩니다. 처음에는 복잡한 계산보다 개념 구분이 더 중요합니다. 1차와 2차의 차이, 테일러와 맥클로린의 차이를 먼저 익히면 풀이 속도가 훨씬 빨라집니다.

a

풀이 예시

a=0

문제

a

1 / 5

테일러 급수: 복잡한 함수를 다항식으로 따라하기

f(x)

2. 직관적 이해 지구는 둥글지만, 우리가 서 있는 동네의 길은 평평하게 느껴집니다. 테일러 급수도 같은 생각입니다. 복잡한 곡선도 "지금 보는 한 점 근처"에서는 직선이나 포물선처럼 보일 수 있습니다. ① 1차 로 방향을 잡고, ② 2차\cdot3차 로 정밀도를 올립니다. 이렇게 항을 늘리면 근사식이 원래 함수의 모양을 더 잘 따라갑니다. 중요한 것은 처음부터 완벽함이 아니라, 필요한 만큼 정확하게 만드는 것입니다.

T_n(x)=f(a)+f^{\prime}(a)(x-a)+\frac{f^{\prime\prime}(a)}{2!}(x-a)^2+\cdots

4. 인공지능에서 왜 중요한가 딥러닝 학습은 손실을 줄이는 방향으로 조금씩 이동하는 과정입니다. 이때 1차 근사는 "어느 방향으로 가야 하는지"를 알려 주고, 2차 근사는 "얼마나 이동하면 좋은지" 판단을 더 도와줍니다. 즉, 테일러 급수는 복잡한 손실 함수를 잠깐 쉬운 형태로 바꿔서, 학습 과정을 더 이해하기 쉽게 만들어 주는 도구입니다.

한 줄 요약: 테일러 급수는 어려운 함수를 "지금 보는 점 근처에서" 잠깐 쉬운 식으로 바꿔서 이해하는 방법입니다. 처음에는 1차 근사부터 생각하면 됩니다. 1차 근사는 "지금 어디로 움직이면 되는지" 같은 방향 정보를 빠르게 알려줍니다. 여기에 2차 근사를 더하면 곡선의 휘어짐까지 보이기 시작해서, 이동 방향뿐 아니라 이동 크기까지 더 정확하게 판단할 수 있습니다. 차수를 올릴수록 원래 함수에 더 잘 맞는 경우가 많습니다. 다만 식이 길어지고 계산도 늘어나기 때문에, 실제로는 "지금 필요한 정확도"에 맞춰 적절한 차수를 고르는 것이 중요합니다. 결국 테일러 급수의 핵심은 공식 암기보다 사고 방식입니다. 복잡한 문제를 한 번에 풀려고 하기보다, 먼저 가까운 구간에서 단순하게 바꿔 본 뒤 이해하고 계산하는 연습입니다. 이 관점이 잡히면 경사하강법, 뉴턴법, 헤시안 같은 다음 개념도 훨씬 자연스럽게 이어집니다.

1. 가까운 정보만으로도 충분히 시작할 수 있어요 실전에서는 함수 전체를 처음부터 완벽하게 알기 어렵습니다. 그래도 괜찮습니다. 지금 서 있는 위치 근처에서 함수가 어떻게 생겼는지만 알아도, 다음에 어디로 움직일지 정하는 데 큰 도움이 됩니다. 테일러 급수는 이 "근처 정보"를 보기 쉽게 정리해 주는 방법입니다. 그래서 복잡한 문제를 한 번에 다 풀려고 하기보다, 작은 구간부터 안정적으로 이해하고 학습 방향을 잡게 해 줍니다.

2. 헤시안과 뉴턴법으로 이어지는 연결 고리 1차 근사가 방향을 알려 준다면, 2차 근사는 곡선이 얼마나 휘어 있는지도 함께 알려 줍니다. 이 차이가 중요합니다. 단순히 "어느 쪽으로 갈지"만 보는 게 아니라, "얼마나 이동하면 좋을지"까지 더 정확하게 판단할 수 있기 때문입니다. 이 흐름을 이해하면 Ch.10에서 배운 헤시안과 뉴턴법이 훨씬 자연스럽게 연결됩니다. 즉, 테일러 급수는 기초 내용이지만, 실제로는 고급 최적화로 넘어가는 핵심 다리 역할을 합니다.

1. 경사하강법에서 어떻게 쓰일까? (1차 근사) 경사하강법은 "지금 위치에서 손실이 가장 빨리 줄어드는 방향"으로 조금씩 이동하는 방법입니다. 이때 실제로 내부에서 하는 생각은 1차 테일러 근사와 같습니다. 즉, 지금 점 근처에서는 손실 함수가 접선(직선)처럼 보인다고 가정하고 다음 스텝을 정합니다. 실전 흐름으로 보면 다음과 같습니다. - 현재 파라미터에서 손실과 기울기를 계산한다. - 1차 근사 관점으로 "이 방향으로 가면 손실이 내려간다"고 판단한다. - 학습률을 곱해 한 스텝 이동한다. 이 관점이 중요한 이유는, 경사하강법 업데이트 식이 단순 암기 대상이 아니라 "1차 근사에 근거한 선택"이라는 점을 이해하게 해 주기 때문입니다. 그래서 학습률이 너무 크면 왜 흔들리고, 너무 작으면 왜 느린지도 더 쉽게 설명할 수 있습니다.

2. 뉴턴법\cdot헤시안에서 어떻게 쓰일까? (2차 근사) 뉴턴법은 1차 정보(기울기)만 보는 대신, 2차 정보(휘어짐)까지 함께 사용합니다. 2차 테일러 근사로 보면 손실 함수의 모양을 포물면처럼 보고, 그 모양을 바탕으로 "얼마나 이동해야 가장 효율적인지"를 정합니다. 쉽게 비교하면, - 1차 근사(경사하강법): 방향을 잘 잡는 데 강함 - 2차 근사(뉴턴법): 방향 + 이동 크기를 더 똑똑하게 결정 여기서 헤시안은 곡률 정보를 담은 핵심 도구입니다. 어떤 방향은 급하게 휘고, 어떤 방향은 완만하게 휘는지를 알려 주기 때문에, 축마다 다른 크기로 이동하는 판단이 가능해집니다. 그래서 조건이 맞으면 뉴턴법 계열이 훨씬 빠르게 수렴할 수 있습니다.

e^x

문제 풀이 핵심 순서 문제를 보면 먼저 중심점이 어디인지 확인하세요. 그다음 1차 문제인지 2차 문제인지부터 구분하면 대부분 방향이 잡힙니다. 마지막으로 필요한 정보만 골라 계산하면 됩니다. 처음에는 복잡한 계산보다 개념 구분이 더 중요합니다. 1차와 2차의 차이, 테일러와 맥클로린의 차이를 먼저 익히면 풀이 속도가 훨씬 빨라집니다.

a

풀이 예시

a=0

문제

a

1 / 5

핵심(암기 포인트)	쉬운 설명
중심점 $a$	"어디 근처에서 맞출지" 정하는 기준점
1차 근사	접선(직선)으로 빠르게 흉내 내기
2차 근사	휘어짐까지 반영해 더 정확하게 맞추기
맥클로린 급수	중심점이 0인 테일러 급수
항 개수 규칙	$n$ 차 다항식 항 개수는 보통 $n+1$
오차 감각	중심에 가까우면 작고, 멀어지면 커지기 쉬움
ML 연결	1차는 경사하강법, 2차는 뉴턴법·헤시안과 연결

핵심(암기 포인트)	쉬운 설명
중심점 $a$	"어디 근처에서 맞출지" 정하는 기준점
1차 근사	접선(직선)으로 빠르게 흉내 내기
2차 근사	휘어짐까지 반영해 더 정확하게 맞추기
맥클로린 급수	중심점이 0인 테일러 급수
항 개수 규칙	$n$ 차 다항식 항 개수는 보통 $n+1$
오차 감각	중심에 가까우면 작고, 멀어지면 커지기 쉬움
ML 연결	1차는 경사하강법, 2차는 뉴턴법·헤시안과 연결