모두의 AI
머신러닝AI논문
Loading...

배우기

🏅내 업적

Chapter 03

로그 함수: 곱셈을 덧셈으로, 손실을 설계하는 언어

로그는 '밑을 몇 번 곱해야 그 수가 나오는지'를 나타내요. 지수의 역연산이며, 딥러닝의 손실·확률 식에서 지수와 함께 쓰입니다.

챕터별 수학 도식화

챕터를 선택하면 아래 도식이 해당 챕터 내용으로 바뀌어요. 기초 수학 흐름을 한눈에 보세요.

로그는 지수의 반대예요. y=log⁡2xy = \log_2 xy=log2​x는 2y=x2^y = x2y=x를 만족해요. 아래는 y=log⁡2xy = \log_2 xy=log2​x와 역함수 y=2xy = 2^xy=2x 그래프입니다.

012345678012345678xy(x=1.0, y=0.00)(x=0.0, y=1.0)

예: log⁡21=0\log_2 1 = 0log2​1=0, log⁡22=1\log_2 2 = 1log2​2=1, log⁡24=2\log_2 4 = 2log2​4=2, log⁡28=3\log_2 8 = 3log2​8=3 (2y=x2^y = x2y=x일 때 yyy가 log⁡2x\log_2 xlog2​x)

보라: y=log⁡2xy=\log_2 xy=log2​x, 청록: y=2xy=2^xy=2x

로그 함수란 무엇인가

로그(Logarithm)는 '지수의 시간을 거꾸로 돌리는 것'과 같습니다. 23=82^3 = 823=8이라는 식에서, 결과값 8을 보고 "도대체 2를 몇 번 곱해서 8이 된 거야?"라고 횟수
(3) 를 묻는 질문이 바로 로그(log⁡28=3\log_2 8 = 3log2​8=3)입니다. 여기서 2는 밑(Base), 8은 진수(Argument)라고 합니다.
쉽게 생각해서 '자릿수 세기'와 비슷합니다. 100100100은 10210^2102이니까 log⁡10100=2\log_{10} 100 = 2log10​100=2, 100010001000은 10310^3103이니까 log⁡101000=3\log_{10} 1000 = 3log10​1000=3입니다. 숫자가 10배(×10\times 10×10) 커져도 로그값은 겨우 1(+1+1+1)만큼 늘어납니다. 즉, 로그는 급격히 커지는 수를 아주 완만하게 만드는 필터 역할을 합니다. 기본 성질: log⁡a1=0\log_a 1 = 0loga​1=0 (밑을 0번 곱하면 1), log⁡aa=1\log_a a = 1loga​a=1 (밑을 1번 곱하면 자기 자신)이에요.
로그의 마법은 '곱셈을 덧셈으로 바꾸는 성질'에 있습니다. log⁡a(b×c)=log⁡ab+log⁡ac\log_a(b \times c) = \log_a b + \log_a cloga​(b×c)=loga​b+loga​c. 컴퓨터 입장에서 곱셈은 덧셈보다 계산 비용이 비싸고 숫자가 너무 커지거나 작아질 위험이 있는데, 로그를 씌우면 이 복잡한 곱셈이 안전하고 쉬운 덧셈 문제로 바뀝니다.
진수 조건(x>0x>0x>0)이 중요합니다. 0이나 음수의 로그는 정의되지 않습니다. 그래서 AI 코드에서 log⁡(0)\log(0)log(0)이 되어 에러가 나는 것을 막기 위해 아주 작은 수(ϵ\epsilonϵ, 엡실론)를 더해주는 테크닉을 자주 씁니다. 또한 자연상수 eee를 밑으로 하는 자연로그(ln⁡\lnln)는 미분 계산을 깔끔하게 만들어주어 딥러닝의 표준으로 쓰입니다.
언더플로우(Underflow) 방지가 필수적이기 때문입니다. AI가 확률 0.10.10.1을 100번 곱하면 0.11000.1^{100}0.1100이 되는데, 컴퓨터는 이를 '너무 작아서 표현 불가능한 0'으로 취급해버립니다. 하지만 로그를 씌우면 log⁡(0.1100)=100×log⁡(0.1)=−100\log(0.1^{100}) = 100 \times \log(0.1) = -100log(0.1100)=100×log(0.1)=−100이 되어, 컴퓨터가 충분히 다룰 수 있는 '의미 있는 숫자'로 살아남습니다.
정보량(Entropy)을 측정하는 자(Ruler)입니다. 확률이 낮을수록(희귀할수록) 로그값의 크기는 커집니다(절댓값 기준). "내일 해가 서쪽에서 뜬다" 같은 희박한 사건은 정보량이 크고, "내일 아침이 온다" 같은 뻔한 사건은 정보량이 0에 가깝습니다. AI는 이 로그 기반의 정보량을 이용해 '얼마나 놀라운 정보를 배웠는가'를 측정합니다.
틀린 것에 대해 가혹하게 처벌합니다. 로그 함수의 그래프(y=ln⁡xy=\ln xy=lnx, 0<x<10<x<10<x<1)를 보면 xxx가 0에 가까워질수록 yyy값은 −∞-\infty−∞로 급격히 떨어집니다. AI가 정답 확률을 0.9로 예측하면 손실이 거의 없지만, 0.01로 잘못 예측하면 로그값이 폭주하여 '엄청난 벌점(Loss)'을 부과합니다. 덕분에 AI는 틀린 문제를 확실하게 고치려 노력하게 됩니다.
교차 엔트로피(Cross-Entropy) 오차 함수가 대표적입니다. 분류 문제에서 정답 클래스의 확률에 로그를 취하고 마이너스를 붙인 값(−log⁡p-\log p−logp)을 최소화합니다. 이는 "정답일 확률을 최대한 1에 가깝게(로그값은 0에 가깝게) 높여라"라는 수학적 명령입니다.
최대 우도 추정(MLE)에서 쓰입니다. "이 데이터가 관찰될 확률을 최대화하라"는 문제는 수많은 확률의 곱을 최대화하는 것입니다. 여기에 로그를 씌우면 합(Sum)을 최대화하는 문제로 바뀌어, 미분하기도 쉽고 계산도 훨씬 안정적으로 변합니다.
  • 예시log⁡28\log_2 8log2​8
  • 값3 (23=82^3=823=8)
  • 예시log⁡24\log_2 4log2​4
  • 값2
  • 예시log⁡39\log_3 9log3​9
  • 값2
예시값
log⁡28\log_2 8log2​83 (23=82^3=823=8)
log⁡24\log_2 4log2​42
log⁡39\log_3 9log3​92
진수가 밑의 거듭제곱일 때만 정수 로그가 나와요.
로그에서 빈번하게 쓰이는 연산 (인공지능 손실·확률 식에서 자주 씀):
  • 연산로그합
  • 수식log⁡ab+log⁡ac=log⁡a(b⋅c)\log_a b + \log_a c = \log_a(b \cdot c)loga​b+loga​c=loga​(b⋅c)
  • 설명곱 → 합
  • 연산로그차
  • 수식log⁡ab−log⁡ac=log⁡a(b/c)\log_a b - \log_a c = \log_a(b/c)loga​b−loga​c=loga​(b/c)
  • 설명몫 → 차
  • 연산거듭제곱
  • 수식log⁡a(bn)=n⋅log⁡ab\log_a(b^n) = n \cdot \log_a bloga​(bn)=n⋅loga​b
  • 설명지수는 앞으로
연산수식설명
로그합log⁡ab+log⁡ac=log⁡a(b⋅c)\log_a b + \log_a c = \log_a(b \cdot c)loga​b+loga​c=loga​(b⋅c)곱 → 합
로그차log⁡ab−log⁡ac=log⁡a(b/c)\log_a b - \log_a c = \log_a(b/c)loga​b−loga​c=loga​(b/c)몫 → 차
거듭제곱log⁡a(bn)=n⋅log⁡ab\log_a(b^n) = n \cdot \log_a bloga​(bn)=n⋅loga​b지수는 앞으로
  • 예로그합
  • 계산log⁡22+log⁡24=1+2=3\log_2 2 + \log_2 4 = 1 + 2 = 3log2​2+log2​4=1+2=3
  • 예로그차
  • 계산log⁡28−log⁡22=3−1=2\log_2 8 - \log_2 2 = 3 - 1 = 2log2​8−log2​2=3−1=2
예계산
로그합log⁡22+log⁡24=1+2=3\log_2 2 + \log_2 4 = 1 + 2 = 3log2​2+log2​4=1+2=3
로그차log⁡28−log⁡22=3−1=2\log_2 8 - \log_2 2 = 3 - 1 = 2log2​8−log2​2=3−1=2
아래 문제에서 값 구하기, 진수 구하기, 로그합, 로그차 구하기를 풀어 보세요.