Chapter 03

对数函数

对数表示「底乘几次能得到这个数」,是指数的逆运算,在深度学习的损失与概率式中与指数一起使用。

home.mathDiagramTitle

home.mathDiagramDescription

对数是指数的逆。y=log2xy = \log_2 x 表示 2y=x2^y = x。下图为 y=log2xy = \log_2 x 与其反函数 y=2xy = 2^x 的图象。

012345678012345678xy(x=1.0, y=0.00)(x=0.0, y=1.0)

例:log21=0\log_2 1 = 0log22=1\log_2 2 = 1log24=2\log_2 4 = 2log28=3\log_2 8 = 3(当 2y=x2^y = x 时,yy 即为 log2x\log_2 x

紫:y=log2xy=\log_2 x,青绿:y=2xy=2^x

什么是对数函数

对数是指数的逆概念。当 ax=ba^x = b 时,把「aa 乘几次得到 bb」写成 logab=x\log_a b = x。其中 aabb真数xx对数值(指数)。
例:23=82^3 = 8 所以 log28=3\log_2 8 = 3log10100=2\log_{10} 100 = 2102=10010^2 = 100)。底为 ee 时写成自然对数 ln\ln,在深度学习与统计中常用。
对数和与商loga(bc)=logab+logac\log_a(b \cdot c) = \log_a b + \log_a c(积在对数下变和),loga(b/c)=logablogac\log_a(b/c) = \log_a b - \log_a c(商变差)。AI 中概率相乘时常用这种形式。
AI损失函数(如交叉熵)和概率式里会用到 log\log,把乘法变成加法,便于计算与求导。为什么用对数? 概率连乘会变得很小,用 log\log 把积变成,计算更稳定,梯度下降也更好处理。
深度学习损失函数常用概率的 log\log 来度量「错多少」。掌握对数能理解「为什么用 log\log」。
概率连乘会变得很小。用 log\log 把积变成,计算更稳定,梯度下降也更好处理。
AI对数用来把概率或分数放到对数尺度上。交叉熵损失用正确类别的对数概率的负值,使预测越对损失越接近 0。对数和 log(p1p2)=logp1+logp2\log(p_1 \cdot p_2) = \log p_1 + \log p_2 在损失与概率式中常出现。
log28\log_2 83(23=82^3=8
log24\log_2 42
log39\log_3 92
仅当真数是底的整数次幂时,对数值才是整数。
对数中常用运算(在 AI 损失与概率式中常用):
运算公式说明
对数和logab+logac=loga(bc)\log_a b + \log_a c = \log_a(b \cdot c)积→和
对数差logablogac=loga(b/c)\log_a b - \log_a c = \log_a(b/c)商→差
loga(bn)=nlogab\log_a(b^n) = n \cdot \log_a b指数提前
计算
对数和log22+log24=1+2=3\log_2 2 + \log_2 4 = 1 + 2 = 3
对数差log28log22=31=2\log_2 8 - \log_2 2 = 3 - 1 = 2
在下面题目中求对数值、真数、对数和对数差