Chapter 05
连续性
在某点连续是指该点处极限存在且等于函数值。它是可微性的基础,也是理解深度学习中激活函数与损失函数的基础。
home.mathDiagramTitle
home.mathDiagramDescription
左:连续 — 曲线在点 处不断开。右:不连续 — 该点处有洞或跳跃。
连续
lim = f(a)
不连续
f(a) 不存在或 lim ≠ f(a)
连续即 。图像上该点处曲线不断开。
看图顺序
- 左图: 在 处连续(曲线无断点通过 (2, 4))。
- 右图: 处无函数值或与极限不同则为不连续(洞或跳跃)。
什么是连续性?
在 处连续是指:当 趋于 时, 趋于 ,且该极限等于 。记作 。从图像上看,曲线在该点不断开、连在一起。
通俗讲:① 有定义,② 存在,③ 该极限等于 。三者缺一则该点不连续。
用 ε-δ 说:对任意小误差 ,都存在距离 ,只要 在 的 邻域内, 与 的差就小于 。与极限一章思想相同,这里极限值必须等于 。
可微则连续。某点处要定义导数(瞬时变化率),函数在该点必须有定义且极限等于函数值。所以学微分前必须先理解连续性。
深度学习里激活函数(ReLU、sigmoid 等)和损失函数通常都是连续的。输入微变时输出平滑变化,梯度下降才能稳定进行。
AI中损失函数衡量预测与正确答案的距离;它必须连续,这样小改进才能带来小损失下降。激活函数连续(或分段连续),反向传播求梯度才有良好定义。
判断某点是否连续时,检查: 是否存在?、 是否定义?、二者是否相等?
检查清单:① 存在 ② 存在 ③ 极限 。有一条不满足则该点不连续。
例题与解答见下表。
| 问题 | 解答 |
|---|---|
| 例 1. 在 处连续吗? | 解: ,,相等,故连续。 |
| 例 2. 在 处连续吗? | 解: 无定义 → 不连续。 |
| 例 3. 在 处连续吗? | 解: ,,相等,故连续。 |