大家的AI
机器学习AI论文
Loading...

学习

🏅我的成就

Chapter 04

极限与 ε-δ：定义「无限接近」

极限是「即使不到达目标点，也能预测该处状态」的数学工具。测量运动物体的瞬时速度，或人工智能一步步逼近答案的「学习」过程，都建立在这一极限概念之上。

按章节的数学图示

选择章节后，下方图示会切换为该章节内容。可一览基础数学的脉络。

在下面图中理解极限与 ε-δ。

12312345xyy = x²(a, L) = (2, 4)(x, f(x))

小结：先定误差 ε（绿），就有一个距离 δ（蓝）——只要x 在蓝色带里，f(x) 就一定在绿色带里。这就是 ε-δ 的意思。

看图顺序

  • 橙点 = 曲线上的 (x, f(x)) 趋近 (2, 4)
  • 绿色带 = L±ε（f(x) 的允许误差）
  • 蓝色带 = a±δ（x 在这里则 f(x) 在绿色带内）

什么是极限？

极限描述的是：当 xxx 无限接近某值 aaa 时，函数 f(x)f(x)f(x) 趋向哪里。记作 lim⁡x→af(x)=L\lim_{x \to a} f(x) = Llimx→a​f(x)=L。要点是 xxx 永远不必等于 aaa，我们只看 aaa 附近那一带的 趋势。
直观例子：想象导航里到目的地的距离从 100m100m100m、10m10m10m、1m1m1m、0.1m0.1m0.1m 这样缩小。车即使没有「正好」停在目的地，我们也知道它在往哪去。数学上就说：xxx 趋于 aaa 时，f(x)f(x)f(x) 与 LLL 的距离 收敛于 0。极限不存在的情况也有。例如 1x\frac{1}{x}x1​ 在 x→0x \to 0x→0 时，左极限（−∞-\infty−∞）与右极限（+∞+\infty+∞）不同，极限值无法确定。而 x→∞x \to \inftyx→∞ 时 1x→0\frac{1}{x} \to 0x1​→0 这种单向极限则定义良好。
ε-δ 定义是把极限写清楚的数学 约定。可以当成一场 赌局：
(1) 对方问：「你能把误差控制在 ε\varepsilonε（0.1 或 0.0001 都行）以内吗？」
(2) 你证明：「只要把 xxx 限制在 aaa 附近某个 δ\deltaδ 范围内，结果一定落进那个误差 ε\varepsilonε 里。」所以 ε-δ 的核心就是：无论你要求的误差(ε\varepsilonε)多小，我总能找到相应的 xxx 范围(δ\deltaδ)满足它。
因为它是定义 瞬时变化率（导数） 的 唯一方式。「瞬时」意味着时间间隔为 0，而我们不能除以 0。通过把间隔 无限趋近于 0（取极限），才能从「静止的一帧」里算出速度。
它保证 连续性 和 可微性。若 AI 的曲线在中途断开或出现尖点，就无法学习。极限必须存在且等于函数值才算「连续」，只有这样才能用微分找到减小误差的方向。也就是说，极限是让 AI 不迷路的 地图。
它是 梯度下降 的理论基础。我们说 AI 学习时把参数「微调一点」，这个「一点」的数学依据就是极限。调学习率、找最优值的过程，就是把极限概念用计算实现出来。数值微分里把 hhh 取成 0.00010.00010.0001 这样很小的数来近似导数，用的也是极限思想。
看极限时，先想 xxx 往哪儿跑（如 x→0x \to 0x→0、x→∞x \to \inftyx→∞）以及 f(x)f(x)f(x) 随之接近哪个数。画图可以看到在 aaa 附近 f(x)f(x)f(x) 会聚在 LLL 附近。
ε-δ 证明的套路是 先给定 ε\varepsilonε，再 找对应的 δ\deltaδ。实际中只要理解「足够近就能让误差任意小」，就足以继续学微分和连续性。
例题与解题步骤见下表。
  • 问题例 1. 求 lim⁡x→2(x2+1)\lim_{x \to 2} (x^2 + 1)limx→2​(x2+1)
  • 解答解： 代入 x=2x = 2x=2 得 22+1=52^2 + 1 = 522+1=5。答案为 5。
  • 问题例 2. 求 lim⁡x→∞1x\lim_{x \to \infty} \frac{1}{x}limx→∞​x1​
  • 解答解： xxx 无限增大时 1x\frac{1}{x}x1​ 趋于 0。答案为 0。
  • 问题例 3. 求 lim⁡x→3(2x−1)\lim_{x \to 3} (2x - 1)limx→3​(2x−1)
  • 解答解： 代入 x=3x = 3x=3 得 2×3−1=52 \times 3 - 1 = 52×3−1=5。答案为 5。
问题解答
例 1. 求 lim⁡x→2(x2+1)\lim_{x \to 2} (x^2 + 1)limx→2​(x2+1)解： 代入 x=2x = 2x=2 得 22+1=52^2 + 1 = 522+1=5。答案为 5。
例 2. 求 lim⁡x→∞1x\lim_{x \to \infty} \frac{1}{x}limx→∞​x1​解： xxx 无限增大时 1x\frac{1}{x}x1​ 趋于 0。答案为 0。
例 3. 求 lim⁡x→3(2x−1)\lim_{x \to 3} (2x - 1)limx→3​(2x−1)解： 代入 x=3x = 3x=3 得 2×3−1=52 \times 3 - 1 = 52×3−1=5。答案为 5。
按题型解题
  • 类型多项式
  • 说明lim⁡x→a(多项式)\lim_{x \to a} (多项式)limx→a​(多项式)
  • 求法直接代入 x=ax=ax=a。
  • 类型常数
  • 说明lim⁡x→ac\lim_{x \to a} climx→a​c
  • 求法恒为 ccc。
  • 类型一次式
  • 说明lim⁡x→a(mx+b)\lim_{x \to a} (mx+b)limx→a​(mx+b)
  • 求法代入得 ma+bma+bma+b。
  • 类型x→∞x \to \inftyx→∞
  • 说明有理式、1x\frac{1}{x}x1​ 等
  • 求法分子分母同除最高次或利用 1x→0\frac{1}{x} \to 0x1​→0。
  • 类型ε-δ 证明
  • 说明给定 ε\varepsilonε 找 δ\deltaδ
  • 求法从 ∣f(x)−L∣<ε|f(x)-L|<\varepsilon∣f(x)−L∣<ε 反解 ∣x−a∣<δ|x-a|<\delta∣x−a∣<δ。
类型说明求法
多项式lim⁡x→a(多项式)\lim_{x \to a} (多项式)limx→a​(多项式)直接代入 x=ax=ax=a。
常数lim⁡x→ac\lim_{x \to a} climx→a​c恒为 ccc。
一次式lim⁡x→a(mx+b)\lim_{x \to a} (mx+b)limx→a​(mx+b)代入得 ma+bma+bma+b。
x→∞x \to \inftyx→∞有理式、1x\frac{1}{x}x1​ 等分子分母同除最高次或利用 1x→0\frac{1}{x} \to 0x1​→0。
ε-δ 证明给定 ε\varepsilonε 找 δ\deltaδ从 ∣f(x)−L∣<ε|f(x)-L|<\varepsilon∣f(x)−L∣<ε 反解 ∣x−a∣<δ|x-a|<\delta∣x−a∣<δ。
例（多项式）
求 lim⁡x→2(x2+1)\lim_{x \to 2}(x^2+1)limx→2​(x2+1)。
解
代入 x=2x=2x=2 得 22+1=52^2+1=522+1=5。→ 答 5
例（常数）
求 lim⁡x→37\lim_{x \to 3} 7limx→3​7。
解
常数极限为自身。→ 答 7
例（一次式）
求 lim⁡x→3(2x−1)\lim_{x \to 3}(2x-1)limx→3​(2x−1)。
解
代入 x=3x=3x=3 得 2×3−1=52\times 3-1=52×3−1=5。→ 答 5
例（x→∞x \to \inftyx→∞）
求 lim⁡x→∞1x\lim_{x \to \infty}\frac{1}{x}limx→∞​x1​。
解
xxx 无限增大时 1/x1/x1/x 趋于 0。→ 答 0