みんなのAI
機械学習AI論文
Loading...

学ぶ

🏅マイ実績

Chapter 04

極限とε-δ:「限りなく近づく」を定義する

極限は、目標の点に到達しなくてもその状態を予測する数学的な道具です。動く物体の瞬間速度を測ったり、AIが答えに向かって少しずつ進む「学習」の過程は、すべてこの極限の概念の上に成り立っています。

チャプター別 数学図

チャプターを選ぶと、下の図がそのチャプターの内容に切り替わります。基礎数学の流れを一覧で確認できます。

下のグラフで極限と ε-δ を確認しましょう。

12312345xyy = x²(a, L) = (2, 4)(x, f(x))

まとめ: 誤差 ε(緑)を決めると、それに合う距離 δ(青)があって、xxx が青の範囲にあれば f(x)f(x)f(x) はいつも緑の範囲に入ります。これが ε-δ の意味です。

見る順序

  • オレンジの点 = 曲線上の (x, f(x)) が (2, 4) に近づく
  • 緑の帯 = L±ε(f(x) の許容誤差)
  • 青の帯 = a±δ(x がここなら f(x) は緑に入る)

極限とは何か

極限は、xxx がある値 aaa に 限りなく近づくとき、関数 f(x)f(x)f(x) がどこに向かうかを表します。記号では lim⁡x→af(x)=L\lim_{x \to a} f(x) = Llimx→a​f(x)=L と書きます。ここで大事なのは xxx は決して aaa にならない という点です。aaa のすぐ近くでの 傾向(トレンド) を見るのが極限です。
直感的な例:カーナビで目的地までの距離が 100m100m100m、10m10m10m、1m1m1m、0.1m0.1m0.1m と減っていく様子を想像してください。車が目的地に「ぴたり」と止まらなくても、どこへ向かっているかはわかります。数学では、xxx が aaa に近づくほど f(x)f(x)f(x) と LLL の距離が 0 に収束する と表現します。極限が存在しない場合もあります。例えば 1x\frac{1}{x}x1​ で x→0x \to 0x→0 のとき、左極限(−∞-\infty−∞)と右極限(+∞+\infty+∞)が異なるため極限値は定まりません。x→∞x \to \inftyx→∞ のとき 1x→0\frac{1}{x} \to 0x1​→0 のように一方向だけの極限はよく定義されます。
イプシロン(ε\varepsilonε)-デルタ(δ\deltaδ)論法は、極限を数学的に厳密に定義した 「約束」 です。「賭け」 だと思うとわかりやすいです。
(1) 相手が「誤差を ε\varepsilonε(0.1 でも 0.0001 でも)以内にできるか?」と挑発する。
(2) 自分が「xxx を aaa の近く δ\deltaδ の範囲にだけおけば、必ずその誤差 ε\varepsilonε の中に結果が入る!」と証明する。つまり 「どんなに小さい誤差(ε\varepsilonε)を要求されても、それに合う xxx の範囲(δ\deltaδ)をいつでも見つけられる」 というのがイプシロン-デルタの核心です。
瞬間の変化率(微分) を定義する 唯一の方法 だからです。「瞬間」とは時間の幅が 0 の状態ですが、0 で割ることはできません。代わりに幅を 0 に限りなく近づける(極限) ことで、止まった写真からでも速度を計算できるようになります。
連続性と微分可能性を保証します。AI のグラフが途中で切れていたりとがっていたりすると学習できません。極限が存在して関数値と一致して初めて「連続」になり、そのとき微分で誤差を減らす方向を見つけられます。つまり極限は、AI が道に迷わないための 地図 のようなものです。
勾配降下法の理論的な土台です。AI が学習するときパラメータを「ごく少し」変えるといいますが、その「ごく少し」の数学的根拠が極限です。学習率を調整しながら最適な値を探す過程は、極限の考え方を計算で実装したようなものです。数値微分で hhh を 0.00010.00010.0001 のようにとても小さくして微分値を近似するときも、極限の原理が使われています。
極限を見るときは xxx がどこに向かうか(例:x→0x \to 0x→0、x→∞x \to \inftyx→∞)と、それに応じて f(x)f(x)f(x) がどの値に近づくかをまず考えましょう。グラフを描くと「aaa の近くで f(x)f(x)f(x) が LLL の周りに集まる」ことが目で確認できます。
イプシロン-デルタの証明は「ε\varepsilonε を先に決めて、それに合う δ\deltaδ を探す」順番で進めます。実務では「十分近づけば誤差が望むだけ小さくなる」という論理だけ理解していれば、次の章(微分、連続性)を読むのに十分です。
例題と解答を表にまとめました。
  • 問題例 1. lim⁡x→2(x2+1)\lim_{x \to 2} (x^2 + 1)limx→2​(x2+1)
  • 解答解答: x=2x = 2x=2 を代入して 22+1=52^2 + 1 = 522+1=5。答え 5。
  • 問題例 2. lim⁡x→∞1x\lim_{x \to \infty} \frac{1}{x}limx→∞​x1​
  • 解答解答: xxx が大きくなると 1x\frac{1}{x}x1​ は 0 に近づく。答え 0。
  • 問題例 3. lim⁡x→3(2x−1)\lim_{x \to 3} (2x - 1)limx→3​(2x−1)
  • 解答解答: x=3x = 3x=3 を代入して 2×3−1=52 \times 3 - 1 = 52×3−1=5。答え 5。
問題解答
例 1. lim⁡x→2(x2+1)\lim_{x \to 2} (x^2 + 1)limx→2​(x2+1)解答: x=2x = 2x=2 を代入して 22+1=52^2 + 1 = 522+1=5。答え 5。
例 2. lim⁡x→∞1x\lim_{x \to \infty} \frac{1}{x}limx→∞​x1​解答: xxx が大きくなると 1x\frac{1}{x}x1​ は 0 に近づく。答え 0。
例 3. lim⁡x→3(2x−1)\lim_{x \to 3} (2x - 1)limx→3​(2x−1)解答: x=3x = 3x=3 を代入して 2×3−1=52 \times 3 - 1 = 52×3−1=5。答え 5。
問題タイプ別の解法
  • タイプ多項式の極限
  • 説明lim⁡x→af(x)\lim_{x \to a} f(x)limx→a​f(x)、fff は多項式
  • 答えの求め方多項式は連続なので x=ax=ax=a を代入。極限値=関数値。
  • タイプ定数
  • 説明lim⁡x→ac\lim_{x \to a} climx→a​c
  • 答えの求め方定数は xxx に無関係に常に ccc。答え ccc。
  • タイプ一次式
  • 説明lim⁡x→a(mx+b)\lim_{x \to a} (mx+b)limx→a​(mx+b)
  • 答えの求め方aaa を代入 → ma+bma+bma+b。
  • タイプx→∞
  • 説明lim⁡x→∞f(x)\lim_{x \to \infty} f(x)limx→∞​f(x)
  • 答えの求め方xxx が大きくなると f(x)f(x)f(x) が何に近づくか。1/x1/x1/x、1/x21/x^21/x2 は 0。最高次だけ見る。
  • タイプε-δ の概念
  • 説明定義で問われる番号
  • 答えの求め方1=距離、2=誤差など問題に合う番号を入力。
タイプ説明答えの求め方
多項式の極限lim⁡x→af(x)\lim_{x \to a} f(x)limx→a​f(x)、fff は多項式多項式は連続なので x=ax=ax=a を代入。極限値=関数値。
定数lim⁡x→ac\lim_{x \to a} climx→a​c定数は xxx に無関係に常に ccc。答え ccc。
一次式lim⁡x→a(mx+b)\lim_{x \to a} (mx+b)limx→a​(mx+b)aaa を代入 → ma+bma+bma+b。
x→∞lim⁡x→∞f(x)\lim_{x \to \infty} f(x)limx→∞​f(x)xxx が大きくなると f(x)f(x)f(x) が何に近づくか。1/x1/x1/x、1/x21/x^21/x2 は 0。最高次だけ見る。
ε-δ の概念定義で問われる番号1=距離、2=誤差など問題に合う番号を入力。

例(多項式の極限)
lim⁡x→2(x2+1)\lim_{x \to 2} (x^2 + 1)limx→2​(x2+1) を求めなさい。
解答
多項式は連続なので x=2x=2x=2 を代入。22+1=52^2+1=522+1=5。→ 答 5

例(一次式)
lim⁡x→3(2x−1)\lim_{x \to 3} (2x - 1)limx→3​(2x−1) を求めなさい。
解答
x=3x=3x=3 を代入 → 2×3−1=52\times 3-1=52×3−1=5。→ 答 5

例(定数)
lim⁡x→07\lim_{x \to 0} 7limx→0​7 を求めなさい。
解答
定数関数は xxx に無関係に 7。→ 答 7

例(x→∞)
lim⁡x→∞1x\lim_{x \to \infty} \frac{1}{x}limx→∞​x1​ を求めなさい。
解答
xxx が大きくなると 1/x1/x1/x は 0 に近づく。→ 答 0