Chapter 02

指数と指数関数

指数は同じ数を何回かけたかを表し、指数関数はその規則を変数にした関数です。ディープラーニングの活性化・損失の設計で使われます。

home.mathDiagramTitle

home.mathDiagramDescription

0123024681012xy(x=0.0, y=1.0)

例: 20=12^0=1, 21=22^1=2, 22=42^2=4, 23=82^3=8

指数と指数関数とは何か

指数は「同じ数を何回かけたか」を表します。例: 2 を 3 回かけると 23=2×2×2=82^3 = 2 \times 2 \times 2 = 8。この 3 が指数(exponent)です。
指数関数は底(base)aa を固定し、入力 xx に対して axa^x を出力する関数です。式では y=axy = a^xa>0a > 0, a1a \neq 1)と書きます。a>1a > 1 なら xx が増えると値は増え、0<a<10 < a < 1 なら xx が増えると値は減ります。
自然対数の底 ee(約 2.718…)は、数学やディープラーニングでよく使う特別な底です。「自然な成長」を扱うときに自然に現れる数で、exe^x を微分しても exe^x のままなので式が簡単になります。ソフトマックス確率モデルでは eze^z の形で活性化・確率計算に使われます。
AIでは指数関数活性化関数(例: softmax 内の exe^x)や損失・確率の設計に使われます。対数と組み合わせるとかけ算を足し算に変え、計算が楽になります。
ディープラーニングではソフトマックスが各出力候補に eze^z(スコア zz)をかけて確率のようにします。指数を押さえないと「なぜこう計算するか」が読めません。指数・対数を押さえると活性化と損失の設計が理解できます。
損失関数確率モデルでは指数を含む式がよく出ます。基礎数学の指数・指数関数を押さえると、その式がどこでどう使われているか追いやすくなります。
AIでは指数関数は「スコア(数)を入れると正の値が一つ出る関数」として使われます。ソフトマックスは各スコアに eze^z をかけて和を 1 にし、その中から一つを選びます。指数を押さえるとこの過程が読めます。
202^01
212^12
222^24
232^38
242^416
323^29
333^327
下のビジュアルのように y=2xy = 2^x では x=0x=0 のとき 11x=1x=1 のとき 22x=2x=2 のとき 44x=3x=3 のとき 88 です。底と指数の関係を目で確認してください。