Chapter 02
指数と指数関数
指数は同じ数を何回かけたかを表し、指数関数はその規則を変数にした関数です。ディープラーニングの活性化・損失の設計で使われます。
home.mathDiagramTitle
home.mathDiagramDescription
例: , , ,
指数と指数関数とは何か
指数は「同じ数を何回かけたか」を表します。例: 2 を 3 回かけると 。この 3 が指数(exponent)です。
指数関数は底(base) を固定し、入力 に対して を出力する関数です。式では (, )と書きます。 なら が増えると値は増え、 なら が増えると値は減ります。
自然対数の底 (約 2.718…)は、数学やディープラーニングでよく使う特別な底です。「自然な成長」を扱うときに自然に現れる数で、 を微分しても のままなので式が簡単になります。ソフトマックスや確率モデルでは の形で活性化・確率計算に使われます。
AIでは指数関数が活性化関数(例: softmax 内の )や損失・確率の設計に使われます。対数と組み合わせるとかけ算を足し算に変え、計算が楽になります。
ディープラーニングではソフトマックスが各出力候補に (スコア )をかけて確率のようにします。指数を押さえないと「なぜこう計算するか」が読めません。指数・対数を押さえると活性化と損失の設計が理解できます。
損失関数や確率モデルでは指数を含む式がよく出ます。基礎数学の指数・指数関数を押さえると、その式がどこでどう使われているか追いやすくなります。
AIでは指数関数は「スコア(数)を入れると正の値が一つ出る関数」として使われます。ソフトマックスは各スコアに をかけて和を 1 にし、その中から一つを選びます。指数を押さえるとこの過程が読めます。
| 式 | 値 |
|---|---|
| 1 | |
| 2 | |
| 4 | |
| 8 | |
| 16 | |
| 9 | |
| 27 |
下のビジュアルのように では のとき 、 のとき 、 のとき 、 のとき です。底と指数の関係を目で確認してください。