みんなのAI
機械学習AI論文
Loading...

学ぶ

🏅マイ実績

Chapter 12

一様分布と正規分布：初期化から予測まで

一様分布は区間で一様に広がる確率、正規分布は平均まわりに鐘形に広がる確率を表します。AIでは初期化・ノイズ・事前分布に使います。

チャプター別 数学図

チャプターを選ぶと、下の図がそのチャプターの内容に切り替わります。基礎数学の流れを一覧で確認できます。

一様分布と正規分布：初期化から予測まで

UniformNormal

一様分布は区間で一様に広がる確率、正規分布は平均まわりに鐘形に広がる確率を表します。AIでは初期化・ノイズ・事前分布に使います。

一様分布と正規分布とは

世の中の連続データの多くは一定の規則で広がっています。そのなかで最も基本となる一様分布と正規分布を理解することは、AIの内部動作を把握する重要なステップです。前の章で学んだ平均（μ\muμ）と分散（σ2\sigma^2σ2）の二つの指標が、これらの分布の形を決める遺伝子になります。
一様分布 — 区間 [a,b][a,b][a,b] のすべての値が出る確率が同じな状態です。グラフにすると天井が平らな長方形になります。さいころの目が出る確率を連続な数に拡張したものと考えればよいです。「どちらにも偏らず、すべての可能性に公平に機会を与えたいとき」に使います。
一様分布の中心である平均は区間の真ん中 (a+b)/2(a+b)/2(a+b)/2 です。分散は区間の長さ（b−ab-ab−a）の2乗に比例する (b−a)2/12(b-a)^2/12(b−a)2/12 で計算されます。区間が広いほどどんな値が出るか当てにくくなり（不確実性の増大）、分散も大きくなる構造です。
正規分布 — 平均を中心に左右対称な鐘形（ベルカーブ）の分布です。身長、試験の点数、測定誤差など自然の多くの現象がこの分布に従うので「正規」という名がついています。ガウス分布ともいい、平均（μ\muμ）は鐘の頂点の位置、標準偏差（σ\sigmaσ）は鐘の幅（広がり）を決めます。
正規分布の強みは経験則（68–95–99.7）にあります。μ±1σ\mu \pm 1\sigmaμ±1σ にデータの約68%、μ±2σ\mu \pm 2\sigmaμ±2σ に約95%、μ±3σ\mu \pm 3\sigmaμ±3σ に約99.7%が入ります。この規則を知っていれば、データが平均からどれだけ離れているか（外れ値かどうか）をすぐ判断し、AIの予測の信頼度を評価できます。
一様分布は「何も知らない白紙の状態」を、正規分布は「平均という基準がある自然な状態」を表します。AIは学習を始めるとき一様分布で重みをまんべんなく散らし（初期化）、学習が進むにつれてデータの誤差を正規分布で分析しながら答えに近づいていきます。
事前情報の設計：ベイズ統計では、AIが学習前に持つ「先入観」を事前分布といいます。完全に公平な立場から始めたいときは一様分布を使い、特定の平均値の近くにあるという合理的な推測があるときは正規分布を使ってモデルの基礎体力を設計します。
誤差の数学的モデル化：世の中のデータにはすべてノイズが混ざっています。それらのノイズは互いに独立に起こり、合わさると結局正規分布に従います。AIが写真からノイズを除去したりかすんだ音声を復元したりするとき、ノイズが正規分布の形だと仮定して計算すると、はるかに正確な復元が可能になります。
中心極限定理：これは統計学の根幹です。データがどんな形であっても、そのデータをたくさん抽出して平均をとると、その平均値たちの分布は驚くべきことに正規分布に近づきます。このおかげでAIは、少数のサンプルデータだけから正規分布を借りて、母集団の性質を予測できます。
ディープラーニングでは重みの初期化が学習の成否を分けます。XavierやHeのような初期化では、一様・正規分布の分散を巧みに調整し、データの信号がネットワークの奥まで歪まずに届くようにします。
重みの初期化 — 重みを最初にすべて 0 にすると学習できません。そこで一様分布や正規分布から無作為に数を取り出して埋めます。正規分布を使うと、多くの重みが 0 付近にまとまり、学習がずっと安定して速く始まります。
ノイズ — VAEでは潜在ベクトルを正規からサンプリングし、拡散モデルはガウスノイズを段階的に足したり引いたりします。
回帰 — 誤差を正規と仮定すると最小二乗(OLS)が最尤と一致します。予測区間も μ±kσ\mu \pm k\sigmaμ±kσ で取ります。
ベイズ — 事前分布に一様・正規を使い、観測後に事後分布を求めます。ニューラルネットの重みにも正規事前を置けます。
数学の流れ — Ch10の確率変数・分布、Ch11の平均・分散を経て、Ch12で二つの具体的な分布（一様・正規）を学びます。この二つを知ると、AI論文の「初期化」「ノイズ」「事前」の表現が自然に読めます。
一様 — 区間 [a,b][a,b][a,b] で密度 1/(b−a)1/(b-a)1/(b−a)、平均 (a+b)/2(a+b)/2(a+b)/2、分散 (b−a)2/12(b-a)^2/12(b−a)2/12。正規 — 平均 μ\muμ、分散 σ2\sigma^2σ2。区間の確率は標準正規表や計算機で求めます。
例（一様）. 区間 [0,6][0,6][0,6] の一様分布なら平均 333、分散 36/12=336/12=336/12=3、標準偏差 3\sqrt{3}3​。
例（正規）. 平均 707070、標準偏差 101010 の正規分布なら約68%が 60∼8060\sim8060∼80、約95%が 50∼9050\sim9050∼90 に入ります。
問題タイプ別の解法
  • タイプ一様分布
  • 説明区間 [a,b][a,b][a,b] で一様
  • 答えの求め方平均 (a+b)/2(a+b)/2(a+b)/2、分散 (b−a)2/12(b-a)^2/12(b−a)2/12、標準偏差 (b−a)2/12\sqrt{(b-a)^2/12}(b−a)2/12​。
  • タイプ正規分布
  • 説明平均 μ\muμ、標準偏差 σ\sigmaσ
  • 答えの求め方区間の確率は標準正規表または 68-95-99.7 規則。μ±σ\mu\pm\sigmaμ±σ に約68%。
タイプ説明答えの求め方
一様分布区間 [a,b][a,b][a,b] で一様平均 (a+b)/2(a+b)/2(a+b)/2、分散 (b−a)2/12(b-a)^2/12(b−a)2/12、標準偏差 (b−a)2/12\sqrt{(b-a)^2/12}(b−a)2/12​。
正規分布平均 μ\muμ、標準偏差 σ\sigmaσ区間の確率は標準正規表または 68-95-99.7 規則。μ±σ\mu\pm\sigmaμ±σ に約68%。
例（一様）
区間 [0,6][0,6][0,6] の一様分布の平均と分散を求めなさい。
解答
平均 (0+6)/2=3(0+6)/2=3(0+6)/2=3。分散 (6−0)2/12=36/12=3(6-0)^2/12=36/12=3(6−0)2/12=36/12=3。→ 平均 3、分散 3
例（正規）
平均 70、標準偏差 10 の正規分布で μ±σ\mu\pm\sigmaμ±σ 区間（60～80）に入る割合は？
解答
経験則より約68%。→ 約68%