みんなのAI
機械学習AI論文
読み込み中…

学ぶ

🏅マイ実績

Ch.01

ベクトルとベクトル空間:スカラーを超えた大きさと向き

チャプター別 数学図

チャプターを選ぶと、下の図がそのチャプターの内容に切り替わります。中級数学の流れを一覧で確認できます。

ベクトル = 向き + 大きさ

xyuvu+v

同じ向き · 長さ k 倍

k·u
基準 uk·u
ベクトルは「数の束」であると同時に、大きさと向きを一度に表す対象です。機械学習では1サンプルが特徴ベクトル x\mathbf xx になり、深層学習では埋め込みや重みもベクトルです。本章では Rn\mathbb R^nRn でベクトルを扱う共通語を身につけ、次章の内積へつなげます。

ベクトルとベクトル空間: 大きさと向きを一度に

ベクトルとは? 順序付きの数の列 v=(v1,…,vn)\mathbf v=(v_1,\ldots,v_n)v=(v1​,…,vn​) であり、幾何的には大きさと向きを持つ矢印として描けます。関数の入力が複数の実数のとき、それを一つのベクトルにまとめると表記が簡潔になります。
「東に3 km、北に4 km」のように、向きと距離が同時に現れます。座標平面では一本の矢印—これが2次元ベクトルの直感です。成分 (3,4)(3,4)(3,4)、長さは 32+42\sqrt{3^2+4^2}32+42​。
より正確には、実ベクトル空間 Rn\mathbb R^nRn の元は nnn 個の実成分を持つベクトルです。和は成分ごと、スカラー倍は各成分に実数を掛けます。零ベクトル 0\mathbf 00 は成分がすべて0。ノルムは通常 ∥v∥=∑ivi2\|\mathbf v\|=\sqrt{\sum_i v_i^2}∥v∥=∑i​vi2​​。演習では ∥v∥2\|\mathbf v\|^2∥v∥2 を整数で扱うことがあります。
教師あり学習では特徴が x∈Rd\mathbf x\in\mathbb R^dx∈Rd、線形モデルの重みも w∈Rd\mathbf w\in\mathbb R^dw∈Rd です。深層ネットでは内積と行列が積み重なる第一歩が本章です。Ch.10 ヘッセでは同じベクトル空間上の2階微分(曲率)を読みます。
まとめると、ベクトルは幾何(向き·大きさ)と代数(成分)を同時に与え、Rn\mathbb R^nRn は nnn 次元実ベクトル全体の空間です。和·スカラー倍は成分ごと。その上に内積·行列·微分が載ります。Ch.02 では「似ている度合い」を数にします。
基礎の「関数·連続」はここで複数入力を一つのベクトルにまとめる習慣へつながります。MLの特徴·距離·分類、DLの内積·行列積はすべてベクトル言語の上にあります。
「同じ次元同士だけ足す」「スカラー倍は各成分に同じ規則」—これがベクトル空間の構造です。慣れておくと、独立性·基底·ランク·固有値が楽になります。
特徴ベクトル: 表の1行を x\mathbf xx にすると前処理·正規化·距離がベクトル演算になります。kNN·クラスタリングでは差のノルムがよく使われます。
深層学習: 1ニューロンは入力と重みベクトルの内積(次章)+バイアス+活性化。埋め込みも「意味空間」のベクトルです。ベクトル=AIが世界を読む最小の束。
表は式と記号の要約、続く項目ごとの補足で定義の理由を示します。例題は出題される10タイプそれぞれに手順を載せています。
  • 式v=(v1,…,vn)\mathbf v=(v_1,\ldots,v_n)v=(v1​,…,vn​)
  • 意味v\mathbf vv = ベクトル。viv_ivi​ = iii 番目の成分。
  • 式Rn\mathbb R^nRn
  • 意味nnn 次元実ベクトル空間。
  • 式∥v∥2=∑ivi2\|\mathbf v\|^2 = \sum_i v_i^2∥v∥2=∑i​vi2​
  • 意味ノルムの2乗(演習では整数)。
  • 式u⋅v=∑iuivi\mathbf u\cdot\mathbf v=\sum_i u_i v_iu⋅v=∑i​ui​vi​
  • 意味内積(次章で詳しく)。
  • 式u+v\mathbf u+\mathbf vu+v
  • 意味成分ごとの和。
  • 式kvk\mathbf vkv
  • 意味スカラー倍。
  • 式dim⁡(Rn)\dim(\mathbb R^n)dim(Rn)
  • 意味次元 = nnn.
  • 式uxvy−uyvxu_x v_y - u_y v_xux​vy​−uy​vx​ (2D)
  • 意味平行四辺形の符号付き面積; 000 なら平行。
式意味
v=(v1,…,vn)\mathbf v=(v_1,\ldots,v_n)v=(v1​,…,vn​)v\mathbf vv = ベクトル。viv_ivi​ = iii 番目の成分。
Rn\mathbb R^nRnnnn 次元実ベクトル空間。
∥v∥2=∑ivi2\|\mathbf v\|^2 = \sum_i v_i^2∥v∥2=∑i​vi2​ノルムの2乗(演習では整数)。
u⋅v=∑iuivi\mathbf u\cdot\mathbf v=\sum_i u_i v_iu⋅v=∑i​ui​vi​内積(次章で詳しく)。
u+v\mathbf u+\mathbf vu+v成分ごとの和。
kvk\mathbf vkvスカラー倍。
dim⁡(Rn)\dim(\mathbb R^n)dim(Rn)次元 = nnn.
uxvy−uyvxu_x v_y - u_y v_xux​vy​−uy​vx​ (2D)平行四辺形の符号付き面積; 000 なら平行。
項目ごとの補足
① v=(v1,…,vn)\mathbf v=(v_1,\ldots,v_n)v=(v1​,…,vn​) 括弧内は順序付きの並びで、viv_ivi​ は「iii 番目の座標」です。順序を入れ替えると別のベクトルになります。平面では (vx,vy)(v_x,v_y)(vx​,vy​) と書くことが多いです。
② Rn\mathbb R^nRn 実成分がちょうど nnn 個あるベクトルすべての集合です。和やスカラー倍を取っても成分数は nnn のままなので、同じ空間の中に留まります(和とスカラー倍に関して閉じている)。
③ ∥v∥2=∑ivi2\|\mathbf v\|^2=\sum_i v_i^2∥v∥2=∑i​vi2​ 各成分を二乗して足したもので、ユークリッド長 ∥v∥=∑ivi2\|\mathbf v\|=\sqrt{\sum_i v_i^2}∥v∥=∑i​vi2​​ の二乗です。軸に沿った距離の二乗と同じ形でよく現れます。演習では整数になるよう二乗だけを問うことがあります。
④ u⋅v=∑iuivi\mathbf u\cdot\mathbf v=\sum_i u_i v_iu⋅v=∑i​ui​vi​ 同じ添字同士を掛けて足します。2次元なら uxvx+uyvyu_xv_x+u_yv_yux​vx​+uy​vy​。結果は常にスカラー(1つの数)です。000 のときは直交する典型例が多く、次章で角度・射影と結びます。
⑤ u+v\mathbf u+\mathbf vu+v 同じ次元(同じ nnn)のときだけ定義されます。(u1+v1,…,un+vn)(u_1+v_1,\ldots,u_n+v_n)(u1​+v1​,…,un​+vn​) で、減算は u−v=u+(−1)v\mathbf u-\mathbf v=\mathbf u+(-1)\mathbf vu−v=u+(−1)v と考えられます。
⑥ kvk\mathbf vkv 各成分に kkk を掛けます。k<0k<0k<0 なら向きが反転し、∣k∣>1|k|>1∣k∣>1 なら同じ直線上で長さが ∣k∣|k|∣k∣ 倍になります。k=0k=0k=0 なら零ベクトル 0\mathbf 00 です。
⑦ dim⁡(Rn)=n\dim(\mathbb R^n)=ndim(Rn)=n 空間を支える独立な方向の本数が nnn である、という意味です。標準基底 e1,…,en\mathbf e_1,\ldots,\mathbf e_ne1​,…,en​ が nnn 本あるので次元は nnn です。
⑧ uxvy−uyvxu_x v_y-u_y v_xux​vy​−uy​vx​(2D) 原点から二辺を張った平行四辺形の面積(向きを含む符号)に対応します。一方が他方の実数倍なら一直線上に重なり面積 000 → 式も000 になります。

例題

例1 — 定義 ○/×
問: 正しければ1、誤りなら0。「ベクトルのユークリッドノルム ∥v∥\|\mathbf v\|∥v∥ は負になりうる。」
解: ノルムは長さなので ∥v∥≥0\|\mathbf v\|\ge 0∥v∥≥0 → 誤り → 0.

例2 — 選択肢の番号
問: R5\mathbb R^5R5 の次元は?
①4
②5
③6
解: dim⁡(Rn)=n\dim(\mathbb R^n)=ndim(Rn)=n → 次元は5 →
② → 入力 2.

例3 — ノルムの2乗 (R2\mathbb R^2R2)
問: v=(3,4)\mathbf v=(3,4)v=(3,4) のとき ∥v∥2\|\mathbf v\|^2∥v∥2 は?
解: 9+16=259+16=259+16=25 → 25.

例4 — 内積
問: u=(1,2)\mathbf u=(1,2)u=(1,2), v=(3,−1)\mathbf v=(3,-1)v=(3,−1) のとき u⋅v\mathbf u\cdot\mathbf vu⋅v は?
解: 1⋅3+2⋅(−1)=11\cdot3+2\cdot(-1)=11⋅3+2⋅(−1)=1 → 1.

例5 — 和の成分
問: u=(2,5)\mathbf u=(2,5)u=(2,5), v=(1,−3)\mathbf v=(1,-3)v=(1,−3) のとき (u+v)x(\mathbf u+\mathbf v)_x(u+v)x​ は?
解: 2+1=32+1=32+1=3 → 3.

例6 — スカラー倍の成分
問: u=(2,3)\mathbf u=(2,3)u=(2,3), k=4k=4k=4 のとき (4u)x(4\mathbf u)_x(4u)x​ は?
解: 4⋅2=84\cdot2=84⋅2=8 → 8.

例7 — Rn\mathbb R^nRn の次元
問: R4\mathbb R^4R4 の次元(整数)は?
解: dim⁡(R4)=4\dim(\mathbb R^4)=4dim(R4)=4 → 4.

例8 — 成分の個数
問: R6\mathbb R^6R6 ベクトルの成分の個数(整数)は?
解: 6 個.

例9 — uxvy−uyvxu_x v_y - u_y v_xux​vy​−uy​vx​(2D)
問: u=(1,2)\mathbf u=(1,2)u=(1,2), v=(3,4)\mathbf v=(3,4)v=(3,4) のとき uxvy−uyvxu_x v_y - u_y v_xux​vy​−uy​vx​ は?
解: 1⋅4−2⋅3=−21\cdot4-2\cdot3=-21⋅4−2⋅3=−2 → -2(負のときは入力欄の前に −-− が表示されます)。

例10 — ∥u∥2−∥v∥2\|\mathbf u\|^2-\|\mathbf v\|^2∥u∥2−∥v∥2
問: u=(2,1)\mathbf u=(2,1)u=(2,1), v=(1,0)\mathbf v=(1,0)v=(1,0) のとき ∥u∥2−∥v∥2\|\mathbf u\|^2-\|\mathbf v\|^2∥u∥2−∥v∥2 は?
解: 5−1=45-1=45−1=4 → 4.

문제

下の指示を読み、答え(整数)を空欄(?)に入力してください。
v=(1,4)\mathbf v=(1,4)v=(1,4) のとき ∥v∥2\|\mathbf v\|^2∥v∥2(整数)は?
1 / 10