なす角

方針

解答

⓪ 発想 — どう考え始めるか。 なす角を求めたい。内積の $2$ つの顔を、橋渡しする。

成分から内積を計算する。

$$\vec{a}\cdot \vec{b}=1\times 1+0\times 1=1$$

大きさも計算する。

$$|\vec{a}|=1,|\vec{b}|=\sqrt{1^2+1^2}=\sqrt{2}$$

定義の顔と等しいとおく。

$$\vec{a}\cdot \vec{b}=|\vec{a}||\vec{b}|\cos \theta$$

$$1=1\times \sqrt{2}\times \cos \theta$$

$$\cos \theta =\frac{1}{\sqrt{2}}$$

$\cos \theta =\frac{1}{\sqrt{2}}$ となる角は?

$$\theta =45^{\circ }$$

手順をまとめると、こうだ。

$$\cos \theta =\frac{\vec{a}\cdot \vec{b}}{|\vec{a}||\vec{b}|}$$

「成分で内積と大きさを出し、$\cos \theta$ を作り、角を読む。」

内積の $2$ つの表現を等しいとおくことで、角度が逆算できる。 これが、なす角の求め方の核心である。

① 内積と大きさを求める。 $\vec{a}\cdot \vec{b}=1\cdot 1+0\cdot 1=1$。$|\vec{a}|=1$、$|\vec{b}|=\sqrt{1^2+1^2}=\sqrt{2}$。

② $\cos \theta$ を計算する。

$$\cos \theta =\frac{1}{1\times \sqrt{2}}=\frac{1}{\sqrt{2}}$$

③ 角を求める。 $\cos \theta =\frac{1}{\sqrt{2}}$ より $\theta =45^{\circ }$。

まとめ:なす角は「内積の定義を逆に使う」。$\cos \theta =\frac{\vec{a}\cdot \vec{b}}{|\vec{a}||\vec{b}|}$ で $\cos$ を出し、角を読む。$\frac{1}{\sqrt{2}}$ は $45^{\circ }$ だ。

発展 — 一歩先へ。 高次元の空間には、我々の直感を裏切る性質がある。

「高次元では、ほとんどすべてのベクトルが、互いにほぼ垂直になる。」

信じがたいだろうか。確かめてみよう。

$n$ 次元空間で、ランダムに $2$ 本のベクトルを取る。 そのなす角は、平均して何度になるか。

$2$ 次元なら、$0^{\circ }$ から $180^{\circ }$ まで、いろいろな角が出る。 平均は $90^{\circ }$ だが、ばらつきが大きい。

$3$ 次元でも、まだばらつく。

だが、$100$ 次元では?

ほとんどすべてのペアが、$90^{\circ }$ に極めて近くなる。

なぜか。

内積は、成分の積の和だった。

$$\vec{a}\cdot \vec{b}=a_1{b}_1+a_2{b}_2+\cdots +a_n{b}_n$$

ランダムなベクトルなら、各項 $a_i{b}_i$ は正にも負にもなる。

$n$ 個の項が、ランダムに正負を取る。 その和は、打ち消し合って、$0$ の近くに集中する。

(大数の法則、あるいは中心極限定理の効果だ。)

一方、$|\vec{a}|$ と $|\vec{b}|$ は、$\sqrt{n}$ に比例して大きくなる。

$$\cos \theta =\frac{\vec{a}\cdot \vec{b}}{|\vec{a}||\vec{b}|}\approx \frac{\sqrt{n}}{n}=\frac{1}{\sqrt{n}}\to 0$$

$n$ が大きいほど、$\cos \theta$ は $0$ に近づく。 つまり、$90^{\circ }$ に近づく。

「高次元空間では、みんな垂直」

これを、次元の呪いの一側面という。

この事実には、恐ろしい含意がある。

「高次元では、すべての点が、互いにほぼ同じ距離にある」

近い点と遠い点の区別がつかなくなる。

機械学習で「最近傍を探す」というアルゴリズムが、高次元では機能しなくなる理由が、これだ。

だが、悪いことばかりでもない。

「ほとんどのベクトルが直交している」ということは、

高次元空間には、ほぼ独立な"方向"が、指数関数的にたくさん詰め込めるということでもある。

だから、$300$ 次元のベクトルで、何万もの単語を、互いに区別しながら表現できる。

もし $2$ 次元しかなければ、「王」と「女王」と「バナナ」を、区別して配置する余地がない。

高次元は、呪いであると同時に、豊かさでもある。

$45^{\circ }$ という、たった $1$ つの角度の計算。

その先には、我々の直感が通用しない、広大な高次元の世界が広がっている。

別解

図に描けば、計算せずに角が見える。

$2$ つのベクトルを、原点から描いてみよう。

$$\vec{a}=(1,0)⟹x\text{ 軸の正の向き}$$

$$\vec{b}=(1,1)⟹\text{右上 }45^{\circ }\text{ の向き}$$

$\vec{b}$ は、横に $1$、縦に $1$。 つまり、傾き $1$ の方向だ。

傾き $1$ の直線は、$x$ 軸と $45^{\circ }$ をなす。

$$\tan \theta =\frac{1}{1}=1⟹\theta =45^{\circ }$$

$\vec{a}$ は $x$ 軸そのものだから、$2$ つのなす角は $45^{\circ }$ ✓

内積を計算しなくても、答えが出た。

この問題が「$\vec{a}$ を $x$ 軸方向」に設定しているのは、まさにこの見通しのよさのためだ。

なぜ、図で分かるのに、わざわざ内積を使うのか。

答え: 図で分からない場合に備えるためだ。

たとえば、$\vec{a}=(3,1)$、$\vec{b}=(1,2)$ のなす角は?

図を描いても、何度なのかは目分量では分からない。

内積の出番だ。

$$\vec{a}\cdot \vec{b}=3+2=5$$ $$|\vec{a}|=\sqrt{10},|\vec{b}|=\sqrt{5}$$

$$\cos \theta =\frac{5}{\sqrt{10}\sqrt{5}}=\frac{5}{\sqrt{50}}=\frac{5}{5\sqrt{2}}=\frac{1}{\sqrt{2}}$$

これも $45^{\circ }$ だ!

図では分からなかった角が、計算で確定した。

さらに、$3$ 次元でも同じ手順が使える。

$$\vec{a}=(1,1,0),\vec{b}=(1,0,1)$$

$$\cos \theta =\frac{1}{\sqrt{2}\sqrt{2}}=\frac{1}{2}⟹\theta =60^{\circ }$$

$3$ 次元は図に描きにくい。 だが、内積の公式は、次元に関係なく使える。

そして、$100$ 次元でも $1000$ 次元でも、同じ式で「角度」が定義できる。

$$\cos \theta =\frac{\vec{a}\cdot \vec{b}}{|\vec{a}||\vec{b}|}$$

$300$ 次元の単語ベクトルの「なす角」も、この式で計算されている(前問の発展で見たとおり)。

もはや図には描けない。 だが、計算はできる。

「図で見えるものを、計算で置き換える」

それによって、図に描けない世界へ進める。

$45^{\circ }$ という、目で見て分かる角。

その計算方法を身につけることが、目に見えない高次元への切符になる。