相関係数は−1以上1以下(判別式)

方針

解答

⓪ 発想 — どう考え始めるか。 「2乗の和はつねに $0$ 以上」という当たり前を、$t$ の2次関数に仕込むのがこの証明の設計だ。

$f(t)=\frac{1}{n}\sum \{(x_i-\bar{x})t-(y_i-\bar{y}){\}}^2$ を展開すると

$f(t)=s_x^2{t}^2-2s_{xy}t+s_y^2$ — 係数に分散と共分散が現れる。

すべての $t$ で $f(t)\ge 0$ だから判別式 $\le 0$: $s_{xy}^2\le s_x^2{s}_y^2$。両辺の平方根をとれば $|r|\le 1$ だ。

① $2$ 乗和の関数。 $$f(t)=\frac{1}{n}\sum _{i=1}^n\{(x_i-\bar{x})t-(y_i-\bar{y}){\}}^2\ge 0(\text{すべての }t).$$ 展開して $\sum$ を分配すると $$f(t)=s_x^2{t}^2-2s_{xy}t+s_y^2,$$ ここで $s_x^2=\frac{1}{n}\sum (x_i-\bar{x}{)}^2$、$s_{xy}=\frac{1}{n}\sum (x_i-\bar{x})(y_i-\bar{y})$、$s_y^2=\frac{1}{n}\sum (y_i-\bar{y}{)}^2$。

② 判別式。 $s_x^2>0$ で上に凸でなく、すべての $t$ で $f(t)\ge 0$ だから判別式 $\le 0$: $$(-2s_{xy}{)}^2-4s_x^2{s}_y^2\le 0⟹s_{xy}^2\le s_x^2{s}_y^2.$$ ③ 結論。 両辺を $s_x^2{s}_y^2(>0)$ で割ると ${\left(\frac{s_{xy}}{s_x{s}_y}\right)}^2\le 1$、すなわち $r^2\le 1$。ゆえに $$-1\le r\le 1.$$

まとめ 偏差の $1$ 次結合の $2$ 乗和 $\ge 0$ を判別式条件に翻訳すると $s_{xy}^2\le s_x^2{s}_y^2$、$|r|\le 1$。相関係数と $2$ 次関数(判別式)の融合。

発展 — 一歩先へ。 $r=\cos \theta$ の描像から、回帰直線(散布図に最も沿う直線)の傾きが $r\frac{s_y}{s_x}$ になることも見通せる($\vec{Y}$ の $\vec{X}$ 方向への正射影)。$r^2$ は「$y$ の散らばりのうち直線で説明できる割合」(決定係数)— 相関係数の周りの統計の道具は、みなこの $n$ 次元の直角三角形から生まれてくる。

別解

偏差ベクトルの「なす角」と見る(コーシー・シュワルツ)。 偏差を並べた $n$ 次元のベクトル

$$\vec{X}=(x_1-\bar{x},\dots ,x_n-\bar{x}),\vec{Y}=(y_1-\bar{y},\dots ,y_n-\bar{y})$$

を作ると、$\vec{X}\cdot \vec{Y}=n{s}_{xy}$、$|\vec{X}|=\sqrt{n}{s}_x$、$|\vec{Y}|=\sqrt{n}{s}_y$。つまり

$$r=\frac{s_{xy}}{s_x{s}_y}=\frac{\vec{X}\cdot \vec{Y}}{|\vec{X}||\vec{Y}|}=\cos \theta$$

— 相関係数は、偏差ベクトルのなす角の余弦そのものだ。$|\cos \theta |\le 1$(コーシー・シュワルツの不等式)から $|r|\le 1$ が即座に出る。

$t$ の2次式(本解)はこのコーシー・シュワルツの標準的な証明を分散の言葉で実行したもの。$r=\cos \theta$ の描像を持つと、「$r=\pm 1$ ⟺ ベクトルが平行 ⟺ 点が一直線上」という等号条件の意味も、$r=0$ が「直交」であることも、一目で見えるようになる。