データの分析 最難関編の問題 全8問

方針

解答

⓪ 発想(どう考え始めるか) 分散は平均のまわりの散らばりだ。だが平均がどこにあるかは分からない。分かっているのは「全部が $[m,M]$ に入っている」ことだけである。

そこで、測る中心を取り替える。区間の中点 $c=\frac{m+M}{2}$ なら、どのデータも $c$ から $\frac{M-m}{2}$ 以内にある。これは確実に使える情報だ。

ただし中心を平均からずらすと、2乗和は必ず増える。逆に言えば「平均のまわりの2乗和 $\le$ 中点のまわりの2乗和」。この向きの不等式こそ、いま欲しいものである。

(3)は最大値を狙う。分散を1つのデータ $x_i$ だけの関数と見ると、$x_i$ の2次関数で下に凸だ。下に凸な関数の閉区間での最大は必ず端でとる。だから最大にするデータは $m$ か $M$ しか使わない。ここまで絞れれば、あとは個数の問題になる。

① (1) 中点のまわりで測る。 $c=\frac{m+M}{2}$ とおく。$c$ は区間の中点だから、$m\le x_i\le M$ より

$$\left|x_i-c\right|\le \frac{M-m}{2}$$

(区間の端まででも、中点からの距離は $\frac{M-m}{2}$ である。)公式より

$$s^2=\frac{1}{n}\sum _{i=1}^n(x_i-c{)}^2-{\left(\bar{x}-c\right)}^2\le \frac{1}{n}\sum _{i=1}^n(x_i-c{)}^2\le \frac{1}{n}\cdot n\cdot {\left(\frac{M-m}{2}\right)}^2=\frac{(M-m{)}^2}{4}$$

引いた ${\left(\bar{x}-c\right)}^2$ が $0$ 以上であることを使っている。

② (2) 等号の例。 $n$ が偶数のとき、$m$ を $\frac{n}{2}$ 個、$M$ を $\frac{n}{2}$ 個並べる。平均はちょうど中点 $c=\frac{m+M}{2}$ になり、どの偏差も $\pm \frac{M-m}{2}$。よって

$$s^2={\left(\frac{M-m}{2}\right)}^2=\frac{(M-m{)}^2}{4}$$

で等号が成り立つ。

③ (3) まず「端だけを使う」ことを示す。 $x_1$ 以外を固定し、$s^2$ を $x_1$ の関数と見る。$s^2=\frac{1}{n}\sum x_i^2-{\bar{x}}^2$ で、$\bar{x}=\frac{x_1+K}{n}$($K$ は他の和)だから、$x_1^2$ の係数は

$$\frac{1}{n}-\frac{1}{n^2}=\frac{n-1}{n^2}>0$$

つまり下に凸の2次関数である。下に凸な関数が閉区間 $[m,M]$ で最大になるのは端点だけ。よって $s^2$ が最大のとき $x_1$ は $m$ か $M$ である。他のデータも同じだから、最大を与えるデータは $m$ と $M$ だけからなる。

④ 個数を最適にする。 $m$ が $a$ 個、$M$ が $b$ 個($a+b=n$)とする。平均は $\bar{x}=\frac{am+bM}{n}$ で、$m$ の偏差は $-\frac{b(M-m)}{n}$、$M$ の偏差は $\frac{a(M-m)}{n}$。したがって

$$s^2=\frac{1}{n}\left\{a\cdot \frac{b^2(M-m{)}^2}{n^2}+b\cdot \frac{a^2(M-m{)}^2}{n^2}\right\}=\frac{ab(a+b)}{n^3}(M-m{)}^2=\frac{ab}{n^2}(M-m{)}^2$$

あとは $a+b=n$ のもとで $ab$ を最大にすればよい。$n$ が奇数だと半々にできないので、$a,b$ は $\frac{n-1}{2}$ と $\frac{n+1}{2}$ のときが最大で

$$ab=\frac{n-1}{2}\cdot \frac{n+1}{2}=\frac{n^2-1}{4}$$

よって求める最大値は

$$s_{\max }^2=\frac{n^2-1}{4n^2}(M-m{)}^2$$

まとめ: 「範囲さえ分かれば分散に上限がつく」。中心を中点に取り替えるのが第一手、最大の探索を端点に絞るのが第二手である。

発展。 $n$ が奇数のときの最大値 $\frac{n^2-1}{4n^2}(M-m{)}^2$ は、$\frac{(M-m{)}^2}{4}$ よりわずかに小さい。ちょうど半々に割れないぶんだけ損をするのだ。$n$ を大きくすれば差は消えていく。

この不等式(ポポヴィチウの不等式)は実務でも使える。測定値の上限と下限しか分からない状況で、標準偏差の上限を見積もれるからだ。逆に「標準偏差が大きいのに範囲が狭い」という報告があれば、それは計算間違いである。散らばりと範囲は独立には動けない。

別解

もっと鋭い上限を作る(高い視点)。 実は $\frac{(M-m{)}^2}{4}$ より強い評価が、平均を使って書ける。各データは $m\le x_i\le M$ を満たすから、2つの距離の積は $0$ 以上である。

$$\left(x_i-m\right)\left(M-x_i\right)\ge 0$$

展開すると $x_i^2\le (m+M)x_i-mM$。$i$ について足して $n$ で割ると

$$\frac{1}{n}\sum x_i^2\le (m+M)\bar{x}-mM$$

よって

$$s^2=\frac{1}{n}\sum x_i^2-{\bar{x}}^2\le (m+M)\bar{x}-mM-{\bar{x}}^2=-\left(\bar{x}-m\right)\left(\bar{x}-M\right)=\left(\bar{x}-m\right)\left(M-\bar{x}\right)$$

「分散は、平均から左端までの距離と、平均から右端までの距離の積を超えない」。これが本当の姿だ。最後に相加相乗平均を使う。2つの距離の和は $(\bar{x}-m)+(M-\bar{x})=M-m$ で一定だから

$$\left(\bar{x}-m\right)\left(M-\bar{x}\right)\le {\left(\frac{M-m}{2}\right)}^2$$

これで(1)が出る。しかも途中の $\left(\bar{x}-m\right)\left(M-\bar{x}\right)$ は、平均が端に寄っているデータに対してずっと鋭い上限を与える。たとえば $[0,1]$ のデータで平均が $0.1$ なら、分散は $0.1\times 0.9=0.09$ 以下になり、$\frac{1}{4}$ よりはるかに強い評価になる。

最初の不等式で等号が成り立つのは、すべての $x_i$ が $m$ か $M$ のときである。(3)で「端点だけを使う」と絞ったのは、この等号条件を先取りしていたことになる。

方針

解答

⓪ 発想(どう考え始めるか) 平均は外れ値に引きずられる。中央値は動じない。だから2つは離れうる。ではどこまで離れられるのか。

答えは「標準偏差 $s$ まで」である。$s$ は散らばりの尺度だから、散らばりが小さいデータでは平均と中央値がほとんど一致する。

使う道具は3つ。三角不等式(和の絶対値は絶対値の和以下)、中央値の最小性(絶対偏差の和は中央値で最小)、そして「絶対値の平均 $\le$ 2乗平均の平方根」。この3段を積み重ねると、ちょうど $s$ にたどり着く。

(1)の不等式は、実は「分散は $0$ 以上」の言い換えにすぎない。$y=\left|x-c\right|$ という新しい変量を考えれば、$\overline{y^2}-{\left(\bar{y}\right)}^2\ge 0$ がそのまま(1)になる。

① (1) 新しい変量を作る。 $y_i=\left|x_i-c\right|$ とおく。$y$ の分散は $0$ 以上だから

$$\frac{1}{n}\sum y_i^2-{\left(\frac{1}{n}\sum y_i\right)}^2\ge 0$$

ここで $y_i^2={\left|x_i-c\right|}^2=(x_i-c{)}^2$ である。移項すると

$${\left(\frac{1}{n}\sum \left|x_i-c\right|\right)}^2\le \frac{1}{n}\sum (x_i-c{)}^2$$

両辺とも $0$ 以上だから、平方根をとって(1)を得る。

② (2) 3段で挟む。 まず、平均と中央値の差を「偏差の平均」の形に書く。

$$\bar{x}-M_e=\frac{1}{n}\sum x_i-M_e=\frac{1}{n}\sum \left(x_i-M_e\right)$$

第1段は三角不等式である。

$$\left|\bar{x}-M_e\right|=\left|\frac{1}{n}\sum (x_i-M_e)\right|\le \frac{1}{n}\sum \left|x_i-M_e\right|$$

第2段は中央値の最小性。絶対偏差の和を最小にするのは中央値だから、$c=\bar{x}$ と比べて

$$\frac{1}{n}\sum \left|x_i-M_e\right|\le \frac{1}{n}\sum \left|x_i-\bar{x}\right|$$

第3段は(1)で $c=\bar{x}$ とする。

$$\frac{1}{n}\sum \left|x_i-\bar{x}\right|\le \sqrt{\frac{1}{n}\sum (x_i-\bar{x}{)}^2}=s$$

3つをつなげば $\left|\bar{x}-M_e\right|\le s$。

③ (3) 限界に迫る例を作る。 $k$ を自然数とし、$0$ を $k+1$ 個、$1$ を $k$ 個並べたデータ($n=2k+1$ 個)を考える。

中央値は小さい順に並べたときの真ん中の値である。$0$ が過半数($k+1$ 個)を占めるから $M_e=0$。平均は $\bar{x}=\frac{k}{2k+1}$。

分散は2値データの計算から $s^2=\frac{k(k+1)}{(2k+1{)}^2}$、すなわち $s=\frac{\sqrt{k(k+1)}}{2k+1}$ である。よって

$$\frac{\left|\bar{x}-M_e\right|}{s}=\frac{\frac{k}{2k+1}}{\frac{\sqrt{k(k+1)}}{2k+1}}=\frac{k}{\sqrt{k(k+1)}}=\sqrt{\frac{k}{k+1}}$$

$k$ を大きくすれば、この値はいくらでも $1$ に近づく($k=500$ なら約 $0.999$)。したがって(2)の $s$ は、これ以上小さい値には置き換えられない。

まとめ: 「平均は、中央値から標準偏差ぶんまでしか離れられない」。三角不等式・中央値の最小性・2乗平均との比較を積み上げるだけで、3つとも基本的な道具である。

発展。 実は等号 $\left|\bar{x}-M_e\right|=s$ が成り立つのは、データがすべて同じ値のとき($s=0$)に限る。それでも(3)のように比を $1$ にいくらでも近づけられる。「等号は成立しないが、定数 $1$ は改良できない」という状況だ。

実務ではこの不等式が警告として働く。所得分布のように、平均が中央値よりずっと大きいデータは、この限界に近いところにいる。もし「平均と中央値の差が標準偏差の $1.2$ 倍」という報告があれば、それは計算間違いである。データを見る前に、数字どうしの整合性が確かめられるのだ。

別解

(1)をコーシー・シュワルツで示し、等号条件まで追う(得意な人向け)。 (1)はコーシー・シュワルツの不等式の特別な場合でもある。

$${\left(\sum _{i=1}^{n}1\cdot \left|x_i-c\right|\right)}^2\le \left(\sum _{i=1}^n{1}^2\right)\left(\sum _{i=1}^n{\left|x_i-c\right|}^2\right)=n\sum _{i=1}^n(x_i-c{)}^2$$

両辺を $n^2$ で割って平方根をとれば(1)である。この見方の利点は、等号条件がはっきりすることだ。コーシー・シュワルツの等号は「2つの並びが比例するとき」、いまの場合は $\left|x_i-c\right|$ がすべて等しいときである。

そこで(2)の等号を追ってみよう。$s>0$ として、第3段((1)で $c=\bar{x}$)で等号が成り立つには、$\left|x_i-\bar{x}\right|$ がすべて等しい必要がある。その共通の値は $s$ だから、データは $\bar{x}-s$ と $\bar{x}+s$ の2種類しかない。

$\bar{x}-s$ が $a$ 個、$\bar{x}+s$ が $b$ 個とすると、偏差の和が $0$ だから $-as+bs=0$、すなわち $a=b$。つまり2つの値がちょうど半々である。このとき中央値は小さい順に並べた真ん中2つの平均で $\frac{(\bar{x}-s)+(\bar{x}+s)}{2}=\bar{x}$。したがって $\left|\bar{x}-M_e\right|=0$ となり、$s>0$ と等しくはならない。

結局、等号が成り立つのは $s=0$(全部同じ値)のときだけである。「近づけるが到達できない」不等式の典型だ。

方針

解答

⓪ 発想(どう考え始めるか) 整数で、しかもどの2つも異なる。だから隣どうしは最低でも $1$ は離れる。散らばりには「これ以上詰められない」下限があるはずだ。

ところが分散の定義には平均が出てくる。平均は整数とは限らないし、整数の条件と結びつけにくい。

そこで平均を消す。分散は「すべての2点の差の2乗の平均」としても書けるのだ。それが(1)である。この形なら、平均を経由せずに「2点の差」だけで評価できる。

相異なる整数を小さい順に並べれば、$i$ 番目と $j$ 番目の差は少なくとも $j-i$。この不等式を二重和に流し込めば、$1,2,\dots ,n$ という「最も詰まった配置」の分散が、そのまま下限として現れる。

① (1) 二重和を展開する。 各項を偏差で書き直す。$x_i-x_j=(x_i-\bar{x})-(x_j-\bar{x})$ だから

$$\sum _i\sum _j(x_i-x_j{)}^2=\sum _i\sum _j\left\{(x_i-\bar{x}{)}^2-2(x_i-\bar{x})(x_j-\bar{x})+(x_j-\bar{x}{)}^2\right\}$$

第1項は $j$ について足すと $n$ 倍になるから $n\sum _i(x_i-\bar{x}{)}^2=n\cdot n{s}^2$。第3項も同じく $n\cdot n{s}^2$。第2項は

$$-2\left(\sum _i(x_i-\bar{x})\right)\left(\sum _j(x_j-\bar{x})\right)=0$$

偏差の和は $0$ だからだ。よって

$$\sum _i\sum _j(x_i-x_j{)}^2=2n^2{s}^2$$

となり、(1)の式を得る。平均が消えたことに注目したい。

② (2) 差の下限を入れる。 小さい順に並べ替えて $y_1<y_2<\cdots <y_n$ とする(並べ替えても分散は変わらない)。

相異なる整数だから隣どうしは $1$ 以上離れる。$y_{i+1}-y_i\ge 1$ を $j-i$ 回足せば、$i<j$ のとき

$$y_j-y_i\ge j-i$$

両辺とも正だから2乗しても向きは変わらない。$i=j$ なら両辺 $0$、$i>j$ でも入れ替えれば同じ。したがってすべての組で

$$(y_i-y_j{)}^2\ge (i-j{)}^2$$

(1)の式に入れると

$$s^2=\frac{1}{2n^2}\sum _i\sum _j(y_i-y_j{)}^2\ge \frac{1}{2n^2}\sum _i\sum _j(i-j{)}^2$$

③ 右辺を計算する。 右辺は(1)の式を「データ $1,2,\dots ,n$」に当てはめたものだから、$1$ から $n$ までの分散に等しい。

$$\frac{1}{n}\sum _{k=1}^n{k}^2-{\left(\frac{n+1}{2}\right)}^2=\frac{(n+1)(2n+1)}{6}-\frac{(n+1{)}^2}{4}=\frac{(n+1)\left\{2(2n+1)-3(n+1)\right\}}{12}=\frac{(n+1)(n-1)}{12}$$

よって

$$s^2\ge \frac{n^2-1}{12}$$

等号はすべての $i<j$ で $y_j-y_i=j-i$ となるとき、すなわち $y_1,y_2,\dots ,y_n$ が連続する整数 $a,a+1,\dots ,a+n-1$ のときである(平行移動しても分散は変わらないので、$a$ は何でもよい)。

まとめ: 平均が扱いにくいときは、平均の出てこない表し方を探す。「すべての2点の差の2乗の平均」は、分散のもう1つの表し方である。

発展。 $1$ から $n$ までの分散 $\frac{n^2-1}{12}$ は、よく知られた値だ。サイコロの目($1$ から $6$)なら $\frac{36-1}{12}=\frac{35}{12}$ である。

本問は「相異なる整数のデータは、どんなに詰めてもサイコロ型より散らばれない」と言っている。区間 $[0,n]$ に連続的に一様分布する点の分散は $\frac{n^2}{12}$ で、こちらとほとんど同じ値になる。$-\frac{1}{12}$ のずれは、整数が格子点であることから来る補正だ。離散と連続が $\frac{1}{12}$ という同じ定数で結ばれているのは、偶然ではない。

別解

定義のまま、詰まった並びを直接評価する(手を動かすルート)。 二重和を使わない道もある。$n=5$ で考えてみよう。相異なる整数だから隣どうしは最低 $1$ 離れる。いちばん詰まった並びは $a,a+1,a+2,a+3,a+4$ で、平均は真ん中の $a+2$。偏差は $-2,-1,0,1,2$ となり、分散は

$$\frac{4+1+0+1+4}{5}=2=\frac{5^2-1}{12}$$

確かに公式と合う。一般の $n$ でも、間隔をすべて $1$ にした並びを考えれば、偏差は $-\frac{n-1}{2},\dots ,\frac{n-1}{2}$ という等差数列になる。その2乗和は

$$\sum _{k=1}^n{\left(k-\frac{n+1}{2}\right)}^2=\sum _{k=1}^n{k}^2-(n+1)\sum _{k=1}^{n}k+n{\left(\frac{n+1}{2}\right)}^2=\frac{n(n^2-1)}{12}$$

$n$ で割って $\frac{n^2-1}{12}$。同じ値である。

ただし、この道で厳密に「最小」を言うには「間隔を1か所でも広げると2乗和が必ず増える」ことを示さねばならない。それを一般の配置について直接示すのは意外に面倒だ。本解の二重和はその面倒をまとめて片づける道具である。具体例で答えの見当をつけ、証明は二重和で行う。この二段構えが実戦的だ。

方針

解答

⓪ 発想(どう考え始めるか) 値の集まりは決まっていて、変えられるのは「組み方」だけだ。まず、何が変わり何が変わらないかを見極める。

平均も標準偏差も $x$ の値全体・$y$ の値全体だけで決まる。組み方には無関係だ。動くのは共分散、すなわち $\sum x_i{y}_i$ だけである。

だから問題は「積の和を最大にする組み方は?」に言い換えられる。

あとは交換だ。大小が食い違うペア(小さい $x$ に大きい $y$)があれば、そこを入れ替えると和が増える。増えるなら、それは最大ではない。したがって最大の対応には食い違いが1つもない。つまり同じ順位どうしで組む、ということになる。

① (1) 動くのは1か所だけ。 $\bar{x},\bar{y},s_x,s_y$ は、$x$ の値の集まりと $y$ の値の集まりだけで決まるので、対応を変えても不変である。したがって

$$r=\frac{s_{xy}}{s_x{s}_y}=\frac{\frac{1}{5}\sum x_i{y}_i-\bar{x}\bar{y}}{s_x{s}_y}$$

の右辺で、対応によって動くのは $\sum x_i{y}_i$ だけ。しかも $r$ はその1次式で、係数 $\frac{1}{5s_x{s}_y}$ は正である。よって $r$ を最大にすることと $\sum x_i{y}_i$ を最大にすることは同じである。

② (2) 交換すると和が増える。 ある対応で、$x_i<x_j$ なのに $y_i>y_j$ となるペア(逆順のペア)があったとする。この2人の $y$ だけを入れ替えると、和の変化は

$$\left(x_i{y}_j+x_j{y}_i\right)-\left(x_i{y}_i+x_j{y}_j\right)=x_i(y_j-y_i)+x_j(y_i-y_j)=\left(x_j-x_i\right)\left(y_i-y_j\right)$$

$x_j-x_i>0$、$y_i-y_j>0$ だから、この値は正である。つまり和は必ず増える。

対応は有限個($120$ 通り)なので、$\sum x_i{y}_i$ を最大にする対応は存在する。その対応に逆順のペアがあれば、いま見たように入れ替えて和を増やせてしまい、最大に矛盾する。よって最大の対応には逆順のペアが1つもない。すなわち $x$ の大小と $y$ の大小が完全に一致する。これは同じ順位どうしの組である。

③ (3) 値を計算する。 同順の対応は $(1,1),(2,2),(3,3),(4,4),(5,10)$ である。

$\bar{x}=3$、$\bar{y}=4$。偏差は $x$ が $-2,-1,0,1,2$、$y$ が $-3,-2,-1,0,6$ だから

$$s_x^2=\frac{4+1+0+1+4}{5}=2,s_y^2=\frac{9+4+1+0+36}{5}=10$$

$$s_{xy}=\frac{(-2)(-3)+(-1)(-2)+0\cdot (-1)+1\cdot 0+2\cdot 6}{5}=\frac{6+2+0+0+12}{5}=4$$

よって

$$r=\frac{4}{\sqrt{2}\cdot \sqrt{10}}=\frac{4}{\sqrt{20}}=\frac{4}{2\sqrt{5}}=\frac{2}{\sqrt{5}}=\frac{2\sqrt{5}}{5}$$

同じ議論で、最小は逆順 $(1,10),(2,4),(3,3),(4,2),(5,1)$ のときで、共分散は $-4$、$r=-\frac{2\sqrt{5}}{5}$ である。

まとめ: 「何が動いて何が動かないか」を見極めれば、$120$ 通りを調べずに済む。動く量が1つだけなら、その最大化に集中すればよい。交換論法は順序に関する最大最小の問題で広く使える方法である。

発展。 (2)で示した「同順で積の和が最大、逆順で最小」は並べ替え不等式と呼ばれ、数学のあちこちで使われる。相加相乗平均の証明や、チェビシェフの和の不等式もこの仲間だ。

直感的には「大きいものどうし、小さいものどうしを組めば総和が大きい」という当たり前の話に見える。だが証明は、交換1回ぶんの差 $\left(x_j-x_i\right)\left(y_i-y_j\right)$ の符号を見るだけで済む。当たり前に見えることも、1行の式で確実に押さえるのが数学のやり方である。仕事の割り当てや投資の組合せなど、応用の場面も広い。

別解

残差から相関係数を求める(得意な人向け)。 (3)の値を、共分散を経由せずに出すこともできる。同順の対応 $(1,1),(2,2),(3,3),(4,4),(5,10)$ に、最小二乗の直線(回帰直線)を当てはめてみる。傾きは $\frac{s_{xy}}{s_x^2}=\frac{4}{2}=2$、切片は $\bar{y}-2\bar{x}=4-6=-2$ だから、直線は

$$y=2x-2$$

この直線からの縦のずれ(残差)は、$x=1$ から順に

$$1-0=1,2-2=0,3-4=-1,4-6=-2,10-8=2$$

で、2乗和は $1+0+1+4+4=10$ である。ここで「残差の2乗和の最小値は $n{s}_y^2\left(1-r^2\right)$ に等しい」という関係を使う。$n{s}_y^2=5\times 10=50$ だから

$$10=50\left(1-r^2\right)⟹r^2=\frac{4}{5}⟹r=\frac{2}{\sqrt{5}}=\frac{2\sqrt{5}}{5}$$

(同順なので $r>0$。)本解と一致する。

この計算から $r$ の意味も分かる。$r^2=\frac{4}{5}$ とは「$y$ の散らばりの $80\%$ が $x$ で説明でき、残り $20\%$ が直線からのずれ」という意味だ。$r$ が $1$ に届かないのは、点 $(5,10)$ が直線から大きく上に外れているからである。相関係数を「直線でどれだけ説明できるか」の物差しとして読む。この見方は統計の実務でそのまま使われる。

方針

解答

⓪ 発想(どう考え始めるか) 「データに最もよく合う直線」をどう決めるか。縦のずれの2乗和 $Q$ を最小にする、というのがその答えだ。

$Q$ は $a$ と $b$ の2変数関数だが、怖がることはない。$b$ を先に、$a$ を後に、と1つずつ平方完成すればよい。$b$ について平方完成すると $b=\bar{y}-a\bar{x}$ が出る。これは「直線は必ず点 $\left(\bar{x},\bar{y}\right)$ を通る」ことを意味する。データの重心を通るのだ。

その $b$ を代入すると、$Q$ は $a$ だけの2次関数になる。もう一度平方完成すれば $a$ が決まり、最小値も出る。そして最小値の形 $n{s}_y^2\left(1-r^2\right)$ が、$-1\le r\le 1$ の理由をそのまま示している。$Q$ は2乗の和だから $0$ 以上になる。理由はそれだけだ。

① $b$ について最小化する。 $z_i=y_i-a{x}_i$ とおくと $Q=\sum (z_i-b{)}^2$ で、$\bar{z}=\bar{y}-a\bar{x}$ である。公式より $b=\bar{y}-a\bar{x}$ のとき最小で、そのときの値は

$$Q=\sum (z_i-\bar{z}{)}^2=\sum {\left\{(y_i-\bar{y})-a(x_i-\bar{x})\right\}}^2$$

「直線は $\left(\bar{x},\bar{y}\right)$ を通る」ことが、計算から自動的に出てきた。

② $a$ について最小化する。 展開すると

$$Q=\sum (y_i-\bar{y}{)}^2-2a\sum (x_i-\bar{x})(y_i-\bar{y})+a^2\sum (x_i-\bar{x}{)}^2=n{s}_y^2-2an{s}_{xy}+a^{2}n{s}_x^2$$

$a$ の2次関数で、$a^2$ の係数 $n{s}_x^2$ は正だから下に凸。平方完成して

$$Q=n{s}_x^2{\left(a-\frac{s_{xy}}{s_x^2}\right)}^2+n{s}_y^2-\frac{n{s}_{xy}^2}{s_x^2}$$

よって $a=\frac{s_{xy}}{s_x^2}$ のとき最小である。

③ (2) 最小値を整理する。

$$Q_{\min }=n{s}_y^2-\frac{n{s}_{xy}^2}{s_x^2}=n{s}_y^2\left(1-\frac{s_{xy}^2}{s_x^2{s}_y^2}\right)=n{s}_y^2\left(1-r^2\right)$$

最後は $r=\frac{s_{xy}}{s_x{s}_y}$ より $r^2=\frac{s_{xy}^2}{s_x^2{s}_y^2}$ を使った。

④ (3) 符号を見る。 $Q$ は2乗の和だから、その最小値も $0$ 以上である。

$$n{s}_y^2\left(1-r^2\right)\ge 0$$

$n>0$、$s_y^2>0$ だから $1-r^2\ge 0$、すなわち $-1\le r\le 1$。等号 $r=\pm 1$ は $Q_{\min }=0$ のとき、つまり残差がすべて $0$ のときである。これはすべての点が1本の直線 $y=ax+b$ の上に乗ることを意味する($a$ の符号は $r$ の符号と一致する)。

まとめ: 2変数の最小化も「1つずつ平方完成」で片づく。そして最小値の式 $n{s}_y^2\left(1-r^2\right)$ から、相関係数の性質($-1\le r\le 1$、$\pm 1$ は直線上)がまとめて説明できる。

発展。 (2)を書き直すと

$$r^2=1-\frac{Q_{\min }}{n{s}_y^2}$$

となる。$n{s}_y^2$ は「$y$ の散らばりの総量」、$Q_{\min }$ は「直線で説明しきれなかった残り」である。したがって $r^2$ は「$y$ の散らばりのうち、$x$ で説明できる割合」を表している。

統計学ではこれを決定係数と呼ぶ。$r=0.9$ なら $r^2=0.81$ で「$81\%$ 説明できた」と読む。相関係数は「$0.9$ もあるから強い」と見るのではなく、2乗して「説明できた割合」として読むとよい。そうすると、$r=0.7$($r^2=0.49$)がそれほど強くないことも分かる。

別解

先に標準化してしまう(高い視点)。 $x$ と $y$ を標準化しておくと、話がずっと透明になる。

$$u_i=\frac{x_i-\bar{x}}{s_x},v_i=\frac{y_i-\bar{y}}{s_y}$$

とおくと、$u$ も $v$ も平均 $0$、分散 $1$ である。そして

$$\frac{1}{n}\sum u_i{v}_i=\frac{1}{n}\sum \frac{(x_i-\bar{x})(y_i-\bar{y})}{s_x{s}_y}=\frac{s_{xy}}{s_x{s}_y}=r$$

相関係数は「標準化した2つの積の平均」である。ここで「$v$ を $tu$ で近似したときの残差の2乗の平均」を考える。

$$\frac{1}{n}\sum {\left(v_i-t{u}_i\right)}^2=\frac{1}{n}\sum v_i^2-2t\cdot \frac{1}{n}\sum u_i{v}_i+t^2\cdot \frac{1}{n}\sum u_i^2=1-2rt+t^2={\left(t-r\right)}^2+1-r^2$$

左辺は2乗の平均だから $0$ 以上である。したがって、どんな実数 $t$ に対しても

$${\left(t-r\right)}^2+1-r^2\ge 0$$

$t=r$ とすれば $1-r^2\ge 0$、すなわち $-1\le r\le 1$ が即座に出る。

さらに、この式は最良の傾きが $t=r$ であること(標準化したデータでは傾きがそのまま相関係数になる)、そのときの残差の2乗の平均が $1-r^2$ であることまで一度に示している。$r=\pm 1$ のときだけ残差が $0$、つまり全点が直線上だ。

標準化すると $s_x$ や $s_y$ が式から消える。「相関係数は単位のとり方によらない」のも、このためである。センチメートルで測ろうがインチで測ろうが、$r$ は動かない。

方針

解答

⓪ 発想(どう考え始めるか) 和の標準偏差は、$x$ と $y$ の「連動の仕方」で変わる。同じ方向に動けば増幅し、逆方向に動けば打ち消し合う。

その連動を測るのが共分散 $s_{xy}$ で、$s_{x+y}^2=s_x^2+2s_{xy}+s_y^2$ という関係がある。あとは $s_{xy}$ の動ける範囲を知ればよい。それが $\left|s_{xy}\right|\le s_x{s}_y$、すなわち $-1\le r\le 1$ である。

(2)は共分散の「掛け算のような性質」を使う。$x+y$ の偏差と $x-y$ の偏差を掛けると $\left(d+e\right)\left(d-e\right)=d^2-e^2$ となり、交差項が消える。だから共分散は $s_x^2-s_y^2$ だけになり、$r$ が姿を消してしまう。

$s_x=3<s_y=4$ だから、この値は負の $-7$。つまり和と差は、いつでも負の相関を持つ。ここがこの問題の特徴だ。

① (1) 範囲を出す。 $s_{xy}=r{s}_x{s}_y=12r$ である。したがって

$$s_{x+y}^2=9+2\cdot 12r+16=25+24r$$

$-1\le r\le 1$ だから $1\le s_{x+y}^2\le 49$。標準偏差は $0$ 以上だから

$$1\le s_{x+y}\le 7$$

実現例を作る。$x$ が $(-3,3)$、$y$ が $(-4,4)$ という2個のデータなら $s_x=3$、$s_y=4$ で、$x+y$ は $(-7,7)$ だから $s_{x+y}=7$(このとき $r=1$)。$y$ を $(4,-4)$ に取り替えると $x+y$ は $(1,-1)$ で $s_{x+y}=1$(このとき $r=-1$)。

② (2) 共分散を計算する。 偏差を $d_i=x_i-\bar{x}$、$e_i=y_i-\bar{y}$ と書く。$x+y$ の偏差は $d_i+e_i$、$x-y$ の偏差は $d_i-e_i$ である。よって共分散は

$$\frac{1}{n}\sum \left(d_i+e_i\right)\left(d_i-e_i\right)=\frac{1}{n}\sum \left(d_i^2-e_i^2\right)=s_x^2-s_y^2=9-16=-7$$

$r$ が消えてしまった。一方、標準偏差は

$$s_{x+y}=\sqrt{25+24r},s_{x-y}=\sqrt{25-24r}$$

したがって求める相関係数は

$$\frac{-7}{\sqrt{(25+24r)(25-24r)}}=\frac{-7}{\sqrt{625-576r^2}}$$

③ (3) 範囲を出す。 $-1\le r\le 1$ より $0\le r^2\le 1$ だから

$$49\le 625-576r^2\le 625⟹7\le \sqrt{625-576r^2}\le 25$$

分子が $-7$(負)なので、分母が小さいほど値は小さくなる。よって

$$-1\le \frac{-7}{\sqrt{625-576r^2}}\le -\frac{7}{25}$$

和と差の相関はつねに負である。最も $0$ に近いときでも $-\frac{7}{25}=-0.28$ で、$r=\pm 1$ のときは $-1$(和と差が完全に逆向きに連動する)。

まとめ: 共分散は「掛け算のように」展開できる。$x+y$ と $x-y$ の共分散が $s_x^2-s_y^2$ になるのはその典型で、$s_x\ne s_y$ である限り、和と差は必ず相関を持つ。

発展。 偏差を「ベクトル」と見ると、この問題の全体が一目で分かる。$x$ の偏差を並べたものを1本の矢印、$y$ の偏差を並べたものをもう1本の矢印と思うのだ。すると標準偏差は矢印の長さ、共分散は内積、相関係数は2本のなす角の余弦にあたる。

$x+y$ の標準偏差は2本を足した矢印の長さ、$x-y$ は引いた矢印の長さ、つまり平行四辺形の2本の対角線である。三角不等式から「$4-3=1$ 以上 $3+4=7$ 以下」が読み取れる。これが(1)の答えの意味だ。データの分析がそのまま幾何の問題になる。

別解

$r$ を動かして追いかける(苦手な人向け)。 (1)を、$r$ を実際に動かしながら見てみよう。

$$s_{x+y}=\sqrt{25+24r}$$

$r=-1$ なら $\sqrt{1}=1$。$r=0$ なら $\sqrt{25}=5$。$r=1$ なら $\sqrt{49}=7$。$r$ が $-1$ から $1$ へ連続的に動けば、$s_{x+y}$ も $1$ から $7$ へ連続的に増える。だから範囲は $1\le s_{x+y}\le 7$ で、途中に飛びはない。

ここでは $r=0$(無相関)のときに注目する。$s_{x+y}=5$ で、これは $3^2+4^2=5^2$、つまり三平方の定理そのものである。無相関な2つの量を足すと、標準偏差は「直角三角形の斜辺」のように合成されるのだ。

3つの場合を並べてみる。

• $r=1$(完全に同じ動き): $3+4=7$(ただの足し算)
• $r=0$(無関係): $\sqrt{3^2+4^2}=5$(三平方の定理)
• $r=-1$(完全に逆の動き): $4-3=1$(引き算)

$r$ はこの3つの極端のあいだを連続的に埋めている。「独立なら分散が足せる」という統計の基本則も、この $r=0$ の場合にほかならない。数式を覚えるより、この3つの絵を覚えておくほうが、はるかに応用が利く。