標準化したデータの平均は0・分散は1

方針

解答

⓪ 発想 — どう考え始めるか。 標準化 $z_i=\frac{x_i-\bar{x}}{s}=\frac{1}{s}{x}_i-\frac{\bar{x}}{s}$ は、$x_i$ の $1$ 次式変換($y=px+q$ の形、$p=\frac{1}{s}$、$q=-\frac{\bar{x}}{s}$)。

$1$ 次式変換には決まった規則がある。平均は $p\bar{x}+q$、分散は $p^2\times (\text{元の分散})$。

平均は $\frac{1}{s}\bar{x}-\frac{\bar{x}}{s}=0$。分散は $\frac{1}{s^2}\times s^2=1$($s^2$ が元の分散)。だから標準化後は平均 $0$・分散 $1$。

① 平均を求める。 $z_i=\frac{1}{s}{x}_i-\frac{\bar{x}}{s}$ は $1$ 次式($p=\frac{1}{s},q=-\frac{\bar{x}}{s}$)。平均は

$$\bar{z}=\frac{1}{s}\bar{x}-\frac{\bar{x}}{s}=0$$

② 分散を求める。 $1$ 次式変換では分散は $p^2$ 倍。元の分散は $s^2$ だから

$$s_z^2={\left(\frac{1}{s}\right)}^2\cdot s^2=\frac{s^2}{s^2}=1$$

よって標準化後のデータは平均 $0$、分散 $1$。(証明終)

まとめ:標準化は「平均を引いて標準偏差で割る」$1$ 次式変換。平均を引くことで中心が $0$ に、標準偏差で割ることで散らばり(分散)が $1$ にそろう。だからどんなデータも共通のものさし(平均 $0$・分散 $1$)に乗せ替えられ、比較が可能になる。

発展 — 一歩先へ。 標準化は「どんなデータも平均 $0$・分散 $1$ にそろえる」変換。これにより、単位や尺度の違うデータ(身長 cm と体重 kg など)を同じ土俵で比較・合成できる。主成分分析や機械学習の前処理でも、まず標準化するのが定石。$1$ 次式変換で平均と分散がどう動くかの理解が、その土台になる。

別解

別解 — 定義に戻って平均と分散を直接計算する(苦手な人向け)。 $1$ 次式変換の規則を使わず、$z_i$ の平均と分散を定義どおり計算する。

平均: $\bar{z}=\frac{1}{n}\sum z_i=\frac{1}{n}\sum \frac{x_i-\bar{x}}{s}=\frac{1}{ns}\sum (x_i-\bar{x})$。ここで $\sum (x_i-\bar{x})=0$(偏差の和はゼロ)だから $\bar{z}=0$。

分散: $\bar{z}=0$ なので、$z$ の分散 $=\frac{1}{n}\sum z_i^2=\frac{1}{n}\sum \frac{(x_i-\bar{x}{)}^2}{s^2}=\frac{1}{s^2}\cdot \frac{1}{n}\sum (x_i-\bar{x}{)}^2$。

$\frac{1}{n}\sum (x_i-\bar{x}{)}^2$ は $x$ の分散 $s^2$。だから $z$ の分散 $=\frac{s^2}{s^2}=1$。

$1$ 次式変換の公式(本解)を暗記していなくても、「偏差の和 $=0$」と「分散 $=$ 偏差$2$乗の平均」の定義だけで、平均 $0$・分散 $1$ が出る。標準化が「どんなデータも平均 $0$・散らばり $1$ にそろえる」変換だと、計算から確かめられる。