数学B / 統計的な推測

統計的な推測最難関編の問題全8問

東大・京大の最難関レベル。気づきにくい発想や、何段階もの議論が必要な問題

なぜ n-1 で割るのか(不偏分散)
2つの標本をどう合わせるのが最良か
引いたカードの最大値の期待値
無相関でも独立とは限らない
どちらが長持ちするか(正規分布の差)
2つの一様乱数の和(面積で確率を測る)
二項分布の和はまた二項分布(再生性)
戻さずに取り出すと何が変わるか(有限母集団修正)

問1なぜ n-1 で割るのか(不偏分散)

最難関編標本平均期待値不偏推定

問題

母平均 $m$ 、母分散 $σ^{2}$ の母集団から、大きさ $n$ の無作為標本 $X_{1}, X_{2}, \dots, X_{n}$ を取り出す( $X_{1}, \dots, X_{n}$ は互いに独立で、それぞれ母集団と同じ分布に従う)。標本平均を $\overset{ˉ}{X} = \frac{1}{n} i = 1 \sum n X_{i}$ とする。

(1) $E (\overset{ˉ}{X}) = m$ と $V (\overset{ˉ}{X}) = \frac{σ ^{2}}{n}$ を示せ。

(2) $S = i = 1 \sum n (X_{i} - \overset{ˉ}{X})^{2}$ とするとき、 $E (S) = (n - 1) σ^{2}$ を示せ。

(3) 母分散の推定に $\frac{1}{n} S$ を使うと平均的にどうなるか。 $\frac{1}{n - 1} S$ を使う理由を述べよ。

ヒントを見る

偏差 $X_{i} - \overset{ˉ}{X}$ を、真の平均 $m$ を間にはさんで2つに分けてみよ。 $\overset{ˉ}{X}$ は $m$ からどれくらいずれるか。それは何と呼ばれる量か。

解答・解説

方針

真の中心 $m$ を経由するのが決め手だ。 $X_{i} - \overset{ˉ}{X} = (X_{i} - m) - (\overset{ˉ}{X} - m)$ と書いて2乗して足すと、 $\overset{ˉ}{X}$ のずれのぶんが分離される。あとは $E [(\overset{ˉ}{X} - m)^{2}] = V (\overset{ˉ}{X}) = \frac{σ ^{2}}{n}$ を使う。

解答

⓪ 発想(どう考え始めるか) 標本から母分散を推定したい。素直に考えれば、標本の散らばり $\frac{1}{n} \sum (X_{i} - \overset{ˉ}{X})^{2}$ を使えばよさそうだ。ところが教科書は $n - 1$ で割れという。なぜなのか。

原因は $\overset{ˉ}{X}$ にある。真の平均 $m$ は分からないので、代わりにデータ自身から作った $\overset{ˉ}{X}$ を中心に使う。ところが $\overset{ˉ}{X}$ はデータに引っ張られる。だからデータは真の中心 $m$ のまわりよりも $\overset{ˉ}{X}$ のまわりに寄って見えるのだ。

その「寄り」のぶんを計算すると、ちょうど $σ^{2}$ 1つぶんになる。だから $n$ ではなく $n - 1$ で割ると、帳尻が合う。計算の要は $X_{i} - \overset{ˉ}{X} = (X_{i} - m) - (\overset{ˉ}{X} - m)$ と書くことである。真の中心 $m$ を経由して、 $\overset{ˉ}{X}$ のずれを分離するのだ。

公式期待値の線形性

E (\sum X_{i}) = \sum E (X_{i})

。独立なら分散も足せる:

V (\sum X_{i}) = \sum V (X_{i})

① (1) 標本平均の期待値と分散。 期待値は線形性から

$E (\overset{ˉ}{X}) = \frac{1}{n} i = 1 \sum n E (X_{i}) = \frac{1}{n} \cdot n m = m$

分散は、 $X_{i}$ が互いに独立だから加法性が使えて

$V (\overset{ˉ}{X}) = \frac{1}{n ^{2}} i = 1 \sum n V (X_{i}) = \frac{1}{n ^{2}} \cdot n σ^{2} = \frac{σ ^{2}}{n}$

定数倍の分散は2乗になる( $V (a X) = a^{2} V (X)$ )ことに注意。標本平均は、 $1$ 個のデータより $\frac{1}{n}$ 倍だけばらつきが小さい。

② (2) 真の中心を経由する。 $X_{i} - \overset{ˉ}{X} = (X_{i} - m) - (\overset{ˉ}{X} - m)$ と書いて2乗し、 $i$ について足す。

$S = \sum (X_{i} - m)^{2} - 2 (\overset{ˉ}{X} - m) \sum (X_{i} - m) + n (\overset{ˉ}{X} - m)^{2}$

ここで $\sum (X_{i} - m) = n \overset{ˉ}{X} - nm = n (\overset{ˉ}{X} - m)$ だから、真ん中の項は $- 2 n (\overset{ˉ}{X} - m)^{2}$ になる。よって

$S = \sum (X_{i} - m)^{2} - n (\overset{ˉ}{X} - m)^{2}$

③ 期待値をとる。 $E [(X_{i} - m)^{2}] = V (X_{i}) = σ^{2}$ が $n$ 個ぶん。また $E [(\overset{ˉ}{X} - m)^{2}] = V (\overset{ˉ}{X}) = \frac{σ ^{2}}{n}$ である( $\overset{ˉ}{X}$ の平均は $m$ だから、これは分散そのもの)。したがって

$E (S) = n σ^{2} - n \cdot \frac{σ ^{2}}{n} = n σ^{2} - σ^{2} = (n - 1) σ^{2}$

引かれた $σ^{2}$ が「 $\overset{ˉ}{X}$ を使ったぶんの目減り」である。

④ (3) 割る数を決める。 ②③より

$E (\frac{1}{n} S) = \frac{n - 1}{n} σ^{2} < σ^{2}$

つまり $\frac{1}{n} S$ は平均的に見て母分散を小さく見積もってしまう(過小評価)。 $n = 5$ なら $80%$ ほどにしかならない。一方

$E (\frac{1}{n - 1} S) = \frac{( n - 1 ) σ ^{2}}{n - 1} = σ^{2}$

で、期待値がちょうど母分散に一致する。これが「 $n - 1$ で割る」理由である(この量を不偏分散という)。

まとめ: $\overset{ˉ}{X}$ はデータ自身から作った中心だから、データはその近くに寄って見える。寄りのぶんはちょうど $σ^{2}$ 1つぶんで、それを補うのが $n - 1$ という割り数である。

発展。 なぜ目減りがぴったり $1$ 個ぶんなのか。偏差 $X_{i} - \overset{ˉ}{X}$ には $\sum (X_{i} - \overset{ˉ}{X}) = 0$ という束縛が1本かかっているからだ。 $n$ 個の偏差のうち、自由に決められるのは $n - 1$ 個で、最後の1個は自動的に決まってしまう。この「自由度 $n - 1$ 」がそのまま割る数になっている。

自由度はもっと先の統計学でも重要な役割を果たし続ける。母平均も母分散も未知の状況で使う $t$ 分布、分散の分布を扱うカイ2乗分布は、いずれも自由度をパラメータに持つ。 $n - 1$ という一見ささいに見える数字が、理論の中心にある。

なお、不偏分散の平方根は「標準偏差の不偏推定量」にはならない。平方根は非線形な操作なので、期待値が保存されないからである。ここも間違えやすい。

答

(1) 期待値の線形性と、独立な確率変数の分散の加法性から (2) $S = \sum (X_{i} - m)^{2} - n (\overset{ˉ}{X} - m)^{2}$ と変形し、期待値をとると $n σ^{2} - σ^{2}$ (3) $E (\frac{1}{n} S) = \frac{n - 1}{n} σ^{2} < σ^{2}$ で母分散を小さく見積もってしまう。 $n - 1$ で割れば期待値がちょうど $σ^{2}$ になる

別解

$n = 2$ で手を動かして確かめる(苦手な人向け)。 一般論の前に、いちばん小さい場合をやってみよう。 $X_{1}, X_{2}$ は独立で、平均 $m$ 、分散 $σ^{2}$ とする。 $\overset{ˉ}{X} = \frac{X _{1} + X _{2}}{2}$ だから

$X_{1} - \overset{ˉ}{X} = \frac{X _{1} - X _{2}}{2}, X_{2} - \overset{ˉ}{X} = - \frac{X _{1} - X _{2}}{2}$

2つの偏差は、大きさが同じで符号が逆である。よって

$S = (\frac{X _{1} - X _{2}}{2})^{2} \times 2 = \frac{( X _{1} - X _{2} ) ^{2}}{2}$

ここで $D = X_{1} - X_{2}$ とおく。 $E (D) = m - m = 0$ 、 $V (D) = V (X_{1}) + V (X_{2}) = 2 σ^{2}$ (独立だから分散が足せる。引き算でも足す)。したがって

$E (D^{2}) = V (D) + {E (D)}^{2} = 2 σ^{2}$

となり

$E (S) = \frac{E ( D ^{2} )}{2} = σ^{2} = (2 - 1) σ^{2}$

確かに $(n - 1) σ^{2}$ である。 $n = 2$ のときは「 $S$ を $1$ で割る」。つまり $2$ で割ってはいけない。

意味を考えてみよう。 $2$ 個のデータの散らばりを、その $2$ 個から作った平均のまわりで測ると、真の平均のまわりで測った場合のちょうど半分になってしまう。 $2$ 個の点のあいだの真ん中に中心を置けば、そりゃあ近くに見える。この $\frac{1}{2}$ の目減りを補うのが「 $n - 1 = 1$ で割る」という操作である。

小さい場合で仕組みを見てから一般化する。この順序で考えると、公式が身体に入る。

ポイント

$V (\overset{ˉ}{X}) = \frac{σ ^{2}}{n}$ なので、平均をとるとばらつきは $\frac{1}{n}$ に縮む。
$S = \sum (X_{i} - m)^{2} - n (\overset{ˉ}{X} - m)^{2}$ と分離する。
目減りはちょうど $σ^{2}$ 1つぶん。だから $n - 1$ で割る。

よくある間違い

「 $n - 1$ で割るのは決まりだから」と暗記して済ませる。理由は「 $\overset{ˉ}{X}$ を中心に使うぶん、散らばりが小さく見える」ことで、その目減りがちょうど $σ^{2}$ 1つぶん、という計算に基づいている。
(2)の変形で $\sum (X_{i} - m)$ を $0$ としてしまう。 $0$ になるのは $\sum (X_{i} - \overset{ˉ}{X})$ のほうである。 $\sum (X_{i} - m) = n (\overset{ˉ}{X} - m)$ で、標本ごとに値が変わる確率変数だ。
$V (\overset{ˉ}{X})$ を $σ^{2}$ のままだと思う。平均をとると散らばりは $\frac{1}{n}$ に縮む。この縮みこそが $n - 1$ の由来である。

問22つの標本をどう合わせるのが最良か

最難関編標本平均分散の最小化2次関数

問題

母平均 $m$ 、母分散 $σ^{2}$ の母集団から、大きさ $n_{1}$ の無作為標本と、大きさ $n_{2}$ の無作為標本を独立に取り出す。それぞれの標本平均を $\overset{ˉ}{X}_{1}, \overset{ˉ}{X}_{2}$ とし、 $0 \leq w \leq 1$ に対して

$T = w \overset{ˉ}{X}_{1} + (1 - w) \overset{ˉ}{X}_{2}$

とおく。

(1) どんな $w$ に対しても $E (T) = m$ であることを示せ。

(2) $V (T)$ を $w$ の式で表し、 $V (T)$ を最小にする $w$ を求めよ。

(3) (2)の $w$ に対する $V (T)$ を求め、その $T$ が「2つの標本を合わせて1つの標本と見たときの標本平均」に一致することを示せ。

ヒントを見る

期待値はどんな $w$ でも $m$ になる。では何で優劣を判断するか。 $V (w \overset{ˉ}{X}_{1})$ は $w V (\overset{ˉ}{X}_{1})$ ではない。定数倍は分散にどう影響するか。

解答・解説

方針

どんな重みでも期待値は $m$ (不偏)。だから優劣はばらつきの小ささで決まる。 $V (T)$ は $w$ の下に凸な2次関数だから、平方完成で最小が出る。答えは標本数の比になり、それは2つの標本を合併した平均にほかならない。

解答

⓪ 発想(どう考え始めるか) 2つの標本から母平均をできるだけ正確に推定したい。単純平均 $\frac{X ˉ _{1} + X ˉ _{2}}{2}$ でよいのだろうか。

まず、どんな重み $w$ でも $E (T) = m$ である。つまりどれも「平均的には当たる」推定量だ(不偏)。だから優劣はばらつき $V (T)$ の小ささで決まる。

$V (T)$ は $w$ の2次関数で、 $w^{2}$ の係数は正だから下に凸。平方完成すれば最小が出る。

出てくる答えは $w = \frac{n _{1}}{n _{1} + n _{2}}$ で、標本数の比である。そしてその重みで作った $T$ は、じつは「2つの標本を合わせて1つの大きな標本と見たときの標本平均」にほかならない。大きい標本ほど信頼できるのだから、当然といえば当然の結論だ。

公式独立なら

V (a X + bY) = a^{2} V (X) + b^{2} V (Y)

(定数倍は2乗で入る)

① (1) 不偏性。 $E (\overset{ˉ}{X}_{1}) = E (\overset{ˉ}{X}_{2}) = m$ だから

$E (T) = w m + (1 - w) m = m$

$w$ には無関係である。

② (2) 分散を書く。 $V (\overset{ˉ}{X}_{1}) = \frac{σ ^{2}}{n _{1}}$ 、 $V (\overset{ˉ}{X}_{2}) = \frac{σ ^{2}}{n _{2}}$ で、2つの標本は独立だから

$V (T) = w^{2} \cdot \frac{σ ^{2}}{n _{1}} + (1 - w)^{2} \cdot \frac{σ ^{2}}{n _{2}} = σ^{2} (\frac{w ^{2}}{n _{1}} + \frac{( 1 - w ) ^{2}}{n _{2}})$

$w$ の2次関数である。 $w^{2}$ の係数 $\frac{1}{n _{1}} + \frac{1}{n _{2}}$ は正なので下に凸。 $N = n_{1} + n_{2}$ とおいて平方完成すると

$\frac{w ^{2}}{n _{1}} + \frac{( 1 - w ) ^{2}}{n _{2}} = \frac{N}{n _{1} n _{2}} (w - \frac{n _{1}}{N})^{2} + \frac{1}{N}$

(展開して確かめられる。)よって $w = \frac{n _{1}}{N} = \frac{n _{1}}{n _{1} + n _{2}}$ のとき最小である。

n1=10, n2=40 のときの V(w)(σ^2=1)。最小は w=0.2(標本数の比 10:40)で 0.020。単純平均 w=0.5 では 0.031 で、5割以上ばらつきが大きい

③ (3) 最小値と、その意味。 上の平方完成から、最小値は

$V (T) = \frac{σ ^{2}}{n _{1} + n _{2}}$

これは「大きさ $n_{1} + n_{2}$ の標本の標本平均の分散」と同じ形をしている。実際、 $w = \frac{n _{1}}{N}$ 、 $1 - w = \frac{n _{2}}{N}$ を代入すると

$T = \frac{n _{1} X ˉ _{1} + n _{2} X ˉ _{2}}{n _{1} + n _{2}} = \frac{( X _{1} + \dots + X _{n_{1}} ) + ( Y _{1} + \dots + Y _{n_{2}} )}{n _{1} + n _{2}}$

となり、 $T$ は $n_{1} + n_{2}$ 個のデータ全部の平均そのものである。つまり「最良の重み付き平均」とは「全部まとめて平均をとる」ことである。

まとめ: 不偏な推定量が複数あるときは、分散の小ささで選ぶ。2次関数の最小化に持ち込めばよい。答えは標本数の比で、それは全データをまとめた平均に一致する。

発展。 この結果は「情報の重みづけ」の原型である。一般に、複数の不偏推定量を合わせるときの最良の重みは、分散の逆数に比例する。本問では $V (\overset{ˉ}{X}_{i}) = \frac{σ ^{2}}{n _{i}}$ だから、分散の逆数は $\frac{n _{i}}{σ ^{2}}$ に比例し、重みは標本数の比になる。

この「逆分散重み付け」は実務のあちこちで使われている。複数の観測所の測定値を統合する気象予報(データ同化)、複数の臨床試験の結果を統合するメタ分析、センサーの信号を融合するカルマンフィルタは、どれも「精度の高い情報を重く、低い情報を軽く」という同じ原理で動いている。 $n_{1} = 10, n_{2} = 40$ のとき、単純平均だとばらつきは $0.031$ 、最良の重みなら $0.020$ 。同じデータから、重みを変えるだけで精度が $1.5$ 倍以上変わるのだ。

答

(1) $E (T) = w m + (1 - w) m = m$ (2) $V (T) = σ^{2} (\frac{w ^{2}}{n _{1}} + \frac{( 1 - w ) ^{2}}{n _{2}})$ で、最小は $w = \frac{n _{1}}{n _{1} + n _{2}}$ (3) 最小値は $\frac{σ ^{2}}{n _{1} + n _{2}}$ 。そのとき $T$ は $n_{1} + n_{2}$ 個すべての平均に等しい

別解

コーシー・シュワルツで最小値と等号条件を同時に出す(高い視点)。 平方完成も微分も使わずに、不等式1本で片づけることもできる。

$1 = {w + (1 - w)}^{2} = (\frac{w}{n _{1}} \cdot n_{1} + \frac{1 - w}{n _{2}} \cdot n_{2})^{2}$

と書いておいて、コーシー・シュワルツの不等式を当てる。

$1 \leq (\frac{w ^{2}}{n _{1}} + \frac{( 1 - w ) ^{2}}{n _{2}}) (n_{1} + n_{2})$

したがって

$\frac{V ( T )}{σ ^{2}} = \frac{w ^{2}}{n _{1}} + \frac{( 1 - w ) ^{2}}{n _{2}} \geq \frac{1}{n _{1} + n _{2}}$

最小値 $\frac{σ ^{2}}{n _{1} + n _{2}}$ がいきなり出た。等号はコーシー・シュワルツの等号条件、すなわち

$\frac{w / n _{1}}{n _{1}} = \frac{( 1 - w ) / n _{2}}{n _{2}} ⟺ \frac{w}{n _{1}} = \frac{1 - w}{n _{2}}$

のときで、これを解くと $w = \frac{n _{1}}{n _{1} + n _{2}}$ 。本解と一致する。

$1 = {w + (1 - w)}^{2}$ という当たり前の等式に、うまく $n_{1}$ 、 $n_{2}$ を挿し込むのがコツだ。「和が一定のものの2乗を、コーシー・シュワルツで下から押さえる」形は、最小値問題の頻出パターンである。 $\frac{a ^{2}}{p} + \frac{b ^{2}}{q} \geq \frac{( a + b ) ^{2}}{p + q}$ (コーシー・シュワルツの分数形)として覚えておくと、いろいろな場面で使える。

ポイント

どんな $w$ でも不偏。優劣はばらつきで決まる。
$V (T) = σ^{2} (\frac{w ^{2}}{n _{1}} + \frac{( 1 - w ) ^{2}}{n _{2}})$ は下に凸の2次関数。
最小は $w = \frac{n _{1}}{n _{1} + n _{2}}$ 。それは全データをまとめた平均。

よくある間違い

「2つの標本平均なのだから単純に平均すればよい」と考える。標本の大きさが違えば信頼度も違う。大きい標本の平均のほうがばらつきが小さいので、重く扱うべきである。
$V (T) = w V (\overset{ˉ}{X}_{1}) + (1 - w) V (\overset{ˉ}{X}_{2})$ と書いてしまう。定数倍は分散に2乗で入る。 $V (a X) = a^{2} V (X)$ である。
最小の重みを $w = \frac{n _{2}}{n _{1} + n _{2}}$ と逆にする。 $n_{1}$ が大きいほど $\overset{ˉ}{X}_{1}$ は信頼できるので、 $w$ は $1$ に近づく。極端な場合( $n_{2} = 0$ )を考えれば向きを確かめられる。

問3引いたカードの最大値の期待値

最難関編期待値二項係数確率分布

問題

$1$ から $n$ までの番号が1つずつ書かれた $n$ 枚のカードから、無作為に $k$ 枚( $1 \leq k \leq n$ )を同時に取り出す。取り出したカードの番号の最大値を $M$ とする。

(1) $k \leq t \leq n$ のとき $P (M \leq t)$ を求めよ。

(2) $P (M = t)$ を求めよ。

(3) $E (M) = \frac{k ( n + 1 )}{k + 1}$ を示せ。

(4) $n = 10, k = 3$ のときの $E (M)$ を求めよ。

ヒントを見る

最大値が $t$ 以下、とはどういうことか。取り出した $k$ 枚がどうなっていればよいか。(3) $t$ が掛かった二項係数は、 $t$ を中に吸収できる。 $t (k - 1 t - 1)$ を計算してみよ。

解答・解説

方針

最大値そのものは扱いにくいが、「最大値が $t$ 以下」なら簡単で、 $k$ 枚が全部 $t$ 以下ということ。累積確率の差でちょうど $t$ の確率が出る。期待値の計算では $t (k - 1 t - 1) = k (k t)$ で $t$ を二項係数に吸収し、 $\sum (k t) = (k + 1 n + 1)$ (ホッケースティックの和)で畳む。

解答

⓪ 発想(どう考え始めるか) 最大値の分布を直接考えるのは難しい。だが「最大値が $t$ 以下」なら簡単だ。それは「取り出した $k$ 枚が全部 $t$ 以下」ということにほかならない。

この「以下」の確率(累積確率)から、ちょうど $t$ になる確率が差で求まる。最大値・最小値を扱うときの基本の方法である。

期待値の計算では $t (k - 1 t - 1) = k (k t)$ という二項係数の変形を使う。 $t$ を二項係数の中に吸収してしまうのだ。すると和は $\sum (k t)$ という「二項係数の縦の和」になり、パスカルの規則で1つの二項係数にまとまる(ホッケースティックの和)。

公式

t (k - 1 t - 1) = k (k t)

、および

t = k \sum n (k t) = (k + 1 n + 1)

(ホッケースティックの和)

① (1) 「以下」の確率。 $M \leq t$ となるのは、取り出した $k$ 枚がすべて $t$ 以下のときである。それは $1$ から $t$ までの $t$ 枚から $k$ 枚を選ぶことだから

$P (M \leq t) = \frac{( k t )}{( k n )}$

② (2) ちょうど $t$ の確率。 累積確率の差をとる。

$P (M = t) = P (M \leq t) - P (M \leq t - 1) = \frac{( k t ) - ( k t - 1 )}{( k n )} = \frac{( k - 1 t - 1 )}{( k n )}$

最後はパスカルの規則 $(k t) = (k t - 1) + (k - 1 t - 1)$ を使った。意味を読めば「最大が $t$ ⇔ $t$ を1枚選び、残り $k - 1$ 枚を $1$ から $t - 1$ までから選ぶ」であり、直接数えても同じ式になる。

③ (3) 期待値を計算する。 定義どおり足す。

$E (M) = t = k \sum n t \cdot \frac{( k - 1 t - 1 )}{( k n )}$

ここで $t (k - 1 t - 1) = k (k t)$ である(両辺とも $\frac{t !}{( k - 1 )! ( t - k )!}$ に等しい)。したがって

$E (M) = \frac{k}{( k n )} t = k \sum n (k t) = \frac{k}{( k n )} \cdot (k + 1 n + 1)$

最後にホッケースティックの和を使った。あとは比を計算する。

$\frac{( k + 1 n + 1 )}{( k n )} = \frac{\frac{( n + 1 )!}{( k + 1 )! ( n - k )!}}{\frac{n !}{k ! ( n - k )!}} = \frac{n + 1}{k + 1}$

よって

$E (M) = \frac{k ( n + 1 )}{k + 1}$

④ (4) 数値を入れる。 $n = 10, k = 3$ とすると

$E (M) = \frac{3 \cdot 11}{4} = \frac{33}{4} = 8.25$

検算しておく。 $k = n$ (全部取る)なら $E (M) = \frac{n ( n + 1 )}{n + 1} = n$ で、最大値は必ず $n$ になるので正しい。 $k = 1$ なら $\frac{n + 1}{2}$ で、 $1$ 枚だけ引くときの平均。これも正しい。

まとめ: 最大値は「以下」の確率から攻める。期待値は二項係数の変形で $t$ を吸収し、ホッケースティックの和で畳む。

発展。 答えを $\frac{k}{k + 1} (n + 1)$ と書き直してみる。すると「区間 $[0, n + 1]$ を $k + 1$ 等分したときの、 $k$ 番目の位置」と読める。

つまり $k$ 枚のカードは平均的に見て区間をほぼ均等に $k + 1$ 等分する位置に落ちるのだ。 $n = 10, k = 3$ なら $11$ を $4$ 等分した3番目、つまり $8.25$ 。カードを引く前から、だいたいの位置が読めてしまう。

この「 $k$ 個の点が区間を均等に分ける」という現象は、順序統計量の基本的な性質である。 $i$ 番目に小さいカードの期待値も $\frac{i ( n + 1 )}{k + 1}$ になり、やはり等分点にくる。無作為に選んだはずの点が、全体としては規則正しく並ぶのである。

答

(1) $\frac{( k t )}{( k n )}$ (2) $\frac{( k - 1 t - 1 )}{( k n )}$ (3) $t (k - 1 t - 1) = k (k t)$ とホッケースティックの和から (4) $\frac{33}{4} = 8.25$

別解

「以上」の確率を足し上げる(得意な人向け)。 $1$ 以上 $n$ 以下の整数値をとる確率変数には、期待値のもう1つの表し方がある。

$E (M) = t = 1 \sum n P (M \geq t)$

理由は簡単だ。右辺を展開すると、各 $j$ について $P (M = j)$ が $t = 1, 2, \dots, j$ の $j$ 回だけ現れる。だから合計は $\sum_{j} j P (M = j) = E (M)$ になる。「値そのものを、1ずつ数え上げる」という発想である。

これを使う。 $P (M \geq t) = 1 - P (M \leq t - 1) = 1 - \frac{( k t - 1 )}{( k n )}$ だから

$E (M) = t = 1 \sum n 1 - \frac{( k t - 1 )}{( k n )} = n - \frac{1}{( k n )} t = 1 \sum n (k t - 1)$

和の部分は $u = t - 1$ とおけば $u = 0 \sum n - 1 (k u)$ で、 $u < k$ の項は $0$ だから、ホッケースティックの和により $(k + 1 n)$ に等しい。よって

$E (M) = n - \frac{( k + 1 n )}{( k n )} = n - \frac{n - k}{k + 1} = \frac{n ( k + 1 ) - ( n - k )}{k + 1} = \frac{nk + k}{k + 1} = \frac{k ( n + 1 )}{k + 1}$

本解と一致した。 $P (M = t)$ を経由しないぶん、こちらのほうが計算が短い。「値を直接足す」のではなく「しきい値を超える回数を数える」という見方の切り替えは、期待値の計算で何度も役に立つ。

ポイント

$M \leq t$ ⇔ $k$ 枚が全部 $t$ 以下。累積確率を中心に考える。
$t (k - 1 t - 1) = k (k t)$ で $t$ を吸収。
ホッケースティックの和で $\sum (k t) = (k + 1 n + 1)$ 。

よくある間違い

$P (M = t)$ を「 $t$ が含まれる確率」 $\frac{( k - 1 n - 1 )}{( k n )}$ としてしまう。 $t$ が最大値であるためには、残り $k - 1$ 枚が $t$ より小さくなければならない。含まれるだけでは足りない。
ホッケースティックの和を知らずに、 $\sum (k t)$ をそのまま展開しようとする。パスカルの規則を繰り返せば $(k + 1 n + 1)$ にまとまる。
答えの検算をしない。 $k = n$ (全部取る)なら $E (M) = n$ になるはずである。この一手で、係数の取り違えはその場で見つかる。

問4無相関でも独立とは限らない

最難関編独立共分散相関

問題

確率変数 $X$ は $- 1, 0, 1$ の値をそれぞれ確率 $\frac{1}{3}$ でとるとし、 $Y = X^{2}$ とする。

(1) $X$ と $Y$ は独立でないことを示せ。

(2) $E (X Y) = E (X) E (Y)$ が成り立つことを示せ(すなわち $X$ と $Y$ の共分散は $0$ で、無相関である)。

(3) 一般に、 $X$ と $Y$ が独立ならば $E (X Y) = E (X) E (Y)$ であることを示せ。

ヒントを見る

$X = 0$ のとき $Y$ は何になるか。独立の定義をこの1点で確かめてみよ。(2) $E (X Y)$ は $E (X^{3})$ である。 $X$ の分布の対称性を見よ。

解答・解説

方針

相関係数(共分散)は「直線的な関係」しか見ていない。だから放物線の関係 $Y = X^{2}$ で完全に結ばれていても、 $X$ の分布が原点対称なら共分散は $0$ になる。一方、 $X$ が決まれば $Y$ は完全に決まるのだから、独立であるはずがない。

解答

⓪ 発想(どう考え始めるか) 「無相関」と「独立」は同じことか。答えは No である。

共分散(相関係数)は $X$ と $Y$ の「直線的な関係」しか見ていない。だから、直線でない関係(たとえば放物線)で完全に結ばれていても、相関は $0$ になりうる。

そういう例を作ればよい。 $Y = X^{2}$ は放物線の関係だ。 $X$ を原点対称に散らせば、 $E (X) = 0$ かつ $E (X^{3}) = 0$ となり、共分散が消える。

それでいて、 $X$ の値が決まれば $Y$ の値は完全に決まってしまう。これほど強く結びついているのに相関は $0$ であり、相関係数の限界がはっきり分かる。

定理

X

と

Y

が独立ならば

E (X Y) = E (X) E (Y)

(逆は成り立たない)

① (1) 独立の定義を破る。 $P (X = 0) = \frac{1}{3}$ である。また $Y = X^{2}$ だから、 $Y = 0$ となるのは $X = 0$ のときに限り、 $P (Y = 0) = \frac{1}{3}$ 。

もし独立なら

$P (X = 0, Y = 0) = P (X = 0) P (Y = 0) = \frac{1}{3} \cdot \frac{1}{3} = \frac{1}{9}$

でなければならない。ところが実際には「 $X = 0$ ならば必ず $Y = 0$ 」だから

$P (X = 0, Y = 0) = P (X = 0) = \frac{1}{3} \neq = \frac{1}{9}$

よって $X$ と $Y$ は独立ではない。

② (2) 共分散を計算する。 $Y$ のとる値は $X = - 1, 0, 1$ に対応して $1, 0, 1$ である。

$E (X) = \frac{( - 1 ) + 0 + 1}{3} = 0, E (Y) = E (X^{2}) = \frac{1 + 0 + 1}{3} = \frac{2}{3}$

$E (X Y) = E (X \cdot X^{2}) = E (X^{3}) = \frac{( - 1 ) ^{3} + 0 ^{3} + 1 ^{3}}{3} = 0$

したがって

$E (X Y) - E (X) E (Y) = 0 - 0 \cdot \frac{2}{3} = 0$

共分散は $0$ で、 $X$ と $Y$ は無相関である。

(X, Y) がとる3点(各確率 1/3)。すべて放物線 y=x^2 の上にあり、X が決まれば Y は完全に決まる。それでも左右対称なので共分散は 0(無相関)。相関係数は直線的な関係しか見ていない

③ (3) 独立ならば無相関。 $X$ のとりうる値を $a$ 、 $Y$ のとりうる値を $b$ とする。独立だから $P (X = a, Y = b) = P (X = a) P (Y = b)$ 。よって

$E (X Y) = a \sum b \sum ab P (X = a, Y = b) = a \sum b \sum ab P (X = a) P (Y = b)$

和を分解できて

$= (a \sum a P (X = a)) (b \sum b P (Y = b)) = E (X) E (Y)$

つまり「独立 $\Rightarrow$ 無相関」は正しい。本問が示したのは、その逆が成り立たないことである。

まとめ: 「無相関」は「直線的な関係がない」という意味にすぎない。「独立」(どんな意味でも無関係)とは別物である。相関係数が $0$ でも、 $X$ と $Y$ が完全に結びついていることがある。

発展。 「相関が $0$ だから関係がない」と結論するのは、統計でいちばん多い誤りの1つである。散布図がU字や放物線を描いていれば、相関係数は $0$ に近くなる。だから「相関係数を計算する前に、必ず散布図を描け」と言われるのだ。

逆向きの主張は正しい。(3)で示したとおり「独立 $\Rightarrow$ 無相関」だから、その対偶「相関がある $\Rightarrow$ 独立でない」も正しい。相関があれば必ず何らかの関係はある。成り立たないのは逆の推論だけだ。

なお、 $X$ と $Y$ の組が2次元正規分布に従う場合には「無相関 $\Rightarrow$ 独立」が成り立つ。2次元正規分布では直線的な関係だけで依存のしかたがすべて決まるのである。これが正規分布の特別さの1つであり、統計の理論が正規分布を好む理由でもある。

答

(1) $P (X = 0, Y = 0) = \frac{1}{3} \neq = \frac{1}{3} \cdot \frac{1}{3}$ (2) $E (X) = 0$ 、 $E (X Y) = E (X^{3}) = 0$ なので共分散は $0$ (3) 独立性 $P (X = a, Y = b) = P (X = a) P (Y = b)$ を代入して和を分解する

別解

対称性だけで共分散が $0$ を見抜く(見通しのルート)。 $E (X^{3}) = 0$ は、計算しなくても見える。

$X$ の分布は原点対称( $- 1$ と $1$ が同じ確率、 $0$ が中央)であり、 $x^{3}$ は奇関数だ。奇関数の期待値は対称な分布のもとでは $0$ になる。正の側と負の側がぴったり打ち消し合うからである。

この見方を使えば、無相関だが独立でない例はいくらでも作れる。 $X$ の分布が原点対称でありさえすれば、 $X$ の偶関数 $g (X)$ (たとえば $X^{2}$ 、 $∣ X ∣$ 、 $X^{4}$ )との共分散はつねに $0$ になる。実際

$共分散 = E (X g (X)) - E (X) E (g (X))$

で、 $g$ が偶関数なら $x g (x)$ は奇関数だから第1項は $0$ 、そして $E (X) = 0$ だから第2項も $0$ である。

「偶関数と奇関数は打ち消し合う」という、積分や級数でおなじみの性質が、確率でも同じ働きをしている。無相関とはいわば「直交」のことである。そう思えば、相関係数が直線的な関係しか捉えられない理由も腑に落ちる。直交していても、まったく無関係とは限らないのである。

ポイント

$X = 0$ の1点で独立の定義が破れる( $\frac{1}{3} \neq = \frac{1}{9}$ )。
$X$ の分布が原点対称なので $E (X) = E (X^{3}) = 0$ → 共分散 $0$ 。
独立 $\Rightarrow$ 無相関は正しいが、逆は成り立たない。

よくある間違い

「共分散が $0$ なら独立」と結論する。統計でもっとも多い誤解の1つである。逆(独立ならば共分散は $0$ )は正しいが、その逆は成り立たない。
(1)で「 $Y$ は $X$ で決まるから独立でない」とだけ書いて済ませる。直感としては正しいが、答案では独立の定義 $P (X = a, Y = b) = P (X = a) P (Y = b)$ を破る具体例を1つ挙げるのが確実である。
$E (X^{3})$ を ${E (X)}^{3}$ と計算する。期待値は関数の中に入れられない。 $E (X^{3})$ は $x^{3}$ の値に確率を掛けて足す。

問5どちらが長持ちするか(正規分布の差)

最難関編正規分布差の分布標準化

問題

A社の電池の寿命 $X$ (時間)は正規分布 $N (102, 6^{2})$ に、B社の電池の寿命 $Y$ は正規分布 $N (96, 8^{2})$ に従い、 $X$ と $Y$ は独立であるとする。

独立な正規分布に従う確率変数の差もまた正規分布に従うこと、および正規分布表の値

$P (0 \leq Z \leq 0.60) = 0.2257, P (0 \leq Z \leq 1.64) = 0.4500$

を用いてよい( $Z$ は標準正規分布に従う)。

(1) $X - Y$ の平均と標準偏差を求めよ。

(2) A社の電池がB社の電池より長持ちする確率 $P (X > Y)$ を求めよ。

(3) A社が製造を改良し、寿命の平均を $μ$ にした(標準偏差は $6$ のまま)。 $P (X > Y) \geq 0.95$ とするための $μ$ の最小値を求めよ。

ヒントを見る

「A のほうが長持ち」を、1つの確率変数についての不等式に言い換えよ。差の分散はどうなるか。引き算だから引く、ではない。

解答・解説

方針

2つの分布を別々に見ていても答えは出ない。差 $X - Y$ を1つの確率変数と見て、その分布(正規分布)を作る。平均は差、分散は和である(引き算でも分散は足す)。あとは標準化して表を引くだけ。

解答

⓪ 発想(どう考え始めるか) 「A が B より長持ちする確率」は、2つの分布を別々に見ていても求まらない。

差を1つの確率変数と見るのだ。 $X - Y > 0$ が「A のほうが長い」ということ。 $X - Y$ の分布さえ分かれば、あとは標準化して表を引くだけである。

独立な正規分布の差はまた正規分布になる。平均は差、分散は和だ。ここが間違えやすいところで、 $V (X - Y) = V (X) + V (Y)$ である。マイナスが2乗されて消えるからだ。もし引き算にしてしまうと $36 - 64 < 0$ となり、標準偏差が定義できないので、その時点で誤りに気づける。

(3)は逆算だ。確率を $0.95$ にするために平均をどこまで上げればよいか。標準化した値が境目にくる、という形で方程式にする。

公式独立なら

V (X - Y) = V (X) + V (Y)

(分散は引き算でも足す)

定理独立な正規分布の差

X - Y

は正規分布

N (μ_{X} - μ_{Y}, σ_{X}^{2} + σ_{Y}^{2})

に従う

① (1) 差の分布を作る。 平均は

$E (X - Y) = 102 - 96 = 6$

分散は

$V (X - Y) = V (X) + V (Y) = 6^{2} + 8^{2} = 36 + 64 = 100$

よって標準偏差は $100 = 10$ である。 $X - Y$ は $N (6, 1 0^{2})$ に従う。

② (2) 標準化して表を引く。 求める確率は

$P (X > Y) = P (X - Y > 0)$

$Z = \frac{( X - Y ) - 6}{10}$ とおくと $Z$ は標準正規分布に従い、 $X - Y > 0$ は

$Z > \frac{0 - 6}{10} = - 0.60$

と書き直せる。よって

$P (X > Y) = P (Z > - 0.60) = P (- 0.60 < Z < 0) + P (Z \geq 0) = 0.2257 + 0.5 = 0.7257$

(標準正規分布は原点対称だから $P (- 0.60 < Z < 0) = P (0 < Z < 0.60) = 0.2257$ 。)約 $73%$ である。平均で $6$ 時間の差があっても、ばらつきが $10$ 時間もあるので、 $4$ 回に1回はB社が勝ってしまう。

差 X-Y の分布 N(6, 10^2)。A が B より長持ちする確率は、0 より右の面積(青)。平均が 6 だけ右にずれているぶん、半分より大きい 0.7257 になる。0 は平均から左へ 0.6 標準偏差の位置

③ (3) 逆算する。 平均を $μ$ にすると $X - Y$ は $N (μ - 96, 1 0^{2})$ に従う(A の標準偏差は $6$ のままなので、差の分散はやはり $36 + 64 = 100$ )。よって

$P (X > Y) = P (Z > \frac{0 - ( μ - 96 )}{10}) = P (Z > \frac{96 - μ}{10})$

これが $0.95$ 以上であればよい。表より $P (Z > - 1.64) = 0.5 + 0.4500 = 0.95$ だから、条件は

$\frac{96 - μ}{10} \leq - 1.64$

(境目が左へ動くほど、右側の面積は大きくなる。)整理して

$96 - μ \leq - 16.4 ⟹ μ \geq 112.4$

よって $μ$ の最小値は $112.4$ 時間である。

まとめ: 2つを比べるときは「差」を作る。平均は引き、分散は足す。あとは標準化して表を引くだけだ。

発展。 「差を1つの変数と見る」という発想は、統計的検定そのものである。2つのグループの平均に差があるかを調べるときも、差の分布を作り、その中で $0$ がどのあたりに位置するかを見る。 $0$ が分布のはしのほうにあれば「差がある」と判断するのだ。

本問の(3)はその逆問題を解いたことになる。「 $0$ を十分に端へ追いやるには、平均をどれだけ動かせばよいか」。製品開発の目標設定は実際にこうして決められる。「B社より $6$ 時間長い」では足りない。 $95%$ の確率で上回りたいなら、 $16.4$ 時間の差が要る。ばらつきが大きいほど、確実に勝つには大きな差が必要になるのだ。

答

(1) 平均 $6$ 、標準偏差 $10$ ( $36 + 64 = 100$ ) (2) $P (Z > - 0.60) = 0.5 + 0.2257 = 0.7257$ (3) $μ \geq 96 + 10 \times 1.64 = 112.4$ より、最小値は $112.4$ 時間

別解

標準化を「安全余裕」として読む(苦手な人向け)。 この計算は、次のように読むと意味がはっきりする。 $X - Y$ の平均は $6$ 、標準偏差は $10$ 。つまり「A は平均して $6$ 時間ぶん有利だが、そのばらつきは $10$ 時間ぶんある」ということだ。そこで比をとる。

$\frac{平均の差}{差のばらつき} = \frac{6}{10} = 0.60$

この $0.60$ は「有利さが、ばらつき何個ぶんか」を表している。大きいほどA が勝つ確率は高い。いまは $0.60$ 個ぶんしか余裕がないので、勝率は $0.73$ 程度にとどまる。

もし平均の差が $20$ 時間(ばらつき $2$ 個ぶん)なら $P (Z > - 2) = 0.977$ で、ほぼ確実にA が勝つ。逆に平均の差が $0$ なら $0.5$ 、つまり五分五分だ。

(3)はこの逆算にほかならない。勝率 $0.95$ に必要な余裕は $1.64$ 個ぶん。だから平均の差を $10 \times 1.64 = 16.4$ 時間にすればよい。B の平均が $96$ だから、A は $112.4$ 時間である。

「差 $\div$ ばらつき」という比を見ることが、統計の実践でもっとも役に立つ。 $t$ 値や $z$ 値と呼ばれる量は、すべてこの形をしている。数値を丸暗記するのではなく、「ばらつき何個ぶんの差か」と読む習慣をつけたい。

ポイント

「A が長持ち」 $\Leftrightarrow$ $X - Y > 0$ 。差を1つの変数に。
$V (X - Y) = V (X) + V (Y) = 100$ (引き算でも足す)。
標準化して $P (Z > - 0.60) = 0.5 + 0.2257 = 0.7257$ 。

よくある間違い

$V (X - Y) = V (X) - V (Y)$ としてしまう。分散は引き算でも足す( $36 + 64 = 100$ )。マイナスは2乗されて消える。 $36 - 64$ では負になり、標準偏差が定義できない時点で気づける。
$P (X > Y)$ を $P (X > 96)$ (B の平均と比べる)としてしまう。B の寿命も確率変数で、ばらつきがある。両方のばらつきを取り込むために「差」を作る。
(3)の標準化で、A の標準偏差 $6$ で割ってしまう。使うのは「差の標準偏差」 $10$ である。

問62つの一様乱数の和(面積で確率を測る)

最難関編連続確率変数一様分布面積と確率

問題

$U$ と $V$ は独立で、それぞれ区間 $[0, 1]$ 上の一様分布に従うとする(すなわち $0 \leq a \leq b \leq 1$ のとき $P (a \leq U \leq b) = b - a$ )。 $S = U + V$ とする。

点 $(U, V)$ は単位正方形 $0 \leq u \leq 1$ 、 $0 \leq v \leq 1$ の上に一様に散らばるので、事象の確率は対応する領域の面積に等しい。

(1) $0 \leq s \leq 1$ のとき $P (S \leq s)$ を求めよ。

(2) $1 \leq s \leq 2$ のとき $P (S \leq s)$ を求めよ。

(3) $P (∣ S - 1 ∣ \leq \frac{1}{2})$ を求めよ。

(4) $E (S)$ と $V (S)$ を求めよ。

ヒントを見る

$U$ と $V$ を平面上の点の座標だと思ってみよ。 $S \leq s$ はどんな領域か。(2) 五角形の面積を直接求めるのは面倒だ。補集合はどんな形か。

解答・解説

方針

$(U, V)$ を単位正方形上の点と見れば、確率は面積そのもの。 $S \leq s$ は直線 $u + v = s$ の左下側で、 $s$ が $1$ を超えると領域の形が変わる(三角形から五角形へ)。だから場合分けが要る。(4)は和の期待値・分散の公式ですぐに出る。

解答

⓪ 発想(どう考え始めるか) 2つの乱数の和はどう散らばるか。直感的には「真ん中が出やすい」はずだ。和が $0$ に近くなるのは「2つとも小さい」ときだけで、めったに起きない。

これを厳密に扱う道具が「面積 $=$ 確率」である。 $(U, V)$ を平面上の点と見ると、この点は単位正方形の中に一様に散らばる。だから、ある事象の確率は対応する領域の面積そのものになる。

$S = U + V \leq s$ という条件は、直線 $u + v = s$ の左下側という領域を表す。その面積を計算すればよい。 $s$ が $1$ を超えるかどうかで、領域の形が三角形から五角形に変わる。ここが場合分けの理由である。

重要

(U, V)

は単位正方形に一様に散らばる。事象の確率

=

対応する領域の面積

公式一様分布

[0, 1]

の期待値は

\frac{1}{2}

、分散は

\frac{1}{12}

① (1) 三角形の面積。 $0 \leq s \leq 1$ のとき、 $u + v \leq s$ ( $u, v \geq 0$ )の領域は、原点を直角の頂点とし、脚の長さが $s$ の直角二等辺三角形である。よって

$P (S \leq s) = \frac{s \cdot s}{2} = \frac{s ^{2}}{2}$

② (2) 補集合を使う。 $1 \leq s \leq 2$ のとき、 $u + v \leq s$ の領域は五角形になって面倒だ。そこで補集合を見る。

$u + v > s$ の領域は、正方形の右上隅にある直角二等辺三角形で、脚の長さは $2 - s$ 。よって

$P (S > s) = \frac{( 2 - s ) ^{2}}{2} ⟹ P (S \leq s) = 1 - \frac{( 2 - s ) ^{2}}{2}$

③ (3) 帯の面積。 $∣ S - 1 ∣ \leq \frac{1}{2}$ は $\frac{1}{2} \leq S \leq \frac{3}{2}$ のこと。除かれるのは左下と右上の2つの三角形で、脚はどちらも $\frac{1}{2}$ だから、面積はそれぞれ

$\frac{1}{2} \cdot \frac{1}{2} \cdot \frac{1}{2} = \frac{1}{8}$

よって

$P (∣ S - 1 ∣ \leq \frac{1}{2}) = 1 - \frac{1}{8} - \frac{1}{8} = \frac{3}{4}$

(U, V) は単位正方形に一様に散らばり、確率は面積そのもの。|S-1|<=1/2 から外れるのは、左下と右上の2つの直角二等辺三角形(赤、面積は各 1/8)。よって求める確率は 1 - 1/8 - 1/8 = 3/4

④ (4) 期待値と分散。 和の期待値は独立でなくても足せる。

$E (S) = E (U) + E (V) = \frac{1}{2} + \frac{1}{2} = 1$

分散は、 $U$ と $V$ が独立だから足せる。

$V (S) = V (U) + V (V) = \frac{1}{12} + \frac{1}{12} = \frac{1}{6}$

( $[0, 1]$ 上の一様分布では $E (U) = \frac{1}{2}$ 、 $E (U^{2}) = \frac{1}{3}$ だから $V (U) = \frac{1}{3} - \frac{1}{4} = \frac{1}{12}$ 。)

まとめ: 連続確率は「面積で測る」。領域の形が変わるところが場合分けの境目になる。和の期待値・分散は分布の形を知らなくても公式で出る。

発展。 (1)(2)から、 $S$ の分布の様子が分かる。累積確率を $s$ で微分すると、密度は $s$ ( $0 \leq s \leq 1$ )と $2 - s$ ( $1 \leq s \leq 2$ )で、 $s = 1$ を頂点とする三角形になる。真ん中が出やすい、という直感どおりだ。

さらに一様乱数を3つ、4つと足していくと、山はどんどん滑らかになり、やがて正規分布の釣鐘型に近づいていく。これが中心極限定理である。 $2$ つ足しただけで、もう三角形の山ができている。この問題は中心極限定理の最初の一歩にあたる。

コンピュータで正規分布に従う乱数を作るとき、昔は「一様乱数を12個足して $6$ を引く」という手軽な方法が使われた。 $V = 12 \times \frac{1}{12} = 1$ となって、平均 $0$ ・分散 $1$ のほぼ正規分布が得られるからである。足すだけで釣鐘型が現れる、という事実の実用版だ。

答

(1) $\frac{s ^{2}}{2}$ (直角二等辺三角形) (2) $1 - \frac{( 2 - s ) ^{2}}{2}$ (補集合が三角形) (3) $\frac{3}{4}$ (4) $E (S) = 1$ 、 $V (S) = \frac{1}{6}$

別解

サイコロで実感してから、連続に移る(苦手な人向け)。 サイコロを2個振ったときの和を思い出そう。

和が $2$ になるのは $(1, 1)$ の1通り、 $3$ は2通り、…、 $7$ は $(1, 6), (2, 5), \dots, (6, 1)$ の6通り。そこから減っていき、 $12$ は1通り。確率は $7$ を頂点とする三角形の形になる。真ん中の目が出やすいのだ。

本問はその連続版である。 $36$ マスの表が単位正方形に、マスの個数が面積に置き換わっただけだ。 $S \leq s$ の領域が三角形になるのも、サイコロの表で「和が小さい」マスが左下の三角形にかたまるのと同じ理由である。

数え上げ(離散)と面積(連続)は、同じ図を違う言葉で表している。連続確率で迷ったら、サイコロの表に戻るとよい。考えるときの有効な足場になる。

(3)の「和が真ん中あたりに来る確率が $\frac{3}{4}$ もある」という結果も、サイコロで「和が $5$ 以上 $9$ 以下」になる確率が $\frac{24}{36} = \frac{2}{3}$ と高いことと同じ現象だ。両端は出にくく、真ん中に集まる。足し合わせるという操作には、そういう性質があるのである。

ポイント

$(U, V)$ は単位正方形に一様。確率 $=$ 面積。
$S \leq s$ は直線 $u + v = s$ の左下。 $s > 1$ で形が変わる。
$E (S) = 1$ 、 $V (S) = \frac{1}{6}$ (独立だから分散は足せる)。

よくある間違い

$S$ も一様分布に従うと思ってしまう。和は真ん中が出やすくなり、三角形の分布になる。「一様 $+$ 一様 $=$ 一様」ではない。
(2)で $P (S \leq s)$ の五角形の面積を直接求めようとして計算を複雑にする。補集合(右上の三角形)を見ればすぐに分かる。
(4)で $V (S) = V (U) + V (V)$ を使うのに、独立性を確認しない。独立でなければ共分散の項が加わる。本問は独立と与えられているので使える。

問7二項分布の和はまた二項分布(再生性)

最難関編二項分布たたみこみ二項定理

問題

$X$ は二項分布 $B (m, p)$ に、 $Y$ は二項分布 $B (n, p)$ に従い、 $X$ と $Y$ は独立であるとする( $q = 1 - p$ とおく)。

(1) 二項定理を用いて、次の等式(ヴァンデルモンドの畳み込み)を示せ。

$j = 0 \sum k (j m) (k - j n) = (k m + n)$

(2) $X + Y$ は二項分布 $B (m + n, p)$ に従うことを示せ。

(3) (2)から $E (X + Y)$ と $V (X + Y)$ を求め、 $E (X) + E (Y)$ 、 $V (X) + V (Y)$ と一致することを確かめよ。

ヒントを見る

(1) $(1 + x)^{m + n}$ を2通りに展開してみよ。(2) $X + Y = k$ となるのは、 $X$ がいくつのときか。すべての場合を足す。

解答・解説

方針

独立だから、和の確率は「 $X = j$ かつ $Y = k - j$ 」を $j$ について全部足せばよい。 $p$ と $q$ のべきは $j$ が消えてまとまり、二項係数の積の和だけが残る。それを片づけるのが(1)のヴァンデルモンドの畳み込みで、二項定理の係数比較から出る。

解答

⓪ 発想(どう考え始めるか) 二項分布は「 $n$ 回の試行での成功回数」だ。 $m$ 回やって、さらに $n$ 回やれば合計 $m + n$ 回。成功回数の和が $B (m + n, p)$ に従うのは、当たり前に思える。

その「当たり前」を、確率の計算だけで確かめるのがこの問題である。 $P (X + Y = k)$ を求めるには、 $X = j$ と $Y = k - j$ の場合を $j$ について全部足せばよい(独立だから積で書ける)。

すると二項係数の積の和 $j \sum (j m) (k - j n)$ が現れる。これがヴァンデルモンドの畳み込みで、 $(1 + x)^{m} (1 + x)^{n} = (1 + x)^{m + n}$ の係数比較から出る。 $p$ と $q$ のべきのほうは、 $j$ がきれいに消えて $p^{k} q^{m + n - k}$ にまとまる。ここで計算がまとめて簡単になる。

定理二項定理

(1 + x)^{N} = k = 0 \sum N (k N) x^{k}

公式独立なら

P (X = j, Y = i) = P (X = j) P (Y = i)

① (1) 係数を比較する。 恒等式 $(1 + x)^{m} (1 + x)^{n} = (1 + x)^{m + n}$ の両辺を二項定理で展開する。

左辺は

$(j = 0 \sum m (j m) x^{j}) (i = 0 \sum n (i n) x^{i})$

で、 $x^{k}$ の項は $j + i = k$ すなわち $i = k - j$ となる組から出る。よって $x^{k}$ の係数は

$j = 0 \sum k (j m) (k - j n)$

右辺の $x^{k}$ の係数は $(k m + n)$ 。両者は等しいから(1)が示された。

② (2) たたみこみを計算する。 $X + Y = k$ となるのは、 $X = j$ かつ $Y = k - j$ ( $j = 0, 1, \dots, k$ )のときである。独立だから

$P (X + Y = k) = j = 0 \sum k P (X = j) P (Y = k - j) = j = 0 \sum k (j m) p^{j} q^{m - j} \cdot (k - j n) p^{k - j} q^{n - k + j}$

$p$ のべきは $p^{j} \cdot p^{k - j} = p^{k}$ 、 $q$ のべきは $q^{m - j} \cdot q^{n - k + j} = q^{m + n - k}$ で、どちらも $j$ が消える。よって $p^{k} q^{m + n - k}$ を外にくくり出せて

$P (X + Y = k) = p^{k} q^{m + n - k} j = 0 \sum k (j m) (k - j n) = (k m + n) p^{k} q^{m + n - k}$

最後に(1)を使った。これは二項分布 $B (m + n, p)$ の確率そのものである。

③ (3) 期待値と分散。 (2)より $X + Y$ は $B (m + n, p)$ に従うから

$E (X + Y) = (m + n) p, V (X + Y) = (m + n) pq$

一方

$E (X) + E (Y) = m p + n p = (m + n) p, V (X) + V (Y) = m pq + n pq = (m + n) pq$

で、確かに一致する(期待値は線形性から、分散は独立性から、それぞれ足せる)。

まとめ: 「 $m$ 回 $+$ $n$ 回 $=$ $m + n$ 回」という当たり前の事実が、二項係数の恒等式(ヴァンデルモンドの畳み込み)として現れる。確率の計算はしばしば組合せの恒等式の別の表し方である。

発展。 期待値や分散が足せることは、分布の形を知らなくても言える。だが「和がまた二項分布になる」という主張は、それよりずっと強い。分布の形そのものが保たれるからだ。この性質を再生性という。

正規分布も再生性を持つ( $N (μ_{1}, σ_{1}^{2})$ と $N (μ_{2}, σ_{2}^{2})$ の和は $N (μ_{1} + μ_{2}, σ_{1}^{2} + σ_{2}^{2})$ )。ポアソン分布もそうである。

ところが一様分布は再生性を持たない。一様分布どうしの和は三角形の分布になってしまうからだ。「足しても形が変わらない」というのは、実は特別な性質である。そして、形が変わっていった先の行き着く果てが正規分布(中心極限定理)だ、というのがこの分野でいちばん大事な定理である。

答

(1) $(1 + x)^{m} (1 + x)^{n} = (1 + x)^{m + n}$ の $x^{k}$ の係数を比較する (2) $P (X + Y = k) = j \sum P (X = j) P (Y = k - j)$ を計算すると $(k m + n) p^{k} q^{m + n - k}$ (3) $E = (m + n) p = m p + n p$ 、 $V = (m + n) pq = m pq + n pq$

別解

試行の意味に戻る(高い視点)。 計算を1行もせずに(2)を示すこともできる。

$X$ は「成功確率 $p$ の独立な試行を $m$ 回行ったときの成功回数」と解釈できる。 $Y$ は「同じ試行を $n$ 回行ったときの成功回数」だ。しかも $X$ と $Y$ は独立だから、これらは互いに影響しない別々の試行列と見てよい。

2つを並べれば、「成功確率 $p$ の独立な試行を $m + n$ 回行った」ことになる。その成功回数が $X + Y$ である。したがって $X + Y$ は $B (m + n, p)$ に従う。

これで証明は終わりだ。ただし、この議論が許されるのは「独立な試行の繰り返し」という解釈をしてよい場合に限る。答案としては、本解のように確率を直接計算するほうが安全である。とはいえ、この見方を持っていれば「答えは $B (m + n, p)$ になるはずだ」と先に確信でき、計算の見通しが立つ。

そしてこの見方は、なぜヴァンデルモンドの畳み込みが現れるのかも分かる。 $m + n$ 人から $k$ 人を選ぶとき、前半 $m$ 人から $j$ 人、後半 $n$ 人から $k - j$ 人を選ぶ、と場合分けする。それが $j \sum (j m) (k - j n) = (k m + n)$ の意味である。確率の計算と組合せの数え上げが、同じ構造を共有しているのだ。

ポイント

$(1 + x)^{m} (1 + x)^{n} = (1 + x)^{m + n}$ の係数比較でヴァンデルモンド。
たたみこみで $p^{j} \cdot p^{k - j} = p^{k}$ 、 $q$ も $j$ が消える。
分布の形が保たれる(再生性)。期待値・分散が足せることより強い主張。

よくある間違い

$P (X + Y = k) = P (X = k) + P (Y = k)$ としてしまう。和の分布はすべての組合せを足し上げたもの(たたみこみ)であって、確率の単純な和ではない。
たたみこみの計算で、 $p$ や $q$ のべきに $j$ が残ると思い込む。 $p^{j} \cdot p^{k - j} = p^{k}$ 、 $q^{m - j} \cdot q^{n - k + j} = q^{m + n - k}$ で $j$ は消える。ここが計算の山場である。
成功確率が違う場合にも「和は二項分布」と当てはめる。 $B (m, p_{1})$ と $B (n, p_{2})$ ( $p_{1} \neq = p_{2}$ )の和は二項分布にならない。 $p$ が共通であることを使っている。

問8戻さずに取り出すと何が変わるか(有限母集団修正)

最難関編標本平均共分散非復元抽出

問題

大きさ $N$ の母集団( $N$ 個の値からなる)の母平均を $m$ 、母分散を $σ^{2}$ とする。この母集団から $k$ 個( $1 \leq k \leq N$ )を非復元(取り出したら戻さない)で無作為に取り出し、その値を $X_{1}, \dots, X_{k}$ 、平均を $\overset{ˉ}{X} = \frac{1}{k} i = 1 \sum k X_{i}$ とする。

(1) どの $i$ についても $E (X_{i}) = m$ 、 $V (X_{i}) = σ^{2}$ である理由を説明せよ。

(2) $i \neq = j$ のとき、 $X_{i}$ と $X_{j}$ の共分散が $- \frac{σ ^{2}}{N - 1}$ であることを示せ(ヒント: $k = N$ として全部取り出すと、 $X_{1} + \dots + X_{N}$ は定数である)。

(3) $V (\overset{ˉ}{X}) = \frac{σ ^{2}}{k} \cdot \frac{N - k}{N - 1}$ を示せ。

(4) 母集団 ${1, 2, 3, 4, 5}$ から $k = 2$ 個を取り出すときの $V (\overset{ˉ}{X})$ を求めよ。

ヒントを見る

戻さないと、先に引いた値が次に引ける値に影響する。 $X_{i}$ と $X_{j}$ は独立か。(2) 全部取り出したときの和は何か。その分散は。

解答・解説

方針

非復元では $X_{i}$ どうしが独立でないので、共分散の項が残る。その共分散は「全部取り出せば和は定数(分散 $0$ )」という事実から逆算できる。あとは $V (\overset{ˉ}{X})$ の展開に代入するだけ。

解答

⓪ 発想(どう考え始めるか) 復元抽出なら $V (\overset{ˉ}{X}) = \frac{σ ^{2}}{k}$ である。では戻さない場合はどうなるか。

直感的には、戻さないほうがばらつきは小さくなるはずだ。極端な話、 $k = N$ (全部取る)なら標本平均は必ず母平均に一致し、ばらつきは $0$ になる。

その「 $0$ になる」という事実を使うと、共分散が求められる。全部取り出したときの和は定数( $N m$ )だから、その分散は $0$ 。分散を分解すれば、共分散が負の値として決まってしまう。

意味を考えれば当然だ。1つ大きい値を引けば、残りには小さい値が多く残る。だから $X_{i}$ と $X_{j}$ は互いに引っぱり合い、共分散が負になるのである。

公式

V (i = 1 \sum n X_{i}) = i = 1 \sum n V (X_{i}) + i \neq = j \sum Cov (X_{i}, X_{j})

① (1) どの1つも母集団と同じ分布。 $i$ 番目に取り出される値を考える。無作為に取り出すのだから、母集団のどの値も、 $i$ 番目に来る確率は等しく $\frac{1}{N}$ である( $i$ が何番目かによらない)。

したがって $X_{i}$ の分布は母集団の分布そのもので

$E (X_{i}) = m, V (X_{i}) = σ^{2}$

② (2) 全部取ると和は定数。 $k = N$ とすると、取り出した値の集まりは母集団そのものだから、和は必ず

$X_{1} + X_{2} + \dots + X_{N} = N m$

これは定数である。定数の分散は $0$ だから

$V (X_{1} + \dots + X_{N}) = 0$

左辺を分解する。対称性からどの2つの共分散も同じ値 $c$ をとる。 $V (X_{i}) = σ^{2}$ が $N$ 個、共分散の項は $i \neq = j$ の順序対の個数 $N (N - 1)$ 個あるので

$N σ^{2} + N (N - 1) c = 0 ⟹ c = - \frac{σ ^{2}}{N - 1}$

負である。1つ大きい値を引けば、残りは小さい値に偏る。この引っぱり合いが、負の共分散として表れる。

③ (3) 標本平均の分散。 $\overset{ˉ}{X} = \frac{1}{k} i = 1 \sum k X_{i}$ だから

$V (\overset{ˉ}{X}) = \frac{1}{k ^{2}} V (i = 1 \sum k X_{i}) = \frac{1}{k ^{2}} {k σ^{2} + k (k - 1) (- \frac{σ ^{2}}{N - 1})}$

( $k$ 個の中の順序対は $k (k - 1)$ 個ある。) $\frac{σ ^{2}}{k}$ でくくると

$V (\overset{ˉ}{X}) = \frac{σ ^{2}}{k} (1 - \frac{k - 1}{N - 1}) = \frac{σ ^{2}}{k} \cdot \frac{( N - 1 ) - ( k - 1 )}{N - 1} = \frac{σ ^{2}}{k} \cdot \frac{N - k}{N - 1}$

④ (4) 数値で確かめる。 母集団 ${1, 2, 3, 4, 5}$ の母平均は $m = 3$ 、母分散は

$σ^{2} = \frac{4 + 1 + 0 + 1 + 4}{5} = 2$

$N = 5, k = 2$ だから

$V (\overset{ˉ}{X}) = \frac{2}{2} \cdot \frac{5 - 2}{5 - 1} = 1 \cdot \frac{3}{4} = \frac{3}{4}$

復元抽出なら $\frac{σ ^{2}}{k} = 1$ だったので、戻さないほうがばらつきは小さい。

まとめ: 非復元抽出では、取り出した値どうしがわずかに負の相関を持つ。そのぶん標本平均のばらつきは小さくなる。 $\frac{N - k}{N - 1}$ という因子(有限母集団修正)が、それを表している。検算もしやすい。 $k = 1$ なら $σ^{2}$ 、 $k = N$ なら $0$ で、どちらも当然の値になる。

発展。 世論調査を考えよう。 $1$ 億人の有権者から $2000$ 人を選ぶとき、 $\frac{N - k}{N - 1}$ はほとんど $1$ である。だから修正因子はほとんど影響せず、 $V (\overset{ˉ}{X}) \approx \frac{σ ^{2}}{k}$ になる。

つまり、精度を決めるのは標本の大きさ $k$ だけで、母集団の大きさ $N$ はほとんど関係がない。「 $1$ 億人を調べるのに $2000$ 人で足りるのか」という素朴な疑問への答えがここにある。 $1$ 億人だろうが $1$ 万人だろうが、 $2000$ 人調べたときの精度はほぼ同じになる。

逆に、 $k$ が $N$ に近い調査ではこの修正の影響が大きい。 $50$ 人のクラスから $40$ 人を選ぶなら $\frac{N - k}{N - 1} = \frac{10}{49} \approx 0.2$ で、ばらつきは復元抽出の $2$ 割ほどにまで縮む。ほとんど全員に聞いているのだから、当然といえば当然である。

答

(1) $i$ 番目に取り出される値は、どの値も等しく確率 $\frac{1}{N}$ でとるから、分布は母集団と同じ (2) $V (X_{1} + \dots + X_{N}) = 0$ を分解する (3) $V (\overset{ˉ}{X}) = \frac{1}{k ^{2}} {k σ^{2} + k (k - 1) (- \frac{σ ^{2}}{N - 1})}$ (4) $\frac{3}{4}$

別解

小さい例を総当たりして確かめる(苦手な人向け)。 (4)の場合を、公式を使わずに全部書き出してみよう。 ${1, 2, 3, 4, 5}$ から $2$ 個を選ぶ方法は $(2 5) = 10$ 通り。それぞれの平均は

$1.5, 2, 2.5, 3, 2.5, 3, 3.5, 3.5, 4, 4.5$

である(順に ${1, 2}, {1, 3}, {1, 4}, {1, 5}, {2, 3}, {2, 4}, {2, 5}, {3, 4}, {3, 5}, {4, 5}$ に対応する)。この $10$ 個の平均は $\frac{30}{10} = 3$ で、確かに母平均 $3$ に一致する(不偏性)。分散は

$\frac{( - 1.5 ) ^{2} + ( - 1 ) ^{2} + ( - 0.5 ) ^{2} + 0 ^{2} + ( - 0.5 ) ^{2} + 0 ^{2} + 0. 5 ^{2} + 0. 5 ^{2} + 1 ^{2} + 1. 5 ^{2}}{10} = \frac{7.5}{10} = \frac{3}{4}$

公式の値 $\frac{σ ^{2}}{k} \cdot \frac{N - k}{N - 1} = \frac{2}{2} \cdot \frac{3}{4} = \frac{3}{4}$ と一致した。ついでに復元抽出と比べてみる。復元なら $\frac{σ ^{2}}{k} = 1$ だから、非復元の $\frac{3}{4}$ より大きい。理由もはっきりしている。復元だと ${1, 1}$ や ${5, 5}$ のような極端な組が起こりうるが、非復元では同じ値を2回引けないので、平均が極端になりにくいのだ。

公式が本当かどうか怪しいときは、小さい例で総当たりする。手は動くが、確信が得られる。複雑な公式ほど、この習慣が役に立つ。

ポイント

非復元では $X_{i}$ どうしが独立でない。共分散の項が要る。
全部取ると和は定数( $V = 0$ )。ここから共分散 $- \frac{σ ^{2}}{N - 1}$ が逆算できる。
$V (\overset{ˉ}{X}) = \frac{σ ^{2}}{k} \cdot \frac{N - k}{N - 1}$ 。 $k = N$ で $0$ 、 $k = 1$ で $σ^{2}$ 。

よくある間違い

非復元でも $V (\overset{ˉ}{X}) = \frac{σ ^{2}}{k}$ だと思ってしまう。これは復元抽出(または母集団が非常に大きい場合)の式である。有限の母集団から戻さずに取るときは $\frac{N - k}{N - 1}$ を掛ける。
(2)で「 $X_{i}$ と $X_{j}$ は独立だ」と思い込む。戻さないのだから、先に引いた値は次に引ける値に影響する。独立ではないし、共分散も $0$ ではない。
$V (\overset{ˉ}{X})$ を求めるときに $\frac{1}{k ^{2}}$ を掛け忘れる。 $\overset{ˉ}{X} = \frac{1}{k} \sum X_{i}$ だから $V (\overset{ˉ}{X}) = \frac{1}{k ^{2}} V (\sum X_{i})$ である。

統計的な推測 最難関編の問題 全8問

問1なぜ n-1 で割るのか(不偏分散)

問題

方針

解答

別解

ポイント

よくある間違い

問22つの標本をどう合わせるのが最良か

問題

方針

解答

別解

ポイント

よくある間違い

問3引いたカードの最大値の期待値

問題

方針

解答

別解

ポイント

よくある間違い

問4無相関でも独立とは限らない

問題

方針

解答

別解

ポイント

よくある間違い

問5どちらが長持ちするか(正規分布の差)

問題

方針

解答

別解

ポイント

よくある間違い

問62つの一様乱数の和(面積で確率を測る)

問題

方針

解答

別解

ポイント

よくある間違い

問7二項分布の和はまた二項分布(再生性)

問題

方針

解答

別解

ポイント

よくある間違い

問8戻さずに取り出すと何が変わるか(有限母集団修正)

問題

方針

解答

別解

ポイント

よくある間違い

統計的な推測最難関編の問題全8問