高校情報I 回帰直線と残差—予測値との差から直線の当てはまりと使える範囲を読む｜武蔵野個別指導塾

箱数と梱包時間の表から予測値を求め、観測との差と外挿の限界を回帰直線で読みます。

よくあるのは、高校生が箱数から引いた直線上の予測値を、実際に測った時間と同じ確かさで答えるという場面です。直線は複数の記録を要約した道具で、個々の観測値そのものではありません。学習用に作った梱包記録を使い、直線を求めて残差を元の表に戻します。

出方には、表から傾きと切片を計算する型、予測値と残差の表を埋める型、観測範囲の外で使った予測の限界を説明する型があります。計算が合っていても、その数が観測なのか予測なのかを取り違えれば、結論は変わります。

直線と観測値の間にあるもの

箱数を x 箱、梱包所要時間を y 分とし、予測値を ŷ 分と書きます。切片を含む回帰直線は ŷ = ax + b です。a は箱数が1箱増えたときの予測時間の増分で、単位は分/箱です。b は x = 0 における直線上の予測値で、単位は分です。0箱の作業を観測していなければ、切片を実際の準備時間と断定することはできません。

残差は観測値 y から予測値 ŷ を引いた y − ŷ と定めます。正なら観測値が直線の上、負なら下です。残差が0ならその点は直線上にあります。予測値から観測値を引くと符号が逆になるため、計算する前に引く向きを書いておきます。

図1のように、同じ箱数で観測値と予測値を比べます。横の距離ではなく、時間の軸に沿った差が残差です。

図1の観測点は直線より上にあり、残差は正です。記録の各行でこの差を求めると、直線がどこで高め、どこで低めの予測をしたかを追えます。

切片ありの最小二乗法は、各残差の二乗を足した値が最小になる直線を選びます。正と負の残差をそのまま足すと打ち消し合うので、二乗して大きなずれも数えます。二乗和が小さいほど、同じデータに対する縦方向のずれが小さいという意味です。ただし、そのことだけで未来の予測が正確だとは言えません。

計算では、x の平均を x̄、y の平均を ȳ とし、傾き a を「偏差の積の合計 ÷ x の偏差の二乗の合計」で求めます。切片は b = ȳ − a x̄ です。平均はそれぞれの合計を組の数 n で割ります。分子と分母を同じ n で割って共分散と分散にしても比は同じです。x がすべて同じなら分母が0になり、この式では傾きを決められません。

傾きが正なら箱数が増える方向に予測値も増えますが、箱を増やしたことが時間増加の原因だと、この表だけで証明できるわけではありません。作業の内容や担当者が違えば、同じ箱数でも時間は変わり得ます。直線の当てはまりと、原因についての判断は分けて考えます。

基本例題：3組から直線を作る

学習用に、同じ条件で箱数 x と所要時間 y を次のように記録したとします。切片ありの最小二乗直線を求め、各行の予測値と残差を分単位で求めてください。丸めずに答え、残差は観測値から予測値を引きます。

まず x̄ = (1 + 2 + 3) ÷ 3 = 2 箱です。 y の平均は ȳ = (3 + 6 + 6) ÷ 3 = 5 分です。 各偏差を対応した行ごとに計算します。

偏差の積の合計は 2 + 0 + 1 = 3 です。 x の偏差の二乗の合計は 1 + 0 + 1 = 2 です。 傾き a = 3 ÷ 2 = 1.5 分/箱です。 切片 b = 5 − 1.5 × 2 = 2 分です。 したがって回帰直線は ŷ = 1.5x + 2 です。

各 x を代入してから、その行の観測値を照合します。図2のように、直線が真ん中の点を必ず通るわけではありません。

図2の各点と表を戻して比べます。1箱では 3.5 − 0.5 = 3 分、2箱では 5 + 1 = 6 分、3箱では 6.5 − 0.5 = 6 分となり、元の観測値に一致します。残差の二乗和は 0.25 + 1 + 0.25 = 1.5 分²です。切片を含むこの直線は平均の点 (2, 5) を通りますが、それは実際の1行が (2, 5) だったという意味ではありません。

箱数が2箱の予測値は5分ですが、観測値は6分です。予測値を実測値として書き換えず、両方を示すと差が残ります。また、同じ直線を使っても、次の2箱の作業が必ず5分で終わるとは限りません。

標準例題：残差で候補を比べる

別の学習用記録を (箱数, 時間) = (1, 4), (2, 5), (3, 8) とします。候補Aを ŷ = 2x + 1 とし、候補Bを ŷ = 2x + 2 とします。両候補の各残差と残差の二乗和を求め、小さい方を答えてください。時間は分、箱数は箱、丸めなしとします。

Aの予測値は順に3、5、7分です。 Aの残差は 4 − 3 = 1、5 − 5 = 0、8 − 7 = 1 分です。 Aの二乗和は 1 + 0 + 1 = 2 分²です。 Bの予測値は順に4、6、8分です。 Bの残差は 4 − 4 = 0、5 − 6 = -1、8 − 8 = 0 分です。 Bの二乗和は 0 + 1 + 0 = 1 分²です。 したがって、この2候補ではBの方が小さくなります。

各予測値に残差を足すと、AもBも順に4、5、8分に戻ります。Bがこの2候補の中でよいという結論から、直ちにBが最小二乗直線だとは言えません。候補以外の直線も調べる必要があるからです。

実際に平均は x̄ = 2、ȳ = 17/3 です。偏差の積の合計は4、x の偏差の二乗の合計は2なので、傾きは2です。切片は 17/3 − 2 × 2 = 5/3 です。最小二乗直線は ŷ = 2x + 5/3 となり、予測値は 11/3、17/3、23/3 分です。残差は 1/3、-2/3、1/3 分で、予測値に戻して足すと元の4、5、8分になります。二乗和は 1/9 + 4/9 + 1/9 = 2/3 分²で、Bの1分²より小さい値です。

途中で 5/3 を小数に丸めると、その後の残差も少し変わります。分数のまま計算し、問題が小数を求めたときだけ最後に指定された桁へ丸めます。比較する候補には同じ観測値を使い、違う表の二乗和をそのまま優劣として読まないようにします。

発展例題：範囲の内と外を分ける

別の条件の記録を (2箱, 5分), (4箱, 9分), (6箱, 13分) とします。切片ありの最小二乗直線を求め、5箱と10箱の予測値を分単位で答えてください。その上で、どちらが観測範囲の外か、予測を利用するときの注意を述べてください。丸めは不要です。

x̄ = (2 + 4 + 6) ÷ 3 = 4 箱です。 ȳ = (5 + 9 + 13) ÷ 3 = 9 分です。 x の偏差は順に -2、0、2 箱です。 y の偏差は順に -4、0、4 分です。 偏差の積の合計は 8 + 0 + 8 = 16 です。 x の偏差の二乗の合計は 4 + 0 + 4 = 8 です。 傾きは 16 ÷ 8 = 2 分/箱です。 切片は 9 − 2 × 4 = 1 分です。 直線は ŷ = 2x + 1 です。

元の3行へ代入すると予測値は順に5、9、13分で、残差は各0分です。5箱では 2 × 5 + 1 = 11 分、10箱では 2 × 10 + 1 = 21 分です。5箱は観測された箱数の最小2箱と最大6箱の間にあり、10箱は範囲外です。後者のように観測範囲を越えて直線を延ばすことを外挿といいます。

残差がこの3行で0でも、10箱で作業方法が変わる可能性は残ります。5箱も実際には観測していないので、11分は確定値ではありません。箱の種類や作業条件が変わった場合にも、元の直線をそのまま適用できるとは限りません。必要なら同じ条件で新たに記録を集め、観測値と予測値を比較します。

予測は数式への代入で得られますが、その数式が妥当な範囲は代入計算だけでは保証されません。特に切片を読むときも、0箱が観測範囲外なら同じ注意が必要です。数値として求められることと、現場の意味を与えられることを区別します。

誤答を直す：差の向きを逆にしない

箱数4箱の行で観測値が11分、直線からの予測値が9分だとします。「残差は 9 − 11 = -2 分」とした答えは、引く順序が逆です。予測が観測より小さいのに負と書くと、直線の上にある点を下にある点として扱うことになります。

図3のように、観測値から予測値を引けば 11 − 9 = 2 分です。正の残差は、この行で予測が観測を2分下回ったことを表します。

図3の右側の式に戻り、予測値9分に残差2分を足すと観測値11分になります。逆向きに引いた値を足しても11分には戻らないので、符号の点検に使えます。

もう一つの誤りは、残差の合計が0なら全点が直線上だと考えることです。基本例題の残差は -0.5、1、-0.5 で合計0ですが、3点とも残差は0ではありません。正と負が打ち消すためです。個々のずれを見るには各行を読み、全体の大きさを見るには二乗和を調べます。

切片ありの最小二乗直線では残差の合計が0になりますが、これは各予測が正確であることを意味しません。また、傾きだけを見て当てはまりの良さを決めることもできません。同じ傾きでも点が直線から大きく離れている表を作れるからです。

練習問題

いずれも学習用の記録です。時間は分、箱数は箱とし、残差は観測値から予測値を引きます。分数は約分し、指定がない限り丸めずに答えてください。問題を先に解いてから、後の解答と元の条件を照合しましょう。

1. 箱数と時間の組が (1, 2), (2, 4), (3, 6) です。切片ありの最小二乗直線と各残差を求めてください。
2. 直線 ŷ = 3x + 1 に対して、箱数2、4、5の観測時間がそれぞれ8、12、17分です。各予測値と残差、および残差の二乗和を求めてください。
3. 箱数と時間の組が (1, 5), (2, 7), (3, 6) です。切片ありの最小二乗直線と、3行の予測値と残差を分数で求めてください。
4. 箱数3、5、7のデータから得た直線を ŷ = x + 4 とします。箱数6と12の予測時間を求め、外挿に当たる方と、その予測を確定値と扱えない理由を答えてください。
5. 3行の箱数がいずれも4で、時間が6、8、10分です。傾きの式の分母を求め、この表から切片ありの最小二乗直線を1本に決められるか説明してください。

練習の答えと照合

1. x̄ = 2、ȳ = 4 です。x の偏差は -1、0、1、y の偏差は -2、0、2 なので、積の合計は4、x の偏差の二乗の合計は2です。傾きは2分/箱、切片は 4 − 2 × 2 = 0 分です。直線は ŷ = 2x です。予測値は2、4、6分、残差は順に0、0、0分です。各予測値に残差を足すと元の3行の時間に戻ります。

この表では観測した3点が直線上にあります。それでも観測していない箱数や別の条件で、必ず同じ関係になるとは限りません。観測した範囲での一致と、その先での予測を区別します。

2. 予測値は順に 3 × 2 + 1 = 7、3 × 4 + 1 = 13、3 × 5 + 1 = 16 分です。残差は 8 − 7 = 1、12 − 13 = -1、17 − 16 = 1 分です。二乗和は 1 + 1 + 1 = 3 分²です。7 + 1 = 8、13 − 1 = 12、16 + 1 = 17 となり、各行の観測時間に戻ります。

負の残差の行では予測が観測を上回っています。二乗和を求めると符号は消えるため、どちらに外れたかを知りたいときは残差表そのものを見ます。

3. x̄ = 2、ȳ = 6 です。x の偏差は -1、0、1、y の偏差は -1、1、0 です。積の合計は1、x の偏差の二乗の合計は2なので、傾きは 1/2 分/箱です。切片は 6 − (1/2) × 2 = 5 分、直線は ŷ = (1/2)x + 5 です。

予測値は順に 11/2、6、13/2 分です。残差は 5 − 11/2 = -1/2、7 − 6 = 1、6 − 13/2 = -1/2 分です。予測値と残差を足すと5、7、6分に戻ります。残差の合計は0ですが、各行の差は残っています。

4. 6箱の予測は 6 + 4 = 10 分、12箱は 12 + 4 = 16 分です。観測された箱数の範囲は3箱から7箱なので、12箱の予測が外挿です。多くの箱を扱うときに作業の進め方が変わるかもしれず、元の直線がそのまま成り立つ保証はありません。6箱も実測ではないため、10分を確定値とすることはできません。

直線へ戻すと、6箱で10分、12箱で16分という計算は条件に合います。ただし式への一致は、実際の時間との一致を示すものではありません。

5. x̄ = 4 なので、各 x の偏差は0です。二乗の合計も 0 + 0 + 0 = 0 となり、傾きの式は0で割る形になります。この式では傾きを決められません。実際、x = 4 で予測値を時間の平均8分にする直線は、傾きを変えても切片を調整すればいくつも作れます。

例えば ŷ = 8 と ŷ = x + 4 は、どちらも4箱で8分を予測します。残差はそれぞれ -2、0、2分で、予測値に戻して足すと6、8、10分です。この表だけでは傾きの異なる直線を区別できません。

覚えておくこと

• 傾きは箱数1箱あたりの予測時間の変化、切片は0箱での予測値です。
• 残差は観測値 − 予測値で、正なら観測点が直線の上です。
• 最小二乗直線は残差の二乗和を小さくする直線です。
• 予測値と残差を足して、各行の観測値に戻るか確かめます。
• 観測範囲外への外挿も範囲内の予測も、実測値の保証ではありません。

つまずきを見分ける

予測値は出せても残差の符号が合わない場合は、観測値と予測値を同じ行に並べ、差を足して観測値に戻るか確認します。傾きが出せない場合は、偏差の積と x の偏差の二乗を別の列にし、対応する組を崩していないか見ます。分母が0なら計算を続けず、箱数に変化があるかを点検します。

個別指導では、まず元表から平均を出すところを口頭でたどり、次に1行の予測値と残差を本人の式で書き直します。最後に、直線を使う箱数が観測範囲の内か外かを示し、予測と実測の違いを説明できるかを確かめます。箱数と時間を結ぶ直線には、各行の差と使える範囲が伴います。