高校物理基礎 測定と有効数字—単位と桁数をそろえて測定値の計算を仕上げる｜武蔵野個別指導塾

cmからmへの換算や末尾の0を例題でたどり、計算に役立てる測定と有効数字です。

よくあるのは、高校生が長さをcmで測り、mを使う式に換算前の数値をそのまま代入する場面です。数字は合っていても、単位を置き去りにすると答えの大きさが変わります。さらに電卓の表示を全部書くと、測っていない細かい桁まで確かな数字に見えてしまいます。単位をそろえて計算し、測定値が伝える桁数で結果を表すところまでが一連の作業です。

数字を入れる前に問われること

定期テストでは、まず接頭語を使った単位換算が出ます。例えばcmで与えた長さをmに直してから式に入れる型です。単位の文字を変えるだけではなく、同じ長さを表すように数値も変えます。

次に、測定値の有効数字を数え、積や商を指定された桁数で表す型があります。0.00450の先頭の0は小数点の位置を示しますが、末尾の0は測定値の桁を示します。最後に、測定値の和や差を求め、そろえる位置を判断する型があります。掛け算の桁数の規則と足し算の位の規則を混ぜないことが分かれ目です。

ここでは測定値の表し方と計算の丸めを扱います。測定誤差が計算結果へ伝わる詳しい式やグラフの読み取りには踏み込みません。学校の問題に丸め方や桁数の指定があれば、その指定を優先します。

測定値の桁と単位を見る

測定値は、目盛りなどから読み取った値です。器具や読み方には限界があるため、最後の桁には読み取りの不確かさが含まれます。有効数字は、先頭の0でない数字から、測定値として意味を持たせた最後の桁まで数えます。0も途中や末尾にあれば、その範囲に含めます。

図1のように、0.00450 mは4、5、0の3桁です。小数点の直後にある0は数える位置を示すためのもので、最初の有効数字には入りません。末尾の0を消して0.0045 mと書けば2桁になり、示す精度が変わります。4.50 × 10⁻³ mと書くと、係数の3桁が見やすくなります。

図1では色の付いた枠で有効な3桁を囲んでいます。10の累乗を使う表記では、係数を1以上10未満にして、その係数に有効数字を残します。例えば2.30 × 10³の係数は3桁です。2300とだけ書かれた場合は末尾の0がどこまで有効か読み取りにくいため、必要な桁数を累乗表記で明示します。

SI単位は量を共通の単位で表すための国際単位系です。長さのm、質量のkg、時間のsなどを使います。接頭語のcは10⁻²、mは10⁻³、kは10³を表します。小文字のmは単位としてはメートルですが、mmの先頭ではミリという接頭語です。文字の位置を見て読み分けます。

1 cm = 10⁻² m、1 mm = 10⁻³ m、1 km = 10³ mです。単位が小さくなれば同じ長さを表す数値は大きくなります。例えば1.20 mは120 cmです。逆に120 cmをmへ直すときは100で割ります。換算しても測定の精度が増えるわけではないので、元の有効数字は保ちます。

四捨五入では残す最後の桁の次を見て、0から4ならそのまま、5から9なら1を加えます。例えば6.274を3桁にすると6.27、6.278なら6.28です。計算の途中では余分な桁を保持し、最後に指定の位で丸めると、途中で丸めた影響を抑えられます。以下の問題では四捨五入を使います。

積や商は、問題に別の指定がなければ、測定値のうち有効数字が最も少ないものに合わせるのが基本です。一方、和や差では有効数字の個数ではなく、最後に意味のある桁の位を比べます。最も粗い位に結果をそろえます。単位換算の係数や、定義された個数などの正確な数は、測定値の桁数を制限するものとして数えません。

基本例題：面積の前に長さを換算する

長方形の薄い板の縦と横をそれぞれ12.4 cm、3.2 cmと測りました。板は理想的な長方形とし、厚さは考えません。面積をm²で求め、有効数字2桁に四捨五入してください。長さの正方向や対象の取り方で符号が変わる問題ではなく、2辺の正の長さを使います。

まず換算します。1 cm = 0.01 mなので、単位ごと式に書くと次の通りです。

12.4 cm = 12.4 × 0.01 m = 0.124 m

3.2 cm = 3.2 × 0.01 m = 0.032 m

図2のように、2辺を同じ単位にそろえてから面積を求めます。縦は3桁、横は2桁の測定値です。面積は積なので、答えは少ない方の2桁に合わせます。

面積 = 0.124 m × 0.032 m

= 0.003968 m²

= 4.0 × 10⁻³ m²（有効数字2桁）

0.003968の有効数字は3、9、6、8の順で、第3桁の6を見て第2桁の9を繰り上げます。したがって、2桁で表す係数は4.0です。末尾の0も有効数字に含めます。図2の2辺を掛けると0.003968 m²に戻り、最後の表示はその値を2桁に丸めたものです。

cmのまま掛ける方法でも確かめられます。12.4 × 3.2 = 39.68 cm²です。1 cm² = 0.0001 m²なので、39.68 cm² = 0.003968 m²となります。面積の換算係数は長さの係数を2回掛けたものです。cmからmへの係数0.01を面積にも1回だけ掛けると、100倍の誤りになります。

計算する前に、面積の単位も予想しておきます。長さと長さの積なのでm × mはm²です。答えにmと書いていたら、面積ではなく長さの単位になっています。cm²からm²へ直すと1辺あたり100分の1になるので、面積は10000分の1です。単位を先に書くと、数値の換算を忘れた場所を見つけやすくなります。

電卓に表示された0.003968の最後までを測定結果として残すと、元の横の長さより細かい桁まで確かだと受け取られかねません。途中の値としては保持し、答えの行で丸めます。丸めた答えを横の長さで割れば約0.125 mとなり、元の0.124 mに近い値に戻ります。丸めた後なので完全に一致する必要はありません。

差を取ってから掛けるとき

紙上で細い棒の左端と右端を同じ物差しで読み、それぞれ2.36 cm、8.5 cmと記録しました。両端の位置は右向きを正とし、棒はまっすぐで、右端が左端より右にあります。棒の長さを求めた後、別に測った幅1.7 cmを掛けて長方形の面積を求めます。長さはcm、面積はcm²で示し、四捨五入します。

位置の差は8.5 cm − 2.36 cm = 6.14 cmです。ただし右端の8.5 cmは小数第1位までの記録です。差の結果は最も粗い小数第1位に合わせ、長さの答えは6.1 cmとします。2.36が3桁、8.5が2桁だから機械的に2桁にするのではなく、そろえる位を先に見ています。この例では結果が2桁になりましたが、和や差が常に2桁になるわけではありません。

面積を求める際は、途中の差6.14 cmを保持して計算します。

6.14 cm × 1.7 cm = 10.438 cm²

幅は2桁、差は小数第1位までの精度で約6.1 cmです。面積は2桁に丸め、10. cm²と書く代わりに1.0 × 10¹ cm²と明示します。最後の0を有効な桁として示すためです。丸めた長さ6.1 cmを右端の位置の計算に戻すと、2.36 + 6.1 = 8.46 cmで、小数第1位に丸めれば8.5 cmです。

分かれ目は演算の種類です。差を出す段階では位をそろえ、積に進む段階ではその差の精度と幅の桁数を見ます。途中で6.1に丸めてから掛けると10.37となり、この例の最終結果は同じですが、別の数では早い丸めが最後の桁を変えることがあります。表示用の長さと計算に保持する値を区別してください。

間違いを数字と単位に戻して直す

誤答の1つは、0.00450の有効数字を6桁と数えることです。原因は小数点の位置を示す先頭の0まで測定の桁に入れることです。最初の0でない数字4から末尾の0までを数え、3桁に直します。末尾の0を消すと測定の表現まで変わるので、消さずに判断します。

図3のように、別の誤答として12.4 cmを12.4 mと置くと、長さが100倍になります。原因は単位の記号だけを変更したことです。12.4 cmに0.01 m/cmを掛け、0.124 mに直します。逆に0.124 mを100倍してcmに戻すと12.4 cmとなるので、換算前の値で確認できます。

さらに、2.30と0.4の和を2.70と書く誤りもあります。2.30 + 0.4 = 2.70は途中計算として正しいものの、0.4は小数第1位までです。和の答えは小数第1位に丸めた2.7です。図3の修正と同じように、元の記録がどの位まで示されているかへ戻って確かめます。

掛け算で最も少ない桁数を採用する規則を和にもそのまま当てると、位がずれることがあります。例えば12.3と0.45の和は12.75で、粗い小数第1位にそろえると12.8です。答えの有効数字は3桁になり、0.45の2桁に合わせるわけではありません。

手を動かす問題

次の測定値は示された最後の桁まで有効とします。指定された桁または位に四捨五入し、単位を付けてください。長さや時間は正の量です。問2と問4の物体はそれぞれ理想的な長方形、一定の速さで動く物体とします。

1. 長さ0.007080 mの有効数字は何桁ですか。また、この長さを有効数字を保ってmmで表してください。
2. 長方形のカードの縦を4.6 cm、横を2.15 cmと測りました。面積をcm²で、有効数字2桁で求めてください。
3. 同じ単位で記録した2つの長さ15.72 mと3.4 mの和と差を、それぞれ適切な位までmで求めてください。差は前者から後者を引きます。
4. 物体が1.50 m進むのに2.4 sかかりました。速さをm/sで有効数字2桁で求めてください。時間は正で、進む向きは一定です。

解答とたどり方

1. 先頭の0を除き、7、0、8、0を数えて4桁です。1 m = 1000 mmより、0.007080 × 1000 = 7.080 mmです。7.080 ÷ 1000 = 0.007080 mと戻せます。途中と末尾の0を残すと、元の4桁が保たれます。

2. 面積は4.6 × 2.15 = 9.89 cm²です。4.6が2桁なので、2桁に四捨五入して9.9 cm²です。丸め前の9.89を2.15で割ると4.6に戻ります。丸め後の9.9を割れば約4.60となり、元の辺の長さと丸めの範囲で整合します。

3. 和は15.72 + 3.4 = 19.12 m、差は15.72 − 3.4 = 12.32 mです。3.4 mの小数第1位が粗いので、答えは和19.1 m、差12.3 mです。丸め前の和から3.4を引けば15.72、差に3.4を加えても15.72に戻ります。丸め後はそれぞれ15.7 mとなり、元の値を同じ位で表したものに一致します。

4. 速さ = 道のり ÷ 時間 = 1.50 ÷ 2.4 = 0.625 m/sです。時間が2桁なので、2桁に四捨五入して0.63 m/sです。丸め前の0.625 m/sに2.4 sを掛けると1.50 mです。丸め後の0.63では1.512 mとなり、元の距離に近い値です。割り算で単位もm/sになることを確かめます。

最後に残す4行

単位をそろえ、量と数値を一緒に式へ入れます。 先頭の位置を示す0を除き、有効な最後の桁まで数えます。 積と商は少ない桁数、和と差は粗い位を基準にします。 途中の桁を保持し、最後に指定通り丸めます。

自分の説明で点検する

換算に迷うときは、同じ長さを小さい単位で表したら数値が大きくなるかを声に出して確かめます。桁数に迷うときは、先頭の0と測定の末尾の0に別の印を付け、それぞれの役割を説明します。答えだけ合っていても、末尾の0を落とした理由が説明できなければ、別の問題で精度を変えてしまうことがあります。

例えば桁数を答える問いで、10の累乗表記に直しても係数の末尾の0を残せるかを見ます。和の問いでは、小数点を縦にそろえて、どの位まで両方の記録があるかを指で示します。積の問いでは、元の測定値の桁数をそれぞれ数えてから、最後に丸める位置を決めます。異なる演算で判断の根拠を言葉にすると、どこで考えが変わったかを追えます。

個別指導では、まず換算前後の値を互いに戻せるかを確かめます。次に、式が積か和かを本人が区別し、どの測定値のどの桁を基準にするかを示します。誤答が出た場合は、計算ミスか、単位の付け替えか、丸める位の選択かを分けて見ます。測定値の最後の桁を守ると、答えが伝える情報もそろいます。