有効数字とは、JIS K0211により次のように定義されている。
「測定結果などを表わす数字のうちで位取りを示すだけのゼロを除いた意味のある数字」
有効数字とは、測定器で測定しうる量の有効な桁数の数字である。
有効数字には最小桁に誤差が含まれる。48が有効数字なら、8には誤差が含まれ、あいまいさがあるが、その上の桁の4は信頼できる。
より細かくは、有効数字48と表わした量 a は次のことを意味する。
47.5 ≦ a ＜ 48.5
実験では測定器ごとに得られる測定値の有効数字を把握しておかなければならない。デジタル表示の測定器の場合、表示の最小桁まで測定感度があり、最小桁まで有効数字と見なせる。ただし、取扱説明書などで感度を確かめる必要がある。
アナログ表示では最小目盛りの1/10までを有効数字とする
例えば最小目盛りが１mmの物差しで長さを測るなら、0.1mmまで読みとる。
ただし、アナログ表示でも、特に指針を使ったメーターなどでは、そのメーターの感度を確かめ、その感度の桁までを有効数字とする。
しかし、測定器の感度が高いからといって、測るものによっては、値が非常にゆらいで、測定器の感度いっぱいまで有効とは考えられない場合もあるので、こんなときは、最終結果を出す段階で、どの桁数まで意味があるか、実験条件に応じて判断し直す必要がある。有効数字は最小桁に誤差、あいまいさが含まれる。
2. 測定値の計算
計算するとき、例えば平均値などをとると、計算上有効桁数よりも下の桁まで数字が出てくるが、データとしてレポートなどに表示するときはあくまでも有効数字である。しかし、その平均値などを使ってさらに計算を進める過程では、計算の途中で有効桁数まで四捨五入したりせず、桁数の大きな数値のまま計算する。最後に出てきた答えに対して、初めて有効桁数に合わせて四捨五入する。
筆算するとき、計算の途中では有効数字よりも1桁分だけ桁数の大きな数で計算する。電卓などの場合は、計算途中の値は電卓での計算値をそのまま使っていけばよい。
いくつかの測定器で有効桁数が異なるとき、その測定データを組み合わせて計算する場合、和差と積商とで大まかな違いがある。
3. 有効数字の表記
有効数字は科学表記で書く。例えば1より小さい数で、3桁の有効数字の結果を 0.0000543 等と書くとわかりにくいので、5.43×10-5とすると、有効桁を明示することができる。反対に 5.43×105 (有効数字3桁)を 543000(有効数字6桁)などと書いてはいけない。
測定誤差の計算をするとき、計算上は、測定誤差の有効桁数は、測定結果代表値自体の有効桁数と同じだが、表示をするときは代表値の有効桁数までしか書かない。なぜなら、代表値の精度はもともとそこで切れるのだから。例えば103.1±0.235などではなく、103.1±0.2となる。
4. 和・差の計算
和・差の計算では小数点以下の少ない桁数まで求める
不確定な数字を下線で示めす。
例１ 1.23 + 5.724
1.23 + 5.724 = 6.954 = 6.95
1.23 は3桁の有効数字で、小数点以下2桁目が不確定なので、答えの4桁目は有効数字にならない。
例2 4.25 - 4.20
4.25 −4.20 = 0.05 = 5×10-2
もともと3桁の有効数字どうしの計算なのに、引き算によって1桁の有効数字になってしまった場合である。これを桁落ちという。
例3 5.50 + 6.00
5.50 + 6.00 = 11.50
これは足し算によって有効数字の桁数が大きくなる場合である。しかし、
1.0 + 1.0 + 1.0 + 1.0 + 1.0 + 1.0 + 1.0 + 1.0 + 1.0 + 1.0 = 10
のような場合、積算によって少数第1位の不確かさが累積すると判断される場合は有効数字の桁数も大きくならないと判断すべきである。実際の計算では単位が入ってくるので、一層の注意が必要である。
例4 1.545g + 52mg
1.545g + 52mg = 1.545g + 0.052g = 1.597g
のように単位をそろえて、どの桁に不確かさがあるのか注意する必要である。上の例は間違えにくいですが、次の例は間違えやすい。
例5 1.545g + 55mg
1.545g + 55mg = 1.545g + 0.055g = 1.600g
5. 積・商の計算
積・商（逆数の積なので同等）の計算で、異なる桁数の有効数字で計算する場合、結果の有効数字は、
もとの有効数字のうち最も桁数の小さい桁数まで求める。
例1. 4.23 × 0.38
4.23 × 0.38 = 1.6
これは乗法を分解してみれば分かる。
4.23 × 0.38 = 4.23 × (0.30 + 0.08) = 4.23 × 0.30 + 4.23 × 0.08
= 1.269 + 0.3384 =1.6074
⇒ 4.23，0.38 をそれぞれａ，ｂとすると、それぞれの数の取りうる範囲は
4.225 ≦ａ ＜ 4.235， 0.375≦ ｂ ＜ 0.385 である。
4.225×0.375 ≦ ａｂ ＜ 4.235×0.385 ∴ 1.584375
≦ ａｂ ＜ 1.630475 よって 1.6074 → 1.6
有効数字がN桁の数字の逆数は、やはりN桁の有効数字になるが、誤差の大きさが見積もれる場合には、具体的に逆数の値の誤差の大きさも計算してみて有効数字の桁数を決めるべきである。
積・商の計算では、結果を、最も小さな桁数の有効数字に合わせる。
6. 定数、物理定数が入る計算
実際の計算では、データだけの演算ということはなく、定数や、精密な値が知られている物理定数などが入ることが多い。これらの桁数は有効数字の判定には直接関係しない。
ただし、πの値や、物理定数を使う場合には、計算する有効最小桁＋1 の値を使って計算する。
4πr2 = 4×3.1416×(2.674m)2 = 8.985m2 ⇒ 2.674は4桁だから、π＝3.1416は4＋１＝5桁とする。
上の計算で、最初の 4 は1桁の有効数字というわけではない。πの値は距離 r の有効数字桁数より1桁大きくとる。πは定数だが、計算には途中の桁までしか使わないので、桁数の大きな有効数字のように取り扱かう。数値が複数ある場合の定数は、数値の中の最小有効桁＋1の桁の値を使う。
数値の丸め方(JIS Z 8401)
数値を小数第n位に丸めようとするとき、一般には小数第(n+1)位の数字によって四捨五入する。しかし単純に四捨五入をすると数値を大きく見積もる結果になることがある。切捨てと切上げの割合を均等にするために,小数第(n+1)位以下の数値を見て判断する方法がJISで定められている。
条件1 小数第(n+1)位の数字が 5 以外のときは、通常の四捨五入をする。
条件2 小数第(n+1)位の数字が 5 のとき、小数第(n+2)位以下の数値が明らかに0でなければ通常の四捨五入により切り上げる。
条件3 小数第(n+1)位の数字が 5 で、小数第(n+2)位以下の数値が不明なとき、あるいは0であるときは、次の判断による。
小数第n位が偶数のとき、切り捨てる。小数第n位が奇数のとき、切り上げる。
解説例として測定値23.45を小数第2位で丸める場合について考えてみる。
小数第2位が5であり、小数第3位以下が不明なので条件3に該当する。したがって23.4としなければならない。
単純に四捨五入をして23.5とするとどのような問題があるか。
23.45は数直線上の1点ではなく、23.445〜23.455の呼称である。これを23.445〜23.450と23.450〜23.455に分けて考える。
後者は小数第2位以下が5よりも大きいので四捨五入で切り上げてよい。一方、前者の小数第2位以下は5よりも小さいのであるから本来切り捨てなければ
ならない。これをどちらも切り上げては数値を大きく見積もる可能性が大きくなってしまう。 しかし、現実には測定値23.45を見ただけではどちらに該当するのかが分からない。そこで丸めようとする桁のひとつ上、この場合小数第1位を利用することにする。偶数なので切り捨てることになり、最終結果は23.4となる。
注意 丸めの操作は1段階だけ行わなければならない。同じ数値に対して２段階以上行うと精度が落ちてしまうことがある。
(例）7.345 を有効数字2桁に丸めると 7.3。これを２段階で丸めると
（第1段階）7.35→（第2段階）7.4 となって精度が落ちることになるので注意が必要である。
戻る