余談ですが、たぶん、そちらが物理の問題を解いてるときに
「0.5kg」を「0.50kg」や「0.500kg」というふうに表記していることがあったと思います。

そんとき、「全部0.5kgでいいじゃねぇか、なんでまどろっこしく書くんだよ」
って思いませんでしたか？

実はこれ、有効数字が絡んでいるんです。

0.50は有効数字2桁、0.500は有効数字3桁ですね。

さっきの説明で行くと、有効数字は m+1番目を四捨五入した値ですので

0.495 ≦ 0.50 ＜ 0.505
0.4995 ≦ 0.500 ＜ 0.5005

であるのは、お分かりでしょうか。

要するに、0.500の方がより0.5に近い値、精密な値だということです。

人間は、重さをきっかり完璧に正確に量ることはできません。
その他のものもムリでしょう。

電子てんびんがあるじゃないかと思ってるかもしれませんが、
あれだって、小数点以下第何位かを四捨五入した値
つまり、有効数字に過ぎないんです。

だから、もしかしたら、
あなたが肉屋で肉を買うときに
もしかしたら、0.006g損してるかもしれない。
0.003g得してるかもしれない。

でも、そんなことは普通気にしませんよね。
2kg、10kgからすれば、取るに足りない小さな数字です。

数学なんかは想像上の世界なので、この小さな数字でも取り扱いますが、
物理・化学では、こういう取るに足りない値は、無視して考えます。

このことを近似と言います。
有効数字はこの近似の1つなんですね。

取るに足りないといっても

「1.00000001」の「0.00000001」は取るに足りませんが
「0.00000001」の「0.00000001」は重要ですよ。

今までの話を踏まえれば分かるとは思いますが…

#日記広場：勉強