有効桁数について

質問

たとえば整数の3桁割る4桁の場合の数値についてです。
レポートの表に数値を記入するとき，たとえば0.921，0.866，0.995，1.331と計算結果が続くとき
小数点以下の桁数を同じにしてはダメですか？
やはり1.331は1.33と記入しないとダメなのでしょうか？私は小数点以下の桁数をそろえて記入したところその理由を問われたのですが，答えられませんでした．小数点以下の桁数をそをえてもいい時のわけを教えてください．　　　大変困ってます！！！

回答No.1

WiredLogic · ベストアンサー

小数点以下の桁数を揃えること自体には、全く意味はありません。

0.0023,15.3027などと揃えなければならない場合を考えれば、不合理なのは、明らかでしょう。

ただ、挙げておられる例の場合だと、その前後も、1周辺の値しか出てこないことが
明らかだという前提で、小数点以下の桁数を(結果的に)揃えることには意味がある
かもしれません。その場合の理由は、小数点以下の桁数を揃えたい、などでは
勿論ダメで、例えば、千分の一の位の1の違いは、1周辺のどの値でも、0.1%前後と
同程度だから、のように、誤差率を揃えるのような方向の主張をすれば、
認めてもらえるかもしれません。

回答No.2

misawajp

有効数字の理解が表面的過ぎるからです

小数点以下の桁数を揃えるのは加減算の時ですそれも一番少ない桁数に合わせます「
乗除算の場合には最上位桁からの桁数です

判り難い書き方になりましたが有効数字が理解できていれば判るはずです