四捨五入で桁が変わる場合の表記方法

質問

仕事で、あるデータを取り扱っています。

その際に、四捨五入して計算結果を出そうとしているのですが、その場合の表記方法に悩んでいます。

例えば、３桁で表記したい場合、『11.54 → 11.5 、10.36 → 10.4』とかにします。（敢えて書くまでもないですが・・・。）

しかし、そのデータが、『9.995』だった場合は、この結果を「３桁で表示させたい」と考えたとき、『10.0』とするのと『10.00』とするのは、どちらが正しいのでしょうか。

たまたま他の数値が上に上げたように『XX.X』なので、気分的には『10.0』の方が見栄えがよくていいのですが、例えば有効数字とかの数学的な見方からすると、どうでしょうか。（この数字を出すために用いた数字に３桁のものがあるため。）

また、『9.994・・・』という数字を四捨五入して『10.0』とするのは反則でしょうか。
（３桁での表示（４桁目で四捨五入）という考えから）

ご意見お聞かせください。 m(_ _)m

回答No.2

cha-chako · ベストアンサー

こんにちは！
設計として、数値を扱ってる立場での考え方で申し上げます。
出てきた数値が、10.0と10.00ではまったく違って捉えます。
10.0が10.09をネグった（有効数字）ものなのか、10.04を四捨五入したものか、が問題になる場面が多々あります。
他の数値との関連で、根拠が明確になっていれば、良いと思われますので、
ご質問の例では「10.00」が実際に扱われる時に、小数点以下2桁を必要とするのかどうかで変わります。
あくまで有効数字・・・・
ということなら、10.0で良いのではないでしょうか。

ちなみに、実際に解析で使用するときには、現在有効数字4桁で使用してますので、
＃1さんの言われる表記で扱っています。
例でいえば、9.994→9.994×10^0　　です。

回答No.3

chicago911

回答は今までの方のものであっています。気になるのは、有効数字に従うのであれば、四捨五入はいいんですが、

＞この数字を出すために用いた数字に３桁のものがある

となると、この有効数字 3 桁の数値に対し、四則演算を一回行なった結果でてくる数値の有効数字は 2 桁なんですが。そこで 3 桁にこだわっても数学的には意味はなく、この場合でしたら、2 桁までが意味があって、その後は、3 桁にしようと 4 桁にしようと、全く同じことなんですが。

回答No.1

marumets

こんにちは。

有効数字を考えた場合は、指数表示を使って次のように表記するのが良いように思います。

11.54→1.15×10^1
10.36→1.04×10^1
9.995→1.00×10^1
9.994→9.99×10^0