- ベストアンサー
計算に使うエクセルの数値の表し方について
初歩的な質問かもしれませんが… エクセルのセル間で、計算式や関数を使って計算を行うと、答えが6.10479547238…などと割り切れない小数になることが多いです。 これを、例えば小数点以下3桁で表示させるには、書式の表示形式を数値にして桁数を3で指定する方法と、ROUND関数を用いて引数を3にするやり方が考えられます。 この計算結果の数値を用いて、さらに別の計算を行う場合(例えば各計算結果の平均値を出すなど)、どちらのやり方で丸めたものを用いた方が正確でしょうか?
- みんなの回答 (3)
- 専門家の回答
質問者が選んだベストアンサー
0.12345と入力して、 (1)表示形式 0.123 → その値に1000を掛けると123.45 (2)round 0.123 → その値に1000を掛けると123 (1)は見かけだけが下3桁 (2)は実体も下3桁です。 正確性が最優先なら(1)ではないですか?
その他の回答 (2)
- 中京区 桑原町(@l4330)
- ベストアンサー率22% (4373/19606)
回答No.2
表示形式は見え方の工夫だから6.104と見えても実際の数値は6.10479547238です 一方、ROUND関数は切り捨てますから6.104は表示桁数をどんなに長くしても6.104です。
質問者
お礼
早々のお答えありがとうございました。 やはり表示形式で表した方が、真の値に近くなるのですね。
- char2nd
- ベストアンサー率34% (2685/7757)
回答No.1
正確性を求めるならば前者ですが、あとから手計算でチェックするのであれば後者の方が適切です。
質問者
お礼
さっそくのお答え、ありがとうございます。 やはり前者の方が正確ですか。 本当に丸めてしまうと誤差が入ってしまい、計算を繰り返すうちにその誤差が大きくなるようで気になったのです。 手計算のチェックと言っても、真の値でなければ意味がなくはないですか?
お礼
アドバイス、ありがとうございます。 丁寧な説明で、よくわかりました。 やはり(2)だと計算を繰り返すうちに誤差が大きくなりそうですね。