excelと電卓で計算の結果が異なって表示される

質問

=1000/12*0.012

excel2010で上記のように入力した場合、計算結果は「1」と表示されます。
しかし、電卓で計算した場合は、「0.9999999999」と表示されます。
電卓が正しいのですが、excelで正しく計算結果を表示することは可能でしょうか。

（表示形式等は変更してみましたが正しく表示されません）

回答No.5

nana76 · ベストアンサー

みなさまが仰るように、excelが正しいです。
これは、電卓もexcelも使うことなく、単純に正しいと分かります。

たとえば、「1000/12*12」としましょう。
答は「1000」です。
割る数字と、かける数字、同じ数字ですよね。
それであれば、答は「割ったりかけたりする前と同じ」になります。

では、「1000/2*0.002」としましょう。
答は「１」です。
では、「1000/5*.005」としましょう。
答は「１」です。

割る数字とかける数字、同じ数字の桁違いですよね。
つまり、1000に対して桁だけを変更させる意味になります。
この場合、かける数字のほうが0.001の桁になっている為、1000→1に変わります。

理屈的にはこういう考え方になります。
納得いきますか？

電卓の場合は、一旦「1000/12」という数式の答を出して、それに「0.012」をかける。という計算式になってしまいます。
つまり、
1000/12＝83.33333
83.3333×0.012＝0.99999
という感じでしょうね。

だから、計算の理屈が若干違います。
数学のテストなどで、質問文の計算式が出てきた場合、正解とされるのは「１」の方です。

お礼

みなさん早速の回答ありがとうございました。
excelと電卓の違いが理解できました。

実際の計算はもう少し複雑なのですが、給与計算をしていて、個別計算した場合とexcelの計算式で一度に値を求めた場合で結果が異なっていたので、質問させて頂きました。

excelは理解できましたので、給与計算時のルールを確認して、そのルールにあった計算方法をします。
皆様ありがとうございました。

回答No.4

DarkMoon

四則演算のルールに従うと、エクセルの計算結果は合っています。

電卓で計算した場合、1000/12の計算をしたときに
切り捨ての誤差が入ってしまうので、電卓での計算の方が間違っています。

回答No.3

kobutaro-

電卓が正しい？

俺、算数の勉強出直して来ます・・・。

回答No.2

sknbsknb2

0.012=12/1000ですよね？
(1000/12)*(12/1000)=1ですよね？

「電卓が正しい」というのが間違っていて、Excelの結果は正しいと思いますけど。

回答No.1

mshr1962

＞電卓が正しいのですが、excelで正しく計算結果を表示することは可能でしょうか？
1000/12=1/0.012なので、正しいのはEXCELの方ですが．．．

計算時の有効桁数とまるめ処理の問題です。
有効桁数の切り捨てを行えばいいので
=ROUNDDOWN(ROUNDDOWN(1000/12,9)*0.012,9)
とすれば0.999999999になります。
※小数点以下10桁以上だと駄目なのでご注意ください。