- ベストアンサー
Excelで 61307.598 と入力すると変な数字がでる
Excelで61307.598と入力すると、61307.5979999999っていうのが表示されます。 数式で =1.2-1.1 が0.1にならないというのは、よく聞く話ですがあくまでも演算の答えが合わないとのことです。 http://support.microsoft.com/kb/78113/ja http://support.microsoft.com/kb/48606/ja これを単なる入力された数値にあてはめて考えても良いのでしょうか？
- wataruseken
- お礼率86% (192/222)
- オフィス系ソフト
- 回答数1
- ありがとう数1
- みんなの回答 （1）
- 専門家の回答
質問者が選んだベストアンサー
＞これを単なる入力された数値にあてはめて考えても良いのでしょうか？ 質問は何ですか？ 何を回答すればよいのでしょうか？ コンピュータは内部的には基本的に二進数で計算をしています 従って十進数で入力した値でも、二進数に変換して保持されますが小数点以下の数値がある場合は近似値にしかなりません。 これは計算式であっても入力された値であっても同じことです。 これで回答になっていますか？
お礼
回答ありがとうございます。 計算された結果だけではなく入力された数値に関しても同じ・・ということですね。 上記サイトでは、数値をバイナリで表現して計算する場合との書き方がしてありますが、入力した数値をバイナリにする段階で誤差が出てしまうということですね。