- ベストアンサー
エクセルの小数点以下認識
エクセルは表計算ソフトなわけで、財務関数とかも入っているので利息の計算なども容易なのでしょうが、割り切れない数字を一体小数点以下何桁まで認識しているのじょうか。数値バーで表示されるレベルなのでしょうか。
- オフィス系ソフト
- 回答数5
- ありがとう数4
- みんなの回答 （5）
- 専門家の回答
質問者が選んだベストアンサー
Excelの精度は15桁です。 > 割り切れない数字を一体小数点以下何桁まで認識しているのじょうか。 数値の全体で15桁です。 10000000÷3=3333333.33333333 1000÷3=333.333333333333 1÷3=0.333333333333333 0.00001÷3=0.00000333333333333333 浮動小数点という形式で数値を保持するので、小数点以下という考え方はなじみません。
その他の回答 (4)
- koko88okok
- ベストアンサー率58% (3839/6543)
下記URLのページをご参照下さい。 処理できる正の最大値 1.79769313486231E+308 処理できる正の最小値 2.229E-308 だそうです。 「Excel の仕様および制限」 http://office.microsoft.com/assistance/hfws.aspx?AssetID=HP051992911041&CTT=3&Origin=HP052091791041 「Excel2007の仕様及び制限」 http://www.excel-img.com/system01.html
お礼
有難う御座います。とても役立つサイトですね。助かりました。
- Hachi5592
- ベストアンサー率36% (252/698)
参考にしてください。 http://support.microsoft.com/kb/78113/ja
お礼
有難う御座いました。マイクロソフトの製品の詳細はやはり本家なのですね。
- n4330
- ベストアンサー率24% (215/872)
ヘルプで「数値の入力に関するヒント」を検索して下さい。 Excel では 15 桁までの精度の数値が格納されます。数値の桁数が 15 桁以上の場合、残りの桁はゼロ (0) に変換されます。 と書かれてます、少数点以下の桁数でなく全体の桁数が最大15です。
- t-yamada_2
- ベストアンサー率40% (587/1460)
有効桁数は下15桁までです。 １/3を計算させて小数点以下表示を増やしていくと16桁目からは0と表示されてしまうのが分かります。
お礼
有難う御座います。考えて見ればデジタル機器のパソコンが完全な循環少数のようなものを認識できないですよね。１５桁ですか、今の実務には確かに影響ないのですが、大変参考になりました。