- 締切済み
float型の精度（有効桁と実数）について
float型を使った演算の結果で０．００２４５６８という８桁の結果でてきました。 IEEE754の規格により、float型は６～７桁とあるのにナゼ８桁が出てきたのか解りません。 ここで言ってる７桁とは、小数点以下７桁の実数が有効桁と言っているのでしょうか？ お詳しい人、無知な自分に教えてください。
- みんなの回答 （2）
- 専門家の回答
みんなの回答
- jjon-com
- ベストアンサー率61% (1599/2592)
回答No.2
０．００２４５６８ × 10の0乗 ０．２４５６８ × 10の-2乗 ですから，この数値の10進数での有効桁長（精度）は５桁です。 ０．００００２４５６８ ０．０００２４５６８ ０．００２４５６８ ０．０２４５６８ ０．２４５６８ ２．４５６８ ２４．５６８ ２４５．６８ ２４５６．８ ２４５６８ 上記はすべて10進数での有効数字は５桁です。
- Tacosan
- ベストアンサー率23% (3656/15482)
回答No.1
「有効数字」について調べてみるといいかも. ああ, あなたの使った処理系で, float が binary32 になってるかどうかは知らないよ.
