- 締切済み
float型の精度(有効桁と実数)について
float型を使った演算の結果で0.0024568という8桁の結果でてきました。 IEEE754の規格により、float型は6~7桁とあるのにナゼ8桁が出てきたのか解りません。 ここで言ってる7桁とは、小数点以下7桁の実数が有効桁と言っているのでしょうか? お詳しい人、無知な自分に教えてください。
- みんなの回答 (2)
- 専門家の回答
float型を使った演算の結果で0.0024568という8桁の結果でてきました。 IEEE754の規格により、float型は6~7桁とあるのにナゼ8桁が出てきたのか解りません。 ここで言ってる7桁とは、小数点以下7桁の実数が有効桁と言っているのでしょうか? お詳しい人、無知な自分に教えてください。