- 締切済み
小数の有効数字
こんにちは。 小数の有効数字について質問があります。 先日学校の授業で、「有効数字はそろえましょう」と言いながら、先生は(0,067と0,300)と書いていました。 0,300は有効数字3桁ですよね?でも、0,067は有効数字2桁ではないのですか? 数字の前にある位取りの為の0は気にしないのではないんでしょうか?
- みんなの回答 (2)
- 専門家の回答
みんなの回答
- htms42
- ベストアンサー率47% (1120/2361)
回答No.2
「有効数字をそろえる」と言う場合、2つの意味があります。 演算の種類によって変わるのです。 (1)掛け算、割り算では桁数をそろえます。 演算の結果は一番精度の悪い数字の精度にほぼ等しくなります。精度の高い方を余分に取る場合もあります。結果の曖昧さが小さくなります。 1.0と9.9とでは精度にかなりの違いがあります。 9.9と精度の近いのは1.00です。 1.0の有効数字は2桁であるとしている計算をよく見ますが実質の桁数は1桁です。1.0が含まれている演算の結果の有効数字は1桁です。 (2)足し算、引き算は位をそろえます。 演算の結果は一番下の位が一番高い数字の位と一致します。 足し算をすると有効数字の桁数が増えることがあります。引き算では桁数が減ることがあります。「桁落ち」といいます。 時々引き算で桁落ちが起こっているのを桁数を増やして補っている計算を見ます。誤りです。
- kiwa67
- ベストアンサー率22% (82/357)
回答No.1
>0,300は有効数字3桁ですよね?でも、0,067は有効数字2桁ではないのですか? そうですね。 有効数字をそろえるというのは、小数点の位をそろえるという意味で 使ったのでしょうかね?