- ベストアンサー
四捨六入の丸め操作について
「7.22、6.2、18.231の和を求めて、四捨六入の丸め操作をして有効数字を求めよ。」 という問題があり、答えは31.6なのですが、いまいち納得がいきません。 7.22 + 6.2 + 18.231 = 31.651より、小数第2位で四捨六入すれば、確かに31.6になります。 しかし、なぜ小数第2位で四捨六入するのでしょうか? この場合、有効数字の桁数が一番小さい6.2にあわせて、答えの桁数は2桁になり、32ということにはならないのでしょうか? お分かりになる方に、是非教えて欲しいと思います。
- みんなの回答 (2)
- 専門家の回答
質問者が選んだベストアンサー
一番最後の桁がその数字かどうか怪しいということですから、 怪しい数字に括弧をつけて考えてみます。 ある桁を考えたとき1つでも括弧つきの数字があると その桁を計算して出てくる数字は怪しいと思えば 7.2(2) 6.(2) 18.23(1) の和を考えると 31.(6)(5)(1) つまり 31.(6) となります。 > 有効数字の桁数が一番小さい6.2にあわせて、 > 答えの桁数は2桁になり、 この考え方だと、桁数の異なるものの 足し算などのときに困ります。 たとえば 123.456 (有効桁数6桁) 0.0000000012 (有効桁数2桁) の2つを足したからといって 1.2*10^2 にまで有効桁数が落ちるのはおかしいですよね。
その他の回答 (1)
- fiva205c
- ベストアンサー率43% (234/533)
回答No.1
小数点以下の有効桁を考えます。 6.2が一番少なく(小数点以下1桁)、小数点第2位を四捨六入した結果を求めることになります。
質問者
お礼
なるほど、そういうことですか。 ありがとうございました。
お礼
>たとえば > 123.456 (有効桁数6桁) > 0.0000000012 (有効桁数2桁) >の2つを足したからといって > 1.2*10^2 >にまで有効桁数が落ちるのはおかしいですよね。 そういえば、そうですね。 勉強不足でスイマセン。 ありがとうございました。