有効数字について

質問

ある問題で、静止摩擦係数を求めるものがあったのですが、
（有効数字は２桁です）
μ＝4*0.2*(0.8π)^2/9.8
をπ＝3.14　として、途中計算は3桁までとって、計算してみたところ、
μ≒0.512　となりました。
しかし答えには
μ≒0.515　とあり　答え,0.52
となっています。実際に電卓で計算してみると、確かに
μ≒0.515 でした。
しかし、私のやり方のどこがおかしいのか、よく分からず、困っています。その点を教えていただけるとうれしいです。よろしくお願いします。

回答No.5

noname#121811 · ベストアンサー

＃１です。
質問者様の筆算が正しい事を私の方でも確認しました。有効数字の概念に従って計算すると、質問者様の言う通りμ=0.512です。答えの計算は明らかに電卓で計算したものです。結論を言うと質問者様の計算でも正解です。

なぜこうなってしまったのかというと、πの計算です。πの有効桁は∞に取れます。最初にπの有効桁数を大きく取り、π^2を計算してから３桁（９．８６）に揃えてから他の数値と掛けると、μ=0.514と少しマシになります。しかし普通はここまでやりません。μ=0.51でも正解とすべきです。

有効数字２桁というのは３桁目に誤差があるということなので３桁目で四捨五入する時に５以上か以下かの誤差が出ると、それが答えに影響します。これは不可抗力です。

お礼

回答ありがとうございます！
πの計算は奥が深いですね・・・。
でも、MtGenkotsuさん言っておられることには、かなり納得させられました。切捨てや四捨五入において、誤差が生じるというのは確かにどうしようもないことのような気もします。
今回の質問は、色々と参考になりました。
回答ありがとうございました。

回答No.4

hitokotonusi

＞1.60...を1.60として

ここですね。1.60...は1.6077なので、
少数第2位で丸めて1.61としなければなりません。

1.61とすると次が

1.61*3.14=5.0554

ここも同じく5.06と丸め、最後は0.5163....。

丸めは一段階で行わなければならないので、

・これが最終結果ならこのまま少数第2位で丸めて0.52となります。
・さらに計算を継続するなら0.516と丸めて計算を継続します。

お礼

回答ありがとうございます！
切捨てできないんですね。はじめて知りました（汗）。
確かにそうすれば答えと一致します！
これからは気をつけていきたいと思います。
ありがとうございました。

回答No.3

fine001

こんばんは
＞μ＝4*0.2*(0.8π)^2/9.8
という計算で、有効数字2桁を要求することが疑問です。
何故なら、4は整数か何かだとしても、0.2、0.8は有効数字1桁です。
計算は乗除ですから、答えは有効数字1桁とするのではないでしょうか。
それは、さておき
やはり、0.515です。

補足

回答ありがとうございます。
書いておらず、すいません。実は、この問題は文章問題で、
文章中の数字はどれも桁数２でした。
質問文の計算過程は、私が勝手にかいたもので、本来なら、
4*0.20*(0.80*π)^2　とするべきところでした。
それで、私の場合は、有効数字が与えられているときには、途中の乗法・除法は、有効数字より、1桁多くとって計算し、それより桁数が多い部分は切り捨ててよい。と習ったので、それに従って計算していきました。すると、
0.512　となってしまったんです。

回答No.2

noname#65902

?私も 3.14 を使って 0.515... になりましたよ？
手元の関数電卓でも、WindowsXP の電卓でも同用です。
(Windows... のは桁数がもっと多くでましたが)

操作　　　　　　　表示
0.8 x 3.14 = 2.512
x x =　　　　6.310144
x 4 x 0.2 = 5.0481152
÷ 9.8 = 0.515113795

3.14 でなく π (3.141592654) を使うと
最後が 0.515636474

となりました。
>私のやり方のどこがおかしいのか、
どのような操作をされたのでしょう？
小数点以下桁数を設定できる電卓だとか？

補足

回答ありがとうございます
ところで、書いておらず非常に申し訳ないのですが、
私の場合は、筆算で計算しており、
kfd03077さんが計算していただいている途中計算の、3桁以降は切捨てして計算していきました。
有効数字について学んだときに、
問題で有効数字が与えられているときは、途中の乗法・除法では、有効数字より1桁多くとって計算し、それより桁が多い部分は切り捨ててよい。と学んだからです。
こうすると、結果が0.512になってしまったんです。

回答No.1

noname#121811

あなたのやり方を書いてもらわないと、どこがおかしいのか教えられません。

補足

すいません。私のやり方は、

まず有効数字２桁なので、途中計算は３桁までとって計算していきました。その順番は
4.00*0.200*0.800*0.800*3.14*3.14/9.80
を左から順に計算していきました。
4.00*0.200=0.800
0.800*0.800=0.640
0.640*0.800=0.512
0.512*3.14=1.60...
ここで、有効数字が設定されているときには、途中計算での乗法・除法は、有効数字より1桁多くだして計算していき、それより桁数が小さい部分は、切り捨てる。と習ったので、
1.60...を1.60として
1.60*3.14=5.02...
5.02/9.80=0.512...（答え）
というように計算しました。
どうでしょうか。