計算機の使用法

質問

計算機を使った計算のやり方について質問します。
答えを小数点以下第5位を四捨五入した小数点第４位までの小数
で表せ。という問題があって、答えは 2/3√3になります。
こういう場合は2を3√3の計算した数値の小数第5位を四捨五入したもので割ればいいのですか？それとも、小数第10位くらいまで計算した値で割って、最終的に第5位を四捨五入すればいいのでしょうか？

この場合はいいですが、複雑な計算になると、四捨五入したものどうしをたくさん計算すれば最終的な答えにだいぶ誤差が生まれる気がしまて。すみません単純な質問をして。

回答No.2

noname#221368 · ベストアンサー

自分も消費税付の銭計算プログラムで、四捨五入には時々ひっかかります。方針としては、以下のようになると思います。
　(1)2／3／3^(1/2)のように、*と/のみの場合は、必要精度が上からｎ桁なら、(n+1)桁まで取って計算すれば十分。
　(2)a1＋a2＋a3－a4＋・・・のように、＋－が含まれる場合は、足し引きする項の数によります。

例えば整数範囲が必要精度として、各aiを小数下１位の有効数字で計算するとすれば、四捨五入により、aiの真値は、
　　　　ai－0.05≦ai＜ai＋0.05
の範囲ですが、誤差の符号が全てそろっている最悪の事態を想定すると、10個の誤差の累積で、計算結果には、-0.5～0.5の誤差が入り、整数範囲に影響する可能性が出ます。従って10^1＝10個の足し引きをするなら、1／10^2＝1／100の有効数字が欲しいところです。
　現実には、計算機のフル精度で計算して、必要桁数に丸めるという方法をとっています。もちろん#1さんの有理化は良い方法だと思います。

お礼

ご丁寧な回答どうもありがとうございます！

回答No.1

rtz

2/3√3＝2√3/9なので√3×2÷9をしてください。

複雑な計算も目標としては分母の有利化を目指します。
あとは有効数字に気を付ければいいでしょう。

お礼

分母の有利化ですか！わかりました。
どうもありがとうございます！