- 締切済み
0.991を四捨五入して有効数字２桁にすると？
0.991を四捨五入して有効数字2桁にせよ、という問について悩んでおります。 正解は、1.0のようです。これはこれで納得いくのですが、解答として0.99も棄て切れておりません。 同様に、0.99（ぴったり）を四捨五入して有効数字2桁にせよ、についてはいかがでしょうか。 やはり、1.0が正解のようなのですが、そのまま0.99が答えではないか（有効数字2桁そのままではないか）とも思われます。 正解とされているもの（1.0）では、有効数字とするための処理の結果、数値が一桁上がることを前提に、一の位を含めて有効数字をカウントしているようなのです。 内容は化学の計算問題からです（計算結果の最後の処理のところです）。 基礎的なところで恐縮ですが、お知恵を頂けるととても助かります。
- みんなの回答 （4）
- 専門家の回答
みんなの回答
- kamisenbon
- ベストアンサー率38% (52/136)
- ikuzecia
- ベストアンサー率26% (364/1363)
＞0.991を四捨五入して有効数字2桁にせよ 正解は0.99です。 ＞正解は、1.0のようです。これはこれで納得いくのですが 間違いです。納得してはいけません。 ＞内容は化学の計算問題からです そのような計算問題集や解答集、破棄してください。 基本から間違ってます。 そのような参考書で勉強すればバカになりますよ。
お礼
早速のご回答ありがとうございます。 とても助かりました。
- 中村 拓男（@tknakamuri）
- ベストアンサー率35% (674/1896)
私は0.99にします。こっちの方が元の値に 近いから。
お礼
ご回答頂きましてありがとうございました。
- ORUKA1951
- ベストアンサー率45% (5062/11036)
0.991を有効数字二桁にするのは、0.99が正解です。 ★0ではない数字より前に0がある場合、その0は有効ではありませんから 0.991 は有効数字3桁です。 それを二桁にすると、0.99です。 ＞正解は、1.0のようです。これはこれで納得いくのですが、 納得してはいけません。(笑) しかし、 ＞内容は化学の計算問題からです（計算結果の最後の処理のところです）。 だと状況はまったく変わります。 ￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣ それまでの計算過程で科学的記数法( http://ja.wikipedia.org/wiki/%E6%8C%87%E6%95%B0%E8%A1%A8%E8%A8%98 )を使用してこなかったことに起因しています。 化学や物理の計算をするときには、計算過程できちんと科学的記数法をして有効数字を明確にして無駄な計算、不必要な計算をなくさないようにしないと意味ありません。 ⇒有効数字 - Wikipedia( http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9%E6%95%B0%E5%AD%97 )
お礼
早速のご丁寧なご回答ありがとうございました。 ぜひ参考にさせて頂きます。 尚、 本題は、元々は、ある書籍上に記載の（うまく入力記入できず恐縮ですが） 1.0×10^-10÷（1.0×10^-5＋1.0×10^-3)≒1.0×10^-7(mol/l)（有効数字2桁のコメントあり） という式から、私が疑問を持ち、色々調べ考えた結果、提示してみたものです。 ご参考まで
お礼
まずは詳細かつご丁寧な回答、ありがとうございます。 高校レベルでの解説書を見ますと、途中の計算では、答えに要求される桁数より１桁多くとるようにする、とあります。そこで、割り算に入る前の足し算でも３桁でそのまま計算してしまいました。 でもよく見ますと、それは乗除の計算の話。「加減は、有効数字の末位の高いほうにそろえてから計算する」とあり、計算例もそのようになっておりました。仰せのとおり(2)は計算に含めなくなりますね。 私の完全な誤りでしたが、失敗してお尋ねしてやっとわかってまいりました。 皆様のお力添え、改めて御礼申し上げます。