有効数字について
有効数字について
電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4~5ケタ)という測定値を得たとします。
このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、
ρ=(S/L)*(V/I)
という計算を行ったとします。
この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか?
また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、
この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか?
Vの値はそのまま表に記載した方がいいのでしょうか?
「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。
あまり上手い日本語で書けていないかもしれませんが、
ご教授のほど、よろしくお願いします。
お礼
「0」は何もないところからスタートって 感じの数字ですね! 「99」で思い出すのが 「お前100までわしゃ99まで・・・」かな?