有効数字の桁数について

質問

ある試行において5と1191597のような値を測定し、
5/1191597としたときに解が0.000004196となりますがこの場合有効数字は何桁になるのでしょうか？分子が一桁なので4*10＾・・・と表さないといけないのでしょうか？
条件を変えた試行では分子が4,5桁にもなるので同じ表に表すときにはこれらも有効数字が一桁ということになってしまうのでしょうか？
なんとか４桁くらいまでは有効数字として使いたいのですが・・・
よろしくお願いします

回答No.5

phobos

以下、推測を交えて回答しますが、これは
・この測定値は、何かの回数をカウントした物である。つまり測定値の最小単位は「１」である。
・条件１の場合の測定値：Ａ＝5、Ｂ＝1191597
・条件２の場合の測定値：Ａ＝1234、Ｂ＝1191597
　……
であったとき、それぞれの条件のＡ／Ｂをおなじ表（グラフ）に並べて比較したい、ということだと解釈してよろしいですか？

> この場合有効数字は何桁になるのでしょうか？分子が一桁なので4*10＾・・・と表さないといけないのでしょうか？
私も、条件１の場合については、有効数字一桁で表すべきと考えます。

ただ、並べて表にした時に見栄えが気になるようでしたら、4*10^-6とするかわりに
・条件１：0.004*10^-3
・条件２：1.036*10^-3
・……
と表したらいかがでしょう。

グラフ表示して比較すれば、もっとはっきりすると思います。
この結果を、例えば1.00*10^-3を軸上で10cmに取ったグラフ上に表すならば、条件２の結果は103.5mmに、条件１の値は0.5mmの位置にプロットされることになります。

わずか0.5mmの幅の中に有効数字４桁を考えても意味が無いことがおわかりになると思います。

回答No.4

noname#121811

＃２です。補足に回答します。
例えば５という数字が、ある測定値から電卓で計算した結果の数字だとしたら、測定値によっては５．１２３４５４のような数値になる事だってあります。その時に測定誤差を考えるのです。５．１２５になる事はあっても５．１３にはならないのであれば、５．１２までは正しい数字と考えていいですよね？有効桁数は３桁です。４桁目で誤差が出るのですから。

コメントを読みましたが、１０回測って結果はどうでしたか？５．○○何桁目まで同じ数字でしたか？それが有効桁数です。

回答No.3

widebackak

有効数字の計算の規則に従えば，この場合の計算結果は１桁にしなければなりませんが，そもそも実際の測定において，１桁の測定値と７桁の測定値とを一緒に計算するようなことはないと思いますが・・・。測定器具の精度の差が大きすぎて，測定そのものの意味がないのではないでしょうか。ですからこの計算は，問題のための問題のような気がします。

お礼

ありがとうございます
この2値が元々別個のものだった場合は有り得るのです。
ある同じ条件下でまったく別の数値の測定をすればいいので（もしかしたら質問文におかしな表記があったのかもしれませんが）
例えばものすごい温度の上がりやすい物質とまったく温度変化が現れない物質を同時に火で炙っても片方は温まっても片方は殆ど変化が無いのですから。
このような　ｘ＝ｙ/ｚのｙ、ｚ、ｘを同じ表で表さないといけないとなるとｘの有効桁数の一番小さいものにあわせないといけないのでしょうが、そうするとｙの値の大きい場合の有効桁数が測定データに対して少なすぎると思うのですが・・・
流石に123/456789みたいな計算で有効桁数が１までしか使えなかったら信頼性みたいなものも明らかに低下してしまいますよね

回答No.2

noname#121811

質問文の通り５の有効桁数で決まります。
一桁ならば実際には５．１かも知れないし５．３かも知れません。
それを考えると答えは4×10^-6となります。

お礼

回答ありがとうございます
となると５のあった部分に桁数が６桁のものが入っている場合で計算をした結果も同じように１桁までしか有効数字が認められないですよね？
（グラフなどで同じように値を表さなければならない場合）

回答No.1

noname#180098

一番大きい桁を有効桁としてはいけませんか？
または測定した値の有効値までを有効な桁とするのはどうでしょう。
同一の物を数回測定して、それぞれの測定値の偏差から有効な桁を求めても良いと思います。

こんな風に有効桁というのは決まっていなければ、利用者が勝手に決めても良い物です。ただし数値の信頼性があることが前提です。数学の問題などで高い精度を求められるのであれば、一番大きい桁より一つ小さい桁を有効桁とするのが一般的だったと思います。

補足

回答ありがとうございます。
一番大きい桁といいますと、分子が１桁だったときには分母の桁数を用いることが可能ということでしょうか？
だとしたら初めの例では4.196*10＾-6のようにしても問題は無いということでいいのでしょうか
まったくの同一条件で１０回以上測定しているので偏差？というものの求め方は分からないのですが、それを用いても桁数がわかるということなのですね！