有効数字の考え方について

質問

レンジ（精度）の違う測定値からの計算についての考え方について、アドバイスを下さい。

現在、バッテリ駆動のモータに接続する配線の評価を行っています。
モータ駆動時の
バッテリ電圧VB：22.1V（50Vレンジ、0.3％F.S）
モータ端子電圧VST：21.6V（50Vレンジ、0.3％F.S）
電流：214A（クランプ電流計出力：1Vレンジ、0.3％F.S→1000A/V；換算）
となりました。

この時の配線部の抵抗は
?2.34×10＾(-3)
?2.3×10＾(-3)
?2×10＾(-3)
のどれになるのでしょうか？
有効数字３桁の計算ゆえ?とすべきか、配線部電圧降下を計算したときに有効数字が１桁となり、結果的に?とすべきなのか、判断がつきません。

いまひとつ、有効数字の考え方が分かりません。
良いアドバイスをお願いします。

ちなみに、以下のサイトで勉強しましたが、もう少し突っ込んだ説明をお願いします。

http://nkiso.u-tokai.ac.jp/phys/exp/titles/sigfig.htm

http://www2.tokyo-ct.ac.jp/users/m/matsu/essentialFigure/essentialFigure.html

回答No.2

noname#230359 · ベストアンサー

バッテり電圧22.1V（小数点1桁目に誤差を含む）
モータ端子電圧21.6V（小数点1桁目に誤差を含む）
電流214A（1桁目に誤差を含む）
ですので
電圧降下は0.5V（小数点1桁目に誤差を含む）
つまり、電圧降下は誤差を含んだ数字しか表示されません。電圧降下の有効数字（誤差のある桁を最小桁に含む桁数）は1桁で、
このため、抵抗の有効数字も1桁になります。
しかも、この1桁の有効数字は誤差を含んでいますから、ご希望の2ｍΩ以下という要望に対して保証できないというのが結論だと思います。
----
測定実施について

測定精度を高める工夫（特に電圧降下）が必要です。
測定機器の精度を高める以外にも、例えば、電圧を変化させて、差異をとり、最小自乗法で測定精度を保証するとかという方法もあるのではないでしょうか？

お礼

回答ありがとうございました。
測定対象にたいして、測定器の精度が問題であることが良く分かりました。
しかしながら、設備的にこれ以上の精度のものがありませんので、アドバイスをいただいたように測定精度を上げるようにしていきます。

最小自乗法など数値解析について勉強します。
ありがとうございました。

回答No.1

noname#230359

21.6×214=46224W=4.62kw
これに対して
電線抵抗は2.34mΩ

はたしてｋｗ単位の負荷に対してｍΩ単位の変動がどれくらいの意味を持つのであろうか？
学術論文を書くのなら有効かも知れないが

お礼

もう少し分かりやすい文章にすべきでした。
ありがとうございました。

補足

用途を追記しておきます。
エンジンのスタータモータ用配線を検討しています。
個人的には、ご指摘の通りどの程度の影響をもつものか疑問ですが、SAE　J541の規格では最大0.200V（at100A)の電圧降下と規定されています。
つまり配線部で2ｍΩ以下に抑える必要があるのです。