問題文中に整数が入っている場合の有効数字の取り扱い

質問

電気回路の問題で，問題文中に
「抵抗が５Ω，電圧が１３０Ｖ」
であると書いてあり，このときに抵抗を流れる電流が
１３０÷５
で求められるような回路(電源と抵抗が直列につながれた回路)
があったのですが，このとき，
１３０÷５＝２６[A]
となりますよね？
ところが，問題文中で最も有効数字の桁数が小さいのが抵抗の５であり，
有効数字１桁です．
有効数字は問題文中で有効数字の桁数が最も小さいものに
合わせると聞いたので
１３０÷５＝２６≒３０
としなければならないのでしょうか？

回答No.1

spring135 · ベストアンサー

有効数字の考え方を厳密に適用すると質問者が言われるように30Ａとすることになります。しかし、通常は5Ωとなっていれば、メーターで5.0Ωと読んだ値だろうと推定して26Ａと考える方が常識的です。ではきりがないじゃないか、5.00だとしたら26.0Ａかと言う質問は当然です。いずれにしろ工学の世界では3ケタが一つの目安になっています。これを超える精度は説明がない限り仮定しません。よって26.0Ａは間違いではないがちょっとやりすぎで、26Ａと答えるのが最も妥当です。