• ベストアンサー

有効数字

掛け算、割り算の混在する計算における最終的な答えの有効数字は、「最も小さい有効桁数にまとめる」ことがJISで定められています。  例 5桁x3桁÷2桁x4桁→2桁にまとめる しかし、この考え方は本当に正しいでしょうか? 例えば、有効数字0.90に対する0.01の影響は約1%です。 これに対して、有効数字0.20に対する0.01の影響は5%で、上記よりもはるかに影響が大です。 単に「”桁数”で見切って処理する」というやり方は、理論的に間違っているのではないでしょうか? 統計理論上の質問です。

質問者が選んだベストアンサー

  • ベストアンサー
  • ht1914
  • ベストアンサー率44% (290/658)
回答No.13

2桁×2桁の結果を2桁取るということは3桁取っても無意味であるという意味です。1桁目は確かです。結果の2桁目の数字は誤差を含んでいます。その数字の両側に±αと幅を持っています。α が4とか5になれば2桁目の数字はほとんど意味のないものになってしまいます。α が1とか2程度であれば2桁目の数字は曖昧さはあるが無意味ではないということになります。誤差の大きさ α は元の2桁の数字の組み合わせによって変化します。 これは難しい理屈を使ったものではありません。はじめ四捨五入で考えた曖昧さが結果にどう響いていくかを計算で示しただけのものです。 >(例えば)乗除算のルールで「2桁x2桁の乗除算では2桁をとる」という手法は、数値信頼性の観点からは一歩引いている(採用された数値の精度が2桁あることを保証するものではない)と考えてよろしいでしょうか? 上に書いたような意味ですのでいいと思います。ただこれしか選択の余地がないのです。2桁目が誤差を含んでいるからと言って1桁目だけにするのであれば荒っぽすぎます。

soramist
質問者

お礼

度々のご回答有難うございました。 この場を借りてお二方にお礼を申し上げます。

すると、全ての回答が全文表示されます。

その他の回答 (12)

  • noocyte
  • ベストアンサー率58% (171/291)
回答No.2

> 単に「”桁数”で見切って処理する」というやり方は、 > 理論的に間違っているのではないでしょうか? とりあえず乗算の有効桁数について,少し大雑把な証明をしてみます. (精確・厳密ではありません.) ある数値 X (真値) を四捨五入して有効数字m桁に丸めた値を X' とする. 乗除算の有効数字なので,考えやすいように X' の指数部を無視し, 仮数部だけを取り出して 1 ≦ X' < 10 と仮定しても一般性を失わない. X' に対する真値Xの範囲は,四捨五入の意味を考えると, X' - 5 * 10^(-m) ≦ X < X' + 5 * 10^(-m). 真値に対する相対誤差 (X'/X - 1) は次のようになる. -5 * 10^(-m) / X < X'/X - 1 ≦ 5 * 10^(-m) / X. したがって相対誤差の範囲は約 ±5 * 10^(-m). 同様に別の数値 Y (真値) を四捨五入して有効数字n桁に丸めた値を Y' とすると, その相対誤差範囲は約 ±5 * 10^(-n). したがって積 X' * Y' の相対誤差範囲は 約 ((1 ± 5 * 10^(-m)) * (1 ± 5 * 10^(-n)) - 1). この最大値は,m≠nならば約 ±5 * 10^(-min(m, n)),m=nならば約 ±10^(1-m). 後者の場合は,有効数字m桁目に±1の誤差を含むことになり, それ以下の桁は全く信用できません.したがって有効桁数はmです. 前者の場合は,有効数字 min(m,n)+1 桁目に±5の誤差を含むことになり, この桁以下は全く信用できません.したがって有効桁数は min(m, n) です.

すると、全ての回答が全文表示されます。
  • noocyte
  • ベストアンサー率58% (171/291)
回答No.1

> 例えば、有効数字0.90に対する0.01の影響は約1%です。 > これに対して、有効数字0.20に対する0.01の影響は5%で、 > 上記よりもはるかに影響が大です。 これは有効数字に対して「加減算」を行った場合の影響です. 前提である「乗除算」ではありません.

すると、全ての回答が全文表示されます。

関連するQ&A