- ベストアンサー
けた落ちが誤差の理由は?
けた落ちが誤差の理由が理解出来ていません。 有効桁数が減少するしても、計算結果に誤差は出てないようなので、なぜだか分かりません。 123.456 - 123.455 = 0.001 上記で有効桁数6桁から1桁になりますが、誤差の理由を教えて頂きたいです。 よろしくお願いします。
- みんなの回答 (2)
- 専門家の回答
質問者が選んだベストアンサー
>計算時に、仮数部の表現範囲内に常に収まっている場合は、 >厳密には誤差ではないと言う理解で良いのでしょうか? 厳密には,と留保する必要はなく,その場合は明らかに誤差は生じません。
その他の回答 (1)
- jjon-com
- ベストアンサー率61% (1599/2592)
回答No.1
http://okwave.jp/qa/q6190944.html の私の過去の回答ANo.2
お礼
回答ありがとうございます。 仮数部の表現範囲を超えたら・・・それは誤差だ!と思っていたのですが、具体例でより明確に理解出来ました。 ただ計算時に、仮数部の表現範囲内に常に収まっている場合は、厳密には誤差ではないと言う理解で良いのでしょうか?ちょっとモヤモヤしております・・・。