- ベストアンサー
さっきの小数点切捨て→浮動小数点数の演算誤差について
さっき、http://oshiete1.goo.ne.jp/kotaeru.php3?q=685942で切捨てがうまくできないっていう質問があって、私は計算機を出してまでなんでやろ~って思って計算して、回答しました。 ところがです、あっさりとそれは浮動小数点数の演算誤差ですっていう答えがすでに出ていたんです。(勉強になりました) うぅぅ~計算機まで出してきて計算した私ってなんてお馬鹿・・・トホホってそれはさておき ここからが質問なんですが、浮動小数点数の演算誤差っていうのはなんとなくは知っていたのですが(本で読んだことはある程度で、もちろん人に説明できるレベルではありませんが)そういうのってどんな場合にでるのでしょう。 さっきの質問の確認のため、Excel2002でオプションの計算のしかたなども変えてみてやったのですが、一度もそういう計算結果はでなかったのですよ。 でも、質問されている方がいるということはそういう計算結果もでるっていうことですよね。なので、どういう場合にそういう結果がでるのかと気になって。 さっきの質問の所に書き込もうかとも思ったのですが、他の方の質問にさらに質問するっていうのは失礼なような気もして、新しく質問しました。 先ほど答えていらっしゃった方でも、他の方でそういうことに詳しい方でもお時間あれば教えていただけないでしょうか。
- みんなの回答 (2)
- 専門家の回答
質問者が選んだベストアンサー
Excel(というよりコンピュータの)演算誤差については以下のURLの解説がわかりやすいです。
その他の回答 (1)
- imogasi
- ベストアンサー率27% (4737/17069)
「浮動小数点 誤差」または「浮動少数点 誤差」でWEB照会すると沢山出てきます。 http://support.microsoft.com/default.aspx?scid=%2Fisapi%2Fgomscom.asp%3Ftarget%3D%2Fjapan%2Fsupport%2Fkb%2Farticles%2Fjp402%2F5%2F54.asp&LN=JA http://support.microsoft.com/default.aspx?scid=http%3A//www.microsoft.com/JAPAN/support/kb/articles/JP409/7/44.asp http://www.twcu.ac.jp/~nabe/lec/CompB/CompB_s24.html#doc1_2455 ほか出てきます。コンピュターで数値解析をする時の大問題なんですが、経理や人事などビジネスではあまり考えなくても済む面があります。整数や固定小数点数を考えることが多いですから。
お礼
回答ありがとうございます。 私も普段そんなこと全然考えていませんでした。数値解析なんて大それたことしませんし。(笑) ただ、質問を読んでいただいてお分かりいただけてると思いますが、他の方の質問から一人で盛り上がってしまいました。 教えていただいたサイトをじっくり見て勉強したいと思います。
お礼
早速の回答ありがとうございます。 教えていただいたサイトはかなり詳しく書いてあるようでじっくり読んでみたいと思います。 最近ここを利用するようになって、質問にすぐ答えてもらえることもさることながら、こういう自分の知らなかった役立つサイトを教えてもらえることもすごく有益です。 また、よろしくお願いします。