有効数字について

質問

有効数字を使えば、このように
0.5・0.5=0.2
なりますよね。

では
0.5・0.05=
の場合はどうなるのでしょうか
0.0なんでしょうか

あと
5.0・150=ではどうなるのでしょうか

いまいち、有効数字が理解できません。

詳しく教えてくれますか？

回答No.1

A88No8 · ベストアンサー

こんにちは
　「有効数字」というときには「n桁の」という修飾子が付きますよね。
　質問者さんが今質問されているのは整数部は無制限で小数点以下第2位を丸める（例えば四捨五入、切り捨て、切り上げがありますね）という条件なのでしょうね？

（１）0.5・0.5=0.2 なりますよね。
　０．５×０．５＝０．２５
　ここで小数点以下第2位を丸めます
　あ）第2位四捨五入の場合、０．３
　い）第2位切り捨ての場合、０．２
　う）第2位切り上げの場合、０．３

（２）0.5・0.05=の場合はどうなるのでしょうか
　０．５×０．０５＝０．０２５
　ここで小数点以下第2位を丸めます
　あ）第2位四捨五入の場合、０．０
　い）第2位切り捨ての場合、０．０
　う）第2位切り上げの場合、０．１

（３）5.0・150=ではどうなるのでしょうか
　５．０×１５０＝７５０．０
　ここで小数点以下第2位を丸めます
　あ）第2位四捨五入の場合、７５０．０
　い）第2位切り捨ての場合、７５０．０
　う）第2位切り上げの場合、７５０．０

　ところで、もう一度。
　有効数字というときは「ｎ桁の有効数字」という条件が明確で無いと上記の（１）～（３）など全く無意味なものになる考え方なんですよ(^^;

参考URL：

http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9%E6%95%B0%E5%AD%97