• ベストアンサー

偶数丸めの問題

0.111010*2^7を正規化して小数点以下3桁に丸めて欲しいです お手数をおかけしますがよろしくお願いします 方法は偶数丸めでお願いします

質問者が選んだベストアンサー

  • ベストアンサー
  • f272
  • ベストアンサー率46% (8471/18135)
回答No.1

0.111010*2^7といのは2 進数の指数表現ですかね? 以下はそういう前提です。 0.111010*2^7を正規化すれば1.11010*2^6 これを小数点以下3桁に丸めるのですから1.110より下の桁を見ます。10になっていますね。1.110と1.111のちょうど中間の値になっていますから最も小さい桁が0になるように1.110の方に丸めます。つまり1.110*2^6

関連するQ&A