「浮動小数点表示」と「丸め」について
数値解析についての質問です。
「23.49を有効数字4桁の浮動小数点表示で書け」という問題があるときは
0.2349 * 10^2
と答えるのが正しいのでしょうか。
つまり「浮動小数点表示で答えよ」とあれば、
0.○○○... * 10^○の形で書けば良いのでしょうか。
また、数値の丸めの仕方に関する質問なのですが、教科書に以下のような記述がありました。
k+1桁以降の数を切り捨てる
a.この切り捨てられた数が第k桁の単位の半分より小さいときは、第k桁の数はそのままにする。
b.もし半分より多きときには第k桁の数に1を加える
c.この切り捨てられた数が第k桁のちょうど半分のときには最も近い偶数に丸める
とあるのですが、その後の記述で
「1.2535をそれぞれ小数点以下3桁、2桁、1桁で丸めると、1.254,1.25,1.3が得られる」また「小数第3位以下の情報なしで、1.25を1桁で丸めると1.2になる」とあるのですが、
後者が1.2になるのは理解できるのですが、最初の規則に則ると前者も1.2になるように思うのですが、何故1.3になるのでしょうか。
以上の規則に則った上で以下の問題に答えてみました。
問.-89.216618, 500000, -0.002213675を丸めて有効数字5桁の浮動小数点表示で書け
僕の答え
-0.89217 * 10^2
0.50000 * 10^6
-0.22137 * 10^-2
というのは合っていますでしょうか。
質問が多くて大変恐縮ですが、解説、ご指摘をお願いします。
よろしくお願いします。
![その他([技術者向] コンピューター) イメージ](https://gazo.okwave.jp/okwave/spn/images/related_qa/c205_3_thumbnail_img_sm.png)
お礼
回答ありがとうございました