• ベストアンサー

有効数字での切り上げについて

基本的な質問で恐れ入りますが、数字を有効数字4桁とし、 切り上げで丸める場合、以下の考え方で正しいのでしょうか。 ・パターン1 123.4006 → 123.5 ・パターン2 11000.0001 → 11010 切り上げを有効数字5桁目だけで考えると、両パターン共に「0」ですので、 切り上げが発生せず、それぞれ103.4、11000となるような気がしてどちらが正しいのか悩んでおります。

質問者が選んだベストアンサー

  • ベストアンサー
回答No.5

厳密で一般的な定義が存在するかわかりませんが 四捨五入は1個下の桁を見れば行えるので、 切り上げも同じようにできるという誤った 認識が広がったのではないかと思います。 まるめとは、値を丸める「境界」を定義することなんですが 123.409 → 123.4 123.410 → 123.5 これだと 123.410000000000000000000 に丸めの境界があることになりますが、 なんか半端ですよね。 123.400000000000000000000 とか 123.500000000000000000000 を境界として ここで丸め値が変わる、というのが一般的な切り上げの定義だと思います。

laston
質問者

お礼

ご回答ありがとうございます。 まるめ境界をどこに置くかがポイントということですね。 ありがとうございます。 参考にさせていただきます。

その他の回答 (4)

  • tmpname
  • ベストアンサー率67% (195/287)
回答No.4

何か私が知っている「数検」とはどうも別組織のようだが、いずれにせよ切り上げの意味は前に書いたとおり。

  • tmpname
  • ベストアンサー率67% (195/287)
回答No.3

数週間前にだれか別の方も「学校では間違って教えている事もある」と注意していたが、切り上げというのは「必要な位より下の数がすべて0でないかぎり、求める位の数を1大きくすること」であって http://www.suriken.com/knowledge/glossary/round-up.html 数検の用語集 必要な位の一つ下しか見ない、というのは正しくない。よってあなたの最初の考え方であっている。

laston
質問者

お礼

ご回答ありがとうございました。 リンクを確認いたしました。 有効数字での丸めであっても、切り上げの定義は同じということですね。

  • notnot
  • ベストアンサー率47% (4900/10361)
回答No.2

有効数値4桁にまるめる必要があると言うことは、前の数字が10桁とかたくさんあったとしても、5桁目にはすでにかなりの誤差が含まれていて、6桁目以降は単なるゴミで意味をなさないと言うことです。 従って、5桁目だけを見ます。

laston
質問者

お礼

ご回答ありがとうございます。 有効数字の範囲にある数字を重要とし、端数以降は誤差とみなす考え方ですね。 参考にさせていただきます。

回答No.1

  有効数字4桁で切り上げるなら、5桁目を切り上げます だから ・パターン1 123.4006 → 123.5 ・パターン2 11000.0001 → 11000 そうでないと 1000.00000000000000000000000000000000000000000000000000000000000001 が 1001になってしまいます  

laston
質問者

お礼

ご回答ありがとうございました。 有効桁の次の桁で切り上げを判断するパターンですね。 参考にさせていただきます。

関連するQ&A