• 締切済み

有効数字3桁、小数点2位以内ってどゆ意味?

有効数字3桁、小数点2位以内ってどういうことですか? 176kg→0.176t→0.18t だそうです。なんかよくわかりません。 176kgは176kgで終わりなのでは?この時点で有効数字3桁なのだから。小数点2位以内でもなりますよね?176.00でもあるわけだし。 1760kgならどうなりますか? 17.6kgならどうなりますか? 1.76kgならどうなりますか? 0.176kgならどうなりますか? 1760で有効数字3桁、、176×10?それで終わりでは?それともいちいち、1.76×10^3という狙いをつけるわけ?0.176×10^4にして小数点2位以内とかで0.18×10^4に四捨五入すんの?小数点ずらして10のなんとか乗にすれば無限にいかように表現できるのでは? 17.6も1.76も0.176も同じじゃないですか? 本当にこの断片的な情報では容易に反問しうる問いに答えになってません。歯数処理のためにこんなヘンテコなことやってます。 小数点動かして、都合の良いところで、人によっては都合の悪いところで、有効数字何桁、小数点何位以内とかわけわからんことやってます。というかkgからtに読み替える時点で既に荒唐無稽じゃね?1760000tなら1.76M tとかいくらでも数字圧縮できるでしょ?

みんなの回答

  • hiro_1116
  • ベストアンサー率30% (2555/8267)
回答No.1

>有効数字3桁、小数点2位以内ってどういうことですか? >176kg→0.176t→0.18t >だそうです。なんかよくわかりません。 私にも分かりません。社内か何かのローカルルールですかね?

yahoomode
質問者

補足

そうそう、それなんです。数学的な正しい判断ではないということでいいですか?小数点動かせばなんにだってできるし極端な話0にできるのでは?