電子天秤のメモリ

質問

デジタル表示の電子天秤は測定限界以下の数字をどう処理しているのでしょうか？
　例えば、15.559 gのものを測る際に、天秤のメモリが小数点以下第2位までだった場合、15.55と表示されるのでしょうか、それとも15.56と表示されるのでしょうか？
　メーカーによって違ったりするのかもしれませんが、一般的にどちらの方法が使われているのかをご存知の方、教えてください。

回答No.3

noname#160321 · ベストアンサー

一般に「定義」からデジタル表示での最後の桁は１デジット上下するのが基本です。まずこれを先に覚えておいてください、つまり「揺らぎがなくてはならない」のです。
本来は15.555から15.56499999…の表示は15.56に、15.545から15.554999999…の表示は15.55に表示する「ことになっている」のです。

簡単にいうと四捨五入ですが、それと違うのは15.555付近のものをはかるとデジットが「頻繁に切り替わる」のが「正しい」ということです。

お礼

あーなるほど、電子天秤で頻繁に表示が切り替わるのはそのためでしたか、勉強になりました。
詳しいご回答ありがとうございました。

回答No.2

noname#21649

メーカーによっては.JIS規格の四捨五入を使っている場合があります。メーカーによっては算術の四捨五入を使っている場合があります。
どちらを使っているかは.製造メーカーに聞いてみないとわかりません。

お礼

ご回答ありがとうございました。

回答No.1

パんだ パンだ（@Josquin）

一般的には四捨五入です。

お礼

ご回答ありがとうございました。