締切済み

物理学(・工業力学)での小数の扱い

2006/04/24 00:52

私は工科系大学の1年生なのですが、物理学(・工業力学)での小数の扱いはどうなるのですか？高校のときは、ほとんど有効数字2桁だったんですが。例も参照してください。 (例：123.456789のとき、どういうふうな表記にすればよいのですか？)

HIRONOBU-200X
お礼率2% (2/90)

物理学
回答数3
ありがとう数1

みんなの回答 （3）
専門家の回答

みんなの回答

KinakoAme
ベストアンサー率65% (25/38)

2006/04/24 08:12 回答No.3

No.2さんの回答にありますように，測定装置の精度とダイナミックレンジが測定上の誤差を決めます。これを測定誤差といいます。 No.2さんの，最大測定質量がダイナミックレンジのことです。精度がいくら高くても，ダイナミックレンジが小さければ，有効桁は少なくなりますね。つまり有効桁を決めるのは，測定器のダイナミックレンジということになります。ダイナミックレンジが小さい場合でも，質量の場合ならば，複数回に分けて測定すれば，有効桁は上がります。ところが，試料を分けると全量が測れているとは言い切れないでしょう。これも測定誤差の一部となります。分けた場合の測定誤差を求める別の実験が必要となります。ダイナミックレンジ内で測定できる量を測定し，それを分けた場合と比較することでこの場合の測定誤差を見積もります。物理の授業を受講しておいでならば誤差論を習うと思いますので，詳しくはそちらで勉強するのがいいと思います（カリキュラムになければ先生に質問してみて下さい。必ず知ってます）。高校の時にも標準偏差という考え方を習っていると思いますが，誤差論はこの考え方の延長にあります。統計処理においても誤差は発生しますので，こちらは統計誤差などと呼ばれます。 No.2さんのおっしゃるように，繰り返しを増やして精度を増すのはリニア（１０回測れば１桁上がる）ではないことは，誤差論を勉強すれば分かると思います。

noname#21649

2006/04/24 03:42 回答No.2

工業関係の力学ですと.質量計の精度が4桁か５桁のはずです。これ以上の数値は天秤でも使わない限り無意味です。ところが物理学ですと.８桁とか１６桁とかかなりの有効桁のある測定方法を使っています。ですから.何の測定か.何桁の有効桁の測定を使っているか.で大きく変化します。最大測定質量200mg感度1ugの質量計ですと 123.456 天秤ですと.ラターでもう１桁増えますから 123.4567 バネ式テンションメーターですと3桁ですから 123 繰り返しを増やしてうまく補正すれば.感度1ugを0.1ugに上げることも可能(その代わり地獄の操作が待っている)で 123.45678 計算問題の場合には.計算前の元の数値が何桁で表されているかで.結果が変わります。これを読み取ってください。