測定精度について

質問

お世話になります。
今、大学で交流ブリッジを用いた抵抗素子の抵抗、インダクタのインダクタンス、コンデンサの静電容量の測定、という実験をしています。
その際、教科書に「ブリッジの測定精度は4桁すなわち0.1%が実現できる」という文章がありました。
これはどういうことなのでしょうか？
初め、実験結果で得られた数字の桁の0.1%なのかと思いましたが（７という数字が出れば、7.000になります）、違うと言われ、今度は実験器具から得られる最大桁数の0.1%なのかと試してみると（10000ならば十の位まで有効）、これも違うと指摘されました。
その後、先生から「五桁まで測定できる機器で、７という値が出れば、7.00と数字を記入するように」と言われています。
納得できません。
上記の教科書の文章に、他にどんな可能性が残されているのか見当もつきません。
ご解答、よろしくお願いします。

めっき条件追加します。

・析出速度；10～12μｍ/hr
・めっき時間；約10時間

回答No.2

noname#230359 · ベストアンサー

お問い合わせの内容にはいくつかの課題が含まれているように思います。

（１）「ブリッジの測定精度は4桁すなわち0.1%が実現できる」
　この記述だけで判断しようとしても無理があります。0.1%の精度が実現できる背景が判れば，ある程度の理解・判断ができる可能性があります。
　実験にお使いのブリッジは，アナログ目盛りですかデジタルですか？
アナログ型の指示計器では，フルスケールを基準として，測定の確度はその０．５％以内といった表現をすることが一般的です。
デジタル指示計器では，読み値の０．２％±５デジットといった確度の表現法があります。

（２）確度は，レンジ（フルスケール）が基準か，読み値が基準か？
仮に，確度が０．１％，フルスケールが９．９９９の測定器で，最上位桁に７が表示されたとき，
・フルスケールが確度の基準であれば，
　７．０００±９．９９９×０．００１＝７.０００±０．０１
・読み値が基準であれば，
　７．０００±７．０００×０．００１＝７．０００±０．００７
先生に尋ねるとき，上記のように両者を書いて指導を受ければ，何を言いたいのか良く理解できると思います。大学教育の指導者ですから，選択問題の正答よりも，考え方のプロセスを重要視してくれるはずです。

（３）有効数字の表現
　例えば，７.０００±０．００７を書き下すと，６．９９３～７．００７になります。最下位の数字は当てになりませんから，７．００と書くべきであるとの理由は理解できると思います。フルスケールが５桁・・１００００の測定器であっても同じ結果です。５桁といってもフルスケールが９９９９９の場合は異なってきます。
　有効数字については，あまり拘らずに，先生の指導をしなやかに受け止めれば宜しいかと思います。
　実務的には，測定した数値は，その数値を更に数式に代入して計算して別の数値に加工することが多々あります。この場合は，計算中の桁落ちなどを防ぐため，測定した数値を丸めることなくそのまま使うことが一般的です。最終的な計算結果の段階で，代入した各数値の確度，式の構造などを勘案して，丸め操作を行うことが普通です。

お礼

親切なご解答、ありがとうございます。

ohkawaさんの説明を読んで、私が確度に関して根本的に勘違いしていたらしいということがわかりました。
「ブリッジの測定精度は4桁すなわち0.1%が実現できる」という文章の意味が、私の考えていたものとは全く違っていたようです。
ohkawaさんのご意見を参考に、次回もう一度先生に質問してみようと思います。
ありがとうございました。

回答No.1

noname#230359

毎度申し上げておるように担当の教授と納得のゆくまで議論されるのがいい。きっと熱心な学生だとよい点を付けてくれます。
正言って前後の関係がわかりませんが文面から,推測出来る限りで。

想像するに7.00は0.00～9.00すなわち0.00～10.00の桁数４桁の一部であるという様な考え方か、デジタルでは４桁表示内部演算３1/3桁とかも多いですから

近年デジタルの計器が増え有効桁、表示桁、演算桁、絶対精度、分解能等、複雑になってますからしっかり議論して十分に納得、勉強して下さい。
「五桁まで測定できる機器」も曲者で大抵デジタルの機器では表示出来る！と明確に区別されることなく使用されますね。
特に平均化処理等される高機能な機器では要注意です。
ね。

お礼

ご解答ありがとうございます。

質問の内容が不明瞭だったようで、申し訳ありませんでした。
一つ補足させていただきますと、今回の実験で使用した機器はアナログだったようです。
お時間を無駄にしてしまい、申し訳ありません。