ベストアンサー 確率誤差の有効数字 2001/05/10 23:28 確率誤差が例えば0.015と出た場合 これは少数第3位を切り捨てるのでしょうか それとも四捨五入するのでしょうか みんなの回答 (1) 専門家の回答 質問者が選んだベストアンサー ベストアンサー when ベストアンサー率41% (7/17) 2001/05/11 18:54 回答No.1 詳細に関しては、詳しい人にお任せいたしますが、 一般的には、四捨五入されます。 但し、安全率(例えば、箱の大きさが0.015であったとき、その中に棒を入れるときの大きさなど、0.02だと駄目になってしまう場合)などが必要とされる場合には、切り捨てることもあります。 結局、その数値の意味がどの程度あるのかが重要になります。 参考URL: http://www.toriya.co.jp/jis8401.htm 質問者 お礼 2001/05/12 02:37 回答ありがとうございました そうなんですか、一般的には四捨五入なんですね 広告を見て全文表示する ログインすると、全ての回答が全文表示されます。 通報する ありがとう 0 カテゴリ 学問・教育その他(学問・教育) 関連するQ&A 有効数字(有効桁)の考え方 小数を含んだ計算ですが,以下の押さえで正しいでしょうか? いくつかサイトを見て,こうなのかな?と思ってまとめてみたのですが... ((1)の「4」,(2)の「5」に関しては誤差を含まない数とする) (1)6.523×4=26.092 (2)6.524×5=32.620 (小数第3位の0は必要) (3)65.23+6.524=71.754 →71.75(四捨五入(各々4桁故)) (4)65.23÷6.524=9.99846719… →9.998(四捨五入) (5)65.23÷6.52=10.00460122… →10.0(四捨五入(6.52が3桁故答えは3桁まで)) (6)6.523×6.524=42.556052 →42.46(四捨五入(各々4桁故)) (7)6.523×6.52=42.52996 →42.5(四捨五入(6.52が3桁故)) 正しいでしょうか? dounle型で計算時の誤差 今、VC++(MFC)で、15桁の数値まで表示可能な電卓アプリを作成しています。 そこで今つまずいているのが、double型で計算したとき(演算結果が小数の場合)の誤差の問題です。 とりあえず、いろいろなHPなどの情報を見たりして、誤差問題解決を下記のようにしました。 「数値の頭(左側)から16桁目を四捨五入する」 小数の場合はほとんど誤差が生じるため、計算後、計算結果が小数ならば、必ず 上記の誤差処理を行っています。 しかしこれでは、以下の場合に不具合が出てしまいます。 ・ 0.99 999 999 999 999 ÷ 10 = 本来の答えは「0.09 999 999 999 999 9」 ⇒ しかし15桁までの表示なので、本来は「0.09 999 999 999 999」と15桁まで出力 させなくてはいけないのに、16桁目の「9」を四捨五入したせいで「0.1」という表示に なってしまう。 16桁目を四捨五入しないと誤差をとることはできないし、でも上記の例だと正しい結果 が出力されません。 どうしたらいいのか頭を悩ませています。 何か良い解決法等あれば、ご教授お願いします!! 有効数字について 有効数字について例えば1.7657×3.23というような式があり、1.7657はそれまでの計算で出た、 途中計算の値だとします。また有効数字は3桁であるとします。 有効数字3桁なので1.7657は有効数字4桁の値にするのですが、この場合末尾の7を切り捨てるのですか?四捨五入するのですか? ちなみにZ会の参考書は切り捨てのほうが一般的と書いています。 大学入試では切り捨て派と四捨五入派がいることを考慮して末尾の誤差は考慮して採点してくれるのでしょうか。 また有効数字4桁とか気にせず計算し最後に四捨五入して有効数字3桁にしたほうが安全でしょうか。 天文学のお話。日本ではどのように考えられていた? OKWAVE コラム 有効数字以下を四捨五入(Java) 初心者です。よろしくお願いします。 Javaで有効数字の桁数を与えてそれ以下を四捨五入することはできますか。 できるなら方法を教えてください。 単に少数第○位を四捨五入するとあらかじめ決めておけばsetScaleメソッドでできると思うのですが、 例えば有効数字2桁と決めておいて、 34.1→34 3.41→3.4 0.341→0.34 といった具合に四捨五入する方法をお伺いしたいです。 よろしくお願いします。 確率誤差 確率誤差の絶対値の値が大きいと結局何が言えるんですか? 誤差が起きやすいってことですか 誤差の表示の仕方について。 こんにちは。 卒論を控えた大学生です。 今、大量のデータがエクセルで 温度 値1 誤差 値2 誤差 300 0.320 0.0011 0.158 0.0013 200 0.382 0.0033 0.155 0.0039 100 0.427 0.0026 0.163 0.0033 と入っているのですが、最終的にはtex用に、 誤差を四捨五入、()内にいれて 300 & 0.320(1) & 0.158(1) 200 & 0.382(3) & 0.155(4) 100 & 0.427(3) & 0.163(3) と加工したいのですが、自動でやるにはどうすればよいか 詳しい方のアドバイスをお願いいたします。 有効数字の取り扱いについて 少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか? 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか? また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか(定義されているので、そのまま計算に使うのかどうか)? さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか(この場合においても四捨五入が必要なのかどうか)? ご存知の方がいらっしゃいましたらご回答よろしくお願いします。 精度と確率誤差 10ml容ホールピペットの器差を求める実験を行なったんですが、この実験の精度を測ることができません。 各計算結果は以下のように出ました。 ホールピペットの20℃における内容積を調べたところ、9.974、9.973、9.980という結果が出た。 この平均値は9.976、標準偏差は14.11、確率誤差は9.517であった。 この中で上の確率誤差に着目して精度を測りたいんですが、イマイチ確率誤差の定義が分かりません。 確率誤差と精度はどのように関連していますか? この実験における確率誤差からは精度に関してどのようなことが言えますか? 有識者の方ご指南お願いします。 確率誤差について 確率誤差は、平均誤差と測定回数によって決まる定数 との積で、測定回数が2から10までと無限大のときは 分かるのですが、11回以上のとき(特に12,18回のとき) の定数の値を考え方を含めて、教えてください。 少数の四捨五入ってどうやってするんですか? 少数の四捨五入ってどうやってするんですか? 例えば7分の1を少数に直して0.14285714になります。これを四捨五入するとなにになりますか? 有効数字の加算 加算時の有効桁は最小桁なので2桁ということは分かるのですが,四捨五入位置がよくわかりません。 1.249(有効桁4桁)+0.10(有効桁2桁)の加算の場合,1.349となりますが,これの3桁目にある「4」を四捨五入して1.3が正解でしょうか。それとも「9」を四捨五入して1.4が正解でしょうか。 教えてください。 四捨五入ってどうやるのでしょう? 少数第2位を四捨五入するのにはBigDecimal#setScale(int,int)を使うのは 分かるのですが、では少数第21位を四捨五入するのはどうすればよいのでしょうか?同じものを使うのか、それとも・・・。知っている方がいたら教えて下さい。 日本史の転換点?:赤穂浪士、池田屋事件、禁門の変に見る武士の忠義と正義 OKWAVE コラム Flash Lite1.1 計算の誤差 続けざまにすみません。CS3でFlash Lite1.1の計算式を作っていますが 計算式で絶対整数の答がでるはずなのに.00001くらいの誤差が出てしまうのはなぜでしょうか? AS2では、全く出ませんがFlash Lite1.1では出るので四捨五入などで なんとか整数にしています。 なんとかならないのでしょうか? 単純に1000000に0.23をかけただけでも、230000にならなかったりします。 少数の四捨五入について 少数第3位未満の端数が出た場合四捨五入って 0.1234 の4を四捨五入するんですよね? わからなくて・・・回答よろしくお願いします 有効数字について 有効数字についての質問です。 有効数字2ケタで答える問題があるとします。 途中の計算がいくつかに分かれる場合は、3ケタ目まで計算して進めていき、 最後に出た答えを四捨五入する、 と習ったのですが、 「途中の3桁」というのは、4桁目まで計算して四捨五入するのか、3桁目で計算をやめて以降を切り捨てるのかがわかりません。 よろしくお願いします。 【計算】どっちを先にするの? 突然ですが・・・ 3.8÷4.1を計算し、%で答える問題があったとしましょう。 割り切れませんよね。 なので、問題には小数第二位を四捨五入して答えなさいとだけ書いてあります。 この式を解いた場合、 余式=0.926829・・・・ と続きます。 この場合、少数の時点で四捨五入し、 90%とするのか、%単位(92.68…%)に直してから 四捨五入し、92.7%とするのか、 どっちなんでしょう? また、そうする理由は? 僕は割り切れなかった数字に近いから92.7%にする方が正しいのかな、とか思ってるんですが… どちらの意味にも取れるような… ご意見待ってます。 本を読んでいてわからないことがありました。 本を読んでいてわからないことがありました。 「2407と1428を四捨五入して百の位までの概数にすると、2400と1400になる。これらを足し算すると約3800である。 正確な計算をすると、2407+1428=3835となるから、誤差率は約0.9%となる。 もっと正確な計算結果に近づけるには四捨五入するケタを小さくすればよい。2407と1428を四捨五入して十の位までの概数にすると、2410と1430になる。これをたして約3840とすれば誤差率は約0.1%になり、より正確な値に近づく。」 と書いてあったのですが、どういう風な計算をしたら誤差率が0.9%や0.1%となるのでしょうか。 というかそもそも誤差率ってなんでしょうか? なんのために誤差率というものを求めるのでしょうか? 解説お願いします 確率について。 確率について、教えて下さい。 私のお聞きしたいことが、うまく伝わるか心配ですが、例えば、パチンコの「CR スーパー海物語IN沖縄 MTA」の大当たり確率は「1/315.5」ですよね。 分かり易く四捨五入し、「1/316」として、「完全確率」「一発抽選」のパチンコにおいて、この確率の「316回転」以内に、大当たりする確率というのは、いくつになるのでしょうか? その逆で、「316回転」させても、大当たりしない確率は、いくつになるのでしょうか? また、これらの計算は、どのような計算式になりますか? 同じように、この確率の逆数の倍である「632回転」回しても、大当たりしない確率、そして「1000回転」回しても、大当たりしない確率というのは、いくつになるのでしょうか? 確率と言うか、数学に詳しい方がいらっしゃいましたら、教えて下さい。 確率・統計の問題です 以下の問題がよく分らなかったので、解説お願いします 中心極限定理の分野です 実数値の小数第1位を四捨五入するとき、 生じる丸めの誤差Xは確率密度関数f(x)が f(x) = 1 (-0.5 <= x < 0.5) 0 (その他のx) の一様分布に従うとする 100個の実数に対する丸めの誤差X1,X2,...,X100が互いに 独立とするとき、 確立P( |X1+X2+...+X100| <= 5 )の近似値を求めよ X1,X2,...の数字は添え字の意味です よろしくお願いします_ _ 中学受験 がい数の問題 《質問》ある整数を6で割った商の少数第1位を四捨五入すると6になり、同じ整数を8で割った商の少数第1位を四捨五入すると4になります。ある整数は( )です。(すべて求めなさい。 《答え》33、34、35 この問題をどのように解き進めていけばよいのか、解説をお願いしますm(_ _)m 注目のQ&A 「You」や「I」が入った曲といえば? Part2 結婚について考えていない大学生の彼氏について 関東の方に聞きたいです 大阪万博について 駅の清涼飲料水自販機 不倫の慰謝料の請求について 新型コロナウイルスがもたらした功績について教えて 旧姓を使う理由。 回復メディアの保存方法 好きな人を諦める方法 小諸市(長野県)在住でスキーやスノボをする方の用具 カテゴリ 学問・教育 人文・社会科学 語学 自然科学 数学・算数 応用科学(農工医) 学校 受験・進学 留学 その他(学問・教育) カテゴリ一覧を見る OKWAVE コラム 突然のトラブル?プリンター・メール・LINE編 携帯料金を賢く見直す!格安SIMと端末選びのポイントは? 友達って必要?友情って何だろう 大震災時の現実とは?私たちができる備え 「結婚相談所は恥ずかしい」は時代遅れ!負け組の誤解と出会いの掴み方 あなたにピッタリな商品が見つかる! OKWAVE セレクト コスメ化粧品 化粧水・クレンジングなど 健康食品・サプリ コンブチャなど バス用品 入浴剤・アミノ酸シャンプーなど スマホアプリ マッチングアプリなど ヘアケア 白髪染めヘアカラーなど インターネット回線 プロバイダ、光回線など
お礼
回答ありがとうございました そうなんですか、一般的には四捨五入なんですね