• 締切済み

最小二乗法と有効数字

先日学校の授業で実験をしました。実験で得られたデータを方眼紙にプロットすると、きれいな直線になりそうなグラフになりました。そこで最小二乗法をつかってグラフの式を出したのですが、プロットしたグラフと全然合わないものになってしまいました。計算中に桁数を合わせるために有効数字を揃えて計算しました。先生に有効数字を揃えてはいけないといわれたのですが、その理由がわかりません。どなたか教えてください。

みんなの回答

  • Trick--o--
  • ベストアンサー率20% (413/2034)
回答No.1

「丸めは最期に一回」です。 何度も丸めていると、その誤差が積み重なって大きくなってしまいます。 0.504 * 0.503 * 0.502 * 0.501 = 0.063758775 0.50 * 0.50 * 0.50 * 0.50 = 0.0625

9157671
質問者

お礼

丸めるのは最後に一回ですか・・。確かに誤差の積み重なりは大きくなってしまいますね。＾＾； わかりやすい例で説明してくださりありがとうございました。m(_ _)m

すると、全ての回答が全文表示されます。
  1. カテゴリ
  2. 学問・教育
  3. 数学・算数

関連するQ&A

注目のQ&A

カテゴリ

OKWAVE コラム

あなたにピッタリな商品が見つかる！ OKWAVE セレクト

専門家に質問してみよう

職業から探して質問する
質問する