• 締切済み

計算における有効数字について

画像の計算における有効数字は何桁になりますか?

みんなの回答

  • asuncion
  • ベストアンサー率33% (2127/6289)
回答No.2

① 有効数字は4桁なので、 計算時も4桁にそろえてから行なう(途中もそう)。 10桁も出しちゃダメ。 1 / (1.930 × 10^-4 × 0.3692) = 1 / 7.126 × 10^-5 = 1.403 × 10^4 ② 有効数字は3桁 180 / (1.93 × 6.02 × 10^23) = 180 / 1.16 × 10^24 = 1.55 × 10^-22 ありゃ?指数の数字が違ってるけど、まあええか。

  • aokii
  • ベストアンサー率23% (5210/22062)
回答No.1

計算における有効数字は計算に使った数の最小の有効数字になりますので4桁になります。

関連するQ&A