• ベストアンサー

windowsの電卓で計算していたら

windowsの電卓で計算していたら windowsの電卓で0.000000001/600の計算をしたら 1.6666666666666666666666666666667e-12と結果が出たのですが、 e-12とは何ですか?

質問者が選んだベストアンサー

  • ベストアンサー
  • kmee
  • ベストアンサー率55% (1857/3366)
回答No.2

コンピュータではよく使われる記述で e-12 → 10の-12乗 です 手計算すると 0.000000001 = 1.0e-9 600 = 6.0e+2 から 1.0e-9 / 6.0e+2 =1.0e-9 * (1/6)e-2 =(1.0*(1/6))e(-9-2) =0.1666...e-11 =1.666...e-12

gezigezi
質問者

お礼

回答ありがとうございます。

その他の回答 (3)

  • bunjii
  • ベストアンサー率43% (3589/8249)
回答No.4

>e-12とは何ですか? 「×10の-12乗」です。(×は掛算の記号) 10の-2乗は0.01で、10の2乗は100です。 10の-3乗は0.001で、10の3乗は1,000です。 以上の規則を延長すれば0の桁数を省略した表示が出来るので電卓などの表示桁数が少ないものに応用されています。

gezigezi
質問者

お礼

回答ありがとうございます。

  • ikeda28
  • ベストアンサー率45% (19/42)
回答No.3

こんにちは。 これは桁数の多い数値を表現する場合の表記法です。 指数部と仮数部とからなります。 e-12とは単純に言うと12回右にずらした値が本当の値ですってことです。 これを行わないとすごく小さな値が結果として出ますので0.00000000-(省略)-166 みたいに電卓の表示桁では表示できないわけです。 右に1回ずらすとは1.66を0.166とすることだと思ってください。 e+12の場合は左にずらすことになります。

gezigezi
質問者

お礼

回答ありがとうございます。

noname#119957
noname#119957
回答No.1

10のマイナス12乗の桁で丸め(四捨五入)をしたという意味ではありませんか?

gezigezi
質問者

お礼

回答ありがとうございます。

関連するQ&A