- ベストアンサー
windowsの電卓で計算していたら
windowsの電卓で計算していたら windowsの電卓で0.000000001/600の計算をしたら 1.6666666666666666666666666666667e-12と結果が出たのですが、 e-12とは何ですか?
- みんなの回答 (4)
- 専門家の回答
質問者が選んだベストアンサー
コンピュータではよく使われる記述で e-12 → 10の-12乗 です 手計算すると 0.000000001 = 1.0e-9 600 = 6.0e+2 から 1.0e-9 / 6.0e+2 =1.0e-9 * (1/6)e-2 =(1.0*(1/6))e(-9-2) =0.1666...e-11 =1.666...e-12
その他の回答 (3)
- bunjii
- ベストアンサー率43% (3589/8249)
回答No.4
>e-12とは何ですか? 「×10の-12乗」です。(×は掛算の記号) 10の-2乗は0.01で、10の2乗は100です。 10の-3乗は0.001で、10の3乗は1,000です。 以上の規則を延長すれば0の桁数を省略した表示が出来るので電卓などの表示桁数が少ないものに応用されています。
質問者
お礼
回答ありがとうございます。
- ikeda28
- ベストアンサー率45% (19/42)
回答No.3
こんにちは。 これは桁数の多い数値を表現する場合の表記法です。 指数部と仮数部とからなります。 e-12とは単純に言うと12回右にずらした値が本当の値ですってことです。 これを行わないとすごく小さな値が結果として出ますので0.00000000-(省略)-166 みたいに電卓の表示桁では表示できないわけです。 右に1回ずらすとは1.66を0.166とすることだと思ってください。 e+12の場合は左にずらすことになります。
質問者
お礼
回答ありがとうございます。
noname#119957
回答No.1
10のマイナス12乗の桁で丸め(四捨五入)をしたという意味ではありませんか?
質問者
お礼
回答ありがとうございます。
お礼
回答ありがとうございます。