• ベストアンサー

Dを含む数値について

統計ソフトtspを使って計算した結果で -4.76837D-07 といった数値が出てきました -07はおそらく10の-7乗という意味なのではと思っているのですが、Dの意味がわからないこともあり、はっきりしません どなたかご教授の程よろしくお願いします

質問者が選んだベストアンサー

  • ベストアンサー
  • at9_am
  • ベストアンサー率40% (1540/3760)
回答No.2

和合・伴『TSPによる経済データの分析』 のP227によれば 3.数値に関するルール (d)1つのDまたはEがその後ろに符号のある、またはない1桁または2桁の整数値を伴って現れても良い。これは10を底とする指数表現です。例:1E2=100 です。

taka198810
質問者

お礼

ありがとうございます その本も探して参考にしたいと思います

すると、全ての回答が全文表示されます。

その他の回答 (1)

  • oldperson
  • ベストアンサー率25% (4/16)
回答No.1

倍精度浮動小数点数(double precision)の意味。 単精度の場合はEを使用。

taka198810
質問者

補足

早速の回答ありがとうございます 倍数度浮動小数点数のことについて調べたのですが、64ビットがどうこうというコンピューターのプログラミング関係の説明しかでてこないためいまいち読み方がわかりません 単純に -4.76837D-07 はどのように読めばいいのでしょうか? また、よろしければ64ビットどうこうについて噛み砕いて説明していただけないでしょうか?

すると、全ての回答が全文表示されます。

関連するQ&A