エクセルでの計算結果

質問

エクセルでt検定をすると、2.215E-19のように「数字E+数字」という結果になってしまいます。標本数を少なくしたり、標本数が多くても数値を変えて試すとちゃんとした結果がでることもあります。原因と解決法を教えてください。

回答No.3

imogasi · ベストアンサー

＜2.215E-19のように＞ご参考
2.215E-19のＥ－１９は「指数表示」と言います。
指数部（exponent）と仮数部（mantissa）に分かれます。
Ｅはexponentの頭文字です。
小数点の付いた非常に大きい値や非常に小さい値は，指数表示になります。
-12345.678で指数表示の場合 -1234E+1 あるいは -12345E1
-0.0000001で指数表示の場合 -1.0E-7
などとなります。
実数（浮動小数点数）について使われる．計算機では数学的な意味での実数（小数点以下に無限個の桁をもつ）を直接に扱うことはできない．その代わりに用いられるのが一定の有効桁数をもつ「基数部」と小数点の位置を表わす「指数部」の組み合わせからなる浮動小数点数である．
計算機内部では浮動小数点数は整数とはまったく異なる形式で表現される。
＜どうにかならないか＞
t検定だけの問題でなく、コンピュタの数字表示の仕様です。
表示形式をいじくると望みの表示に近くなるかもしれない。
表示形式を数値にしても、１６桁を越えると正しく表示されません。通常の数でも、表示形式を「指数」とすると、指数表示
に出きます。

お礼

回答ありがとうございます。大変よくわかりました。

回答No.2

osamuy

Excelでの数値計算は、だいたい有効桁数16桁程度ですので、計算誤差が生じるのは、仕方ないところです。
さらに、統計関数のように、多数の数値を処理する場合、データの順番により、桁落ちや、積み残しが発生しやすいです。

相対誤差を評価して、真の値より十分小さければ、それでOKではないかと。

お礼

回答ありがとうございました。

回答No.1

souta_n

桁数が大きくて自動的に指数表示になったということでしょうか？
列幅を広げるとか、RoundやRoundup、Rounddown関数で桁を丸めるとか、書式メニュー　→　セル　→　表示形式を標準にするとかすると直りそうですが。
t検定がいまいちわからないところです。なにかのEXCEL検定試験のことですか？

補足

回答ありがとうございます。早速試してみましたが、残念ながらどれも効果がありませんでした。t検定は統計の関数で、ttestで計算できます。