- ベストアンサー
エクセルの三角関数の精度はどのくらいでしょうか?
エクセルの三角関数(SIN,COS)で得られる値の精度はどのくらいでしょうか? 当方はOffice2003 SP3を使用しています。
- みんなの回答 (4)
- 専門家の回答
質問者が選んだベストアンサー
- ベストアンサー
noname#157410
回答No.4
マイクロソフトがこの件に関しては公開してません。 以前にVBAでプログラム組んだときに、同じところで制度が出てないのに気づきました。 表示桁数にもよると思いますが、どこで四捨五入されているかが見当つきませんでした。 手で計算した値と、会わなかったので、色々試したのですが、有効表示桁数に対し無効表 示桁数小数点第4位で四捨五入されているようには感じましたが、そこまで詳しく見るつも りは無かったので、それ以上は見ていません。
その他の回答 (3)
noname#157410
回答No.3
切り捨て、切り上げ、四捨五入の関数しだいでしょ? 四捨五入切り捨て切り上げ、などの関数どうすかうかだと思います。 何桁目で、四捨五入するとか、設定次第でパーセンテージは変わります。 エクセルまかせなら、制度云々は分からないとしかいいようがない。 VBA組んで、検証してみれば分かります。
質問者
お礼
ありがとうございました。
質問者
補足
ROUND()関数などの関数を使わない。SIN()関数が出力する生の値が どのくらいの精度があるのかが気になっています。
noname#204879
回答No.2
No.1です。 100% が最高「精度」ということであれば、99.9999999999999% に相当するのかな?
質問者
補足
私もそのぐらいだとは思いますが、 なにか公表されているデータでありませんかね? たとえばPI()関数は確か15桁としっかり書かれていました。
noname#204879
回答No.1
0.0000000000001% くらいだと思います。
お礼
なるほど、そういう意味でしたか。 情報ありがとうございます。