• 締切済み

この式をエクセルで解きたい

抵抗率を測定するため、JIS K 7194にある補正係数を求めたいと思い、エクセルで式をたてましたが、数表にある値と一致しません。数学的に解釈が間違っているのか、エクセルの入力が間違っているのか、何度見ても、分からず困っています。 数式がかなり長いので、画像として添付しますが、ポアソンの式を解いたものです。 何かヒントになるようなことだけでも良いのでよろしくお願いします

みんなの回答

  • FEX2053
  • ベストアンサー率37% (7991/21371)
回答No.1

こんだけややこしかったら、計算誤差が結構出てくるんじゃないですか? Excelは計算が苦手なソフトですから。 http://pc.nikkeibp.co.jp/article/NPC/20070601/273367/ 一気に計算せず、なるべく細かく中間の計算をセルに書き出し、その時点 で可能な限り端数処理をしながら、計算してみてください。一気に計算 させると、単純に"("の位置を間違えても分からないことが多いですよ。

henachoko2006
質問者

お礼

早速のレスありがとうございます。 エクセルが誤差を持っていることは聴いていましたが、こういう形で体験するとは思いませんでした。 >単純に"("の位置を間違えても分からないことが多いですよ。 たしかに、( )の位置を確認するだけでもたいへんでした。 実際には、一つのΣを7つに分けて計算していますが、それだでもたいへんです。 まだ解決したわけではありませんが、もう少し考えてみます。

関連するQ&A