• ベストアンサー
※ ChatGPTを利用し、要約された質問です(原文:-1.#IND00と出てしまうのですが・・・)

-1.#IND00と出てしまうのですが・・・

このQ&Aのポイント
  • vc++(2010)でガウスの消去法を使って連立方程式を解く、というプログラムを組みました。
  • 結果に-1.#IND00と出てしまいました。
  • これは何なのでしょうか?

質問者が選んだベストアンサー

  • ベストアンサー
  • rinkun
  • ベストアンサー率44% (706/1571)
回答No.2

それは浮動小数点数の非数(NaN: Not a Number)に対するVC++での表現です。 ANo.1さんの記述からするとゼロ除算により非数になっているようですね。 なお、非数は自身とすら一致しないという特徴があるので、比較して分岐処理とかするなら気をつけてくださいね。

noname#177863
質問者

お礼

やはりpで割っていたために無限大となっていました。 ありがとうございます。

その他の回答 (2)

  • rinkun
  • ベストアンサー率44% (706/1571)
回答No.3

Ano.2です。 勘違い。1.#IND00は無限大だった。ゼロ除算で無限大の結果になっているだけね。

  • colder
  • ベストアンサー率43% (30/69)
回答No.1

ざっと見たところ、pで割っているところがありますが、 pは0で初期化されて以降、0以外の値が代入されていないようです。

関連するQ&A