- ベストアンサー
大きな桁数の計算について
初心者で申し訳ないのですが、 今、 2531101.784317 -551549.664130 1298109.439175 -2439839.366861 3029558.903444 2808716.033509 -2235302.273335 4209602.374689 -903409.098650 -12186064.825295 この10個のデータ(ベクトル)のノルムを1にしたいと思い 計算しようと思ったのですが、 今このデータはdoubleの配列D[10]に入っているのですが、 このまま、D[i]*D[i]を計算すると、やっぱりオーバーフローを起こしますでしょうか? 調べたらdoubleは16桁までとあったので、 恐らく上か下の値が切れると思ったのですが、大丈夫なのでしょうか? 失敗する場合は、どのように対処すればよいでしょうか? doubleよりも有効桁数のある型とかがあるのでしょうか? すみませんが、アドバイスお願いします。
- みんなの回答 (3)
- 専門家の回答