有限ビットでの問題

2001/12/21 23:54

　コンピューター内部での数値が、有限桁（有限ビット）で表現されているために生じている問題について教えてください。

みんなの回答

2001/12/22 00:14 回答No.1

コンピュータは実数計算を有限の桁数でしか計算することができないので、正しいアルゴリズムを組んでも計算をするうちに桁末尾から誤差がだんだん広がってきてしまいます。いわゆる表現精度の問題ですね。例) 10÷3＝3.33333... 3.33333×3＝9.99999