浮動小数点演算とは

質問

浮動小数点演算とは何か調べたのですがイマイチよくわかりません。

簡単に言うとどういうことでしょうか？

回答No.3

noname#208507 · ベストアンサー

浮動小数点演算は、実数の演算の近似です。浮動小数点そのものが実数の近似で、加減乗除を1回行うごとに丸め誤差が入ります。

（今はあまり使われませんが）固定小数は、整数の適当な位置に小数点を入れて位取りする数値です。素直な表現方法ですが、大きい数や小さい数ほど桁がたくさん必要になってしまい、しかも0の桁が多くなるので効率が悪いです。

これに対して浮動小数は、M進法L桁の固定小数に、Mのn乗をかけて表す数値です。つまり10進数で6桁だと、#2さんのように「a.bbbbb x 10^n」になります。数の表現には便利ですが前述のような誤差があり、有効桁数の範囲内で本来表すべき実数と一致します。

お礼

詳細ありがとうございました。

回答No.2

Toshi0230

浮動少数とは a.bbbbb.... x 10^n という形式の数値の表示方法です。
数値計算を行う際に、数値を浮動少数として扱って演算することが、「浮動小数点演算」です。

処理がややこしく、また、浮動少数は精度を確保するために通常の整数などよりも1つの数値あたりのバイト数を大きくとっていることが多いので、演算時にCPUへの負荷が大きくなる傾向があります。

回答No.1

korokokokoro

整数ではない少数の演算。