信号のビット数制限、って出来ますか？

質問

double型での演算で、使用bit数を制限することってできますか？

何をしたいかと言うと、Cで検討した演算をH/Wに落としたいとき
信号のビット幅をどのくらいにしたら、精度がどのくらい得られるかを
Cで検討したいのですが・・・

以上のようなことが、可能なのかもどうか分かりませんが、現状
皆目検討がつきません。

どうぞよろしくお願いいたします。

回答No.1

rinkun

基礎とする演算(加減乗除など)ごとに指定したビット数に丸める処理を追加した演算関数を用意すれば可能ではないでしょうか。
簡単な方法だと仮数部の下位ビット部分を0に置き換える処理を追加するとか。これはdouble変数を64ビット整数型とみなして適当なマスクと & を取ることで実現できますね。

ただ精度評価は数式レベルでちゃんと有効桁数を評価する方が良いかと思いますけど。