個体数推定における端数処理(四捨五入・切り上げ)

質問

調査で魚類の生息密度を求めているのですが、端数の丸め方に困っています。
以下の認識に基づき、どの端数処理をしたらいいのか・・・

四捨五入＝元のデータに不確かさが含まれない場合、最も誤差が小さい
切り上げ＝元のデータに誤差や不確かさが多分に含まれる場合や、安全性を重視する場合
切り下げ＝四捨五入や切り上げにより、数字が誇張される場合、切り下げる

魚類の捕獲調査自体に多分な誤差や不確かさが含まれるので、『切り上げ』が適しているのではないかと思っております。
ただし、多くの論文では、端数を『四捨五入』しています。
端数を切り上げている論文が見つからず、切り上げて良いものか悩んでいます。

具体的には以下の結果が出ており、

カジカ　12.12尾/100m2
イワナ　　0.47尾/100m2

整数値をもとめるために四捨五入してしまうと、イワナの生息密度が０尾/100m2となってしまいます。

稚拙な質問で恐縮ですが、ご教示いただけましたら幸いです。

回答No.2

tsuyoshi2004 · ベストアンサー

そもそものデータの信頼性から、何桁の有効数字が取れそうなのですか？

少なくともサンプル調査で切り身が見つかったとは思わないので、元のデータは整数だったと思います。
それで間違いなく数を１尾単位で数えたのか？たくさんいるときは目分量で約１００尾とか数えていないか？
面積にしても１m2までしっかりと計測していたのか？

などなど元のデータの有効数字の桁数がわかりません。

そうすると、元々カジカでもイワナでも有効数字が２桁しか取れないとすれば、カジカはあくまでも１２尾／１００m2でしかないはずです。
小数点以下の桁数を合わす事よりも、有効数字の桁数を合わせて、
カジカ １２尾×１０＾０／１００m2
イワナ　４７尾×１０＾－２／１００m2などと記するのが統計的には好ましいように思えます。

回答No.1

Tacosan

そもそも, なんで整数にしなきゃならないの?