基準日を100とする計算

質問

恥ずかしい算数の計算です。基準日を100として、その後の変動を調べるのですが、私はこのようにしています。

(例)
基準日の値
1617.52とすると

100÷1617.52=0.061823
1617.52×0.061823≒100.0
としていました。

ある日の基準が-3.07%の日を100として計算しようとしましたが、同じようにしてもどうしても100.1になってしまいます。計算は同じような手順で
100÷0.0307=3257.32899
-0.0307×3257.32899=100.1となってしまいます。マイナスが付いてなれば100.0になりました。数字に弱いのでなんともよく分かりません。教えていただけないでしょうか？

回答No.1

Ki4-U2 · ベストアンサー

変ですね。手計算では、-0.0307×3257.32899 は
-99.999999993
になりました。パソコン（エクセル）でも同じです。
（パソコンもあまり桁数が大きいと計算誤差がでますが、この(10桁)くらいなら問題ないはず。）
100.1 にはなりそうにないですね。

計算は電卓を使われたのでしょうか？
押し間違いということはないでしょうか。
（たとえば 100.1÷3257.32899≒0.0307307 なので、
掛け算するときに 307 を2回押してたとか）

計算に使われた電卓（100均とかメーカー製関数電卓とか）／ソフトの種類、具体的な計算の手順などを補足していただけると、何か手がかりになるかもしれません。

（どのようなデータの変動を調べるのか分かりませんが、
基準が「%」でしかもマイナスというところが(100.1の件とは別に)気になりますが）

お礼

Ki4-U2さんありがとうございました。ご指摘の通りでした。いろいろと考えていただき大変有難かったです。