Excel で小数の計算が合わない
Excel で小数の計算を行うと、結果がおかしく表示されることがあります。
=1.9-1.8-0.1 と入力すると、-1.38778E-16 といったエラーのような数値が表示されているかもしれません。
浮遊小数点では誤差が出ることがあります。誤差が出ることにより、欲しい答えにならないことがあります。
1.9 – 1.8 – 0.1 は 0 になってほしいところですが、誤差が結果として表示されていることがあります。原因は、浮遊小数点を二進数にするときに誤差が生じるためです。
1.9 – 1.8 を入力すると、結果は 0.1 です。ただ、小数桁を増やしてくと、0.1 ではなくなります。これが誤差となっています。
解決する方法は、固定小数点を利用することです。指定ができない場合は、なるべく整数で計算を行って、最後に小数に戻すという方法があります。
( 19 – 18 – 1 ) / 10 とすると正しい形にできる可能性が高くなります。
Excel では「表示桁数で計算する」というオプションにチェックすることで誤差を防ぐことができます。対象がブック全体になってしまうことと、数値が丸められてしまうため、逆に誤差が出てしまう可能性があります。