投資に役立つＥｘｃｅｌ関数講座　コンピューターの苦手な小数の計算

投資に役立つエクセル関数講座　その１３　　コンピューターの苦手な小数の計算

コンピューターは小数の計算が苦手です。
ＥｘｃｅｌやWindowsに限った話ではなく、すべてのパソコン・コンピューターが該当します。

たとえば、１０．６－９．７　などという簡単な計算すら正確にできない場合があります。
０．９に決まっているじゃないかというのは人間の考え方です（確かにその通りです）。

少し実験してみましょう（事例はＥｘｃｅｌ2000を採用しています）。
セルＥ１に１．３、次のセルに１．２を入れます。



そしてふたつの小数を選択して、下へ引き伸ばしてください。
カレンダーを作るときと同じ要領です。
１．１、１．０、０．９……といった小数が自動で作成されたはずです。



ところが、０．７をよく見ると、０．６９９９９９……になっています。
（ひょっとしたら、必ずしも、０．７で発生しないかもしれません）



見かけは０．７ですが、このまま複雑な計算を行うと、思いもよらない値を返してくることが予想されます。
なぜ、このような現象が起こるのかというと、数値をメモリ内で扱う変数の型が原因です。
この問題をパソコンの使用者が外部から修正することはできません。

簡単な事例をだしてみましたが、計算中に小数が発生すると、この問題にぶつかることになります。
そこで、誤差の生じない計算を行うため、何らかの便宜的な処理が必要です。
簡単な処理としては、いったん整数に戻してから、再度、小数に直してしまうという方法があります。

１０．６－９．７　→　（１０．６×１０－９．７×１０）÷１０　としてしまうのです。
相対参照や絶対参照などで小数を扱う場合には、注意してください。

またＥｘｃｅｌでは、小数第何位まで表示とか、四捨五入とか、書式設定のために正確な値を返しているように見える場合
があります。事例では、Ｅｘｃｅｌを取り上げていますが、他のアプリケーションで起こらないとはいえません。
ＯＳの区別なく、コンピューターに現在、ついてまわっている問題です。
コンピューターが小数の計算を正確に行うことは、難しいのだと覚えておいてください。


※「タコヤン・システム」で、特に為替などの小数点を含む値を簡易マッピングするときは、整数に直すように触れています。
面倒でも、そのようにしてください。


TOPへ戻る

投資に役立つエクセル関数講座 その１３ コンピューターの苦手な小数の計算

投資に役立つエクセル関数講座　その１３　　コンピューターの苦手な小数の計算