PCまめ知識

　Excelを使って、『測定値があらかじめ規定しておいた基準値以上だったら合格として、その値に満たなかったら不合格とする』といった「検査表」を作成する場合の注意点を解説しましょう。

　まず、緑の「検査表」をじっくり眺めてみてください。E列に測定値Aと測定値Bの差を求める数式が、F列に『その差が基準値以上だったら「OK」と表示し、それ以外の場合には「NG」と表示する』数式が設定してあります。この「検査表」に整数値を入力してみると、正しく判定されていることがわかります。測定値や基準値がすべて整数の場合には、とくに注意すべき点はありません。

　一方、青の「検査表」には緑の「検査表」とまったく同じ数式が設定してありますが、唯一、測定値や基準値を小数点下1桁の小数で入力・指定するところが違っています。では、こちらの「検査表」に小数点1桁の小数を入力してみると……なんと、本来、「OK」と表示すべきところなのに「NG」と誤って表示されている箇所があります。

　誤って判定をしてしまったのは、Excelが小数を扱う仕組みに原因があります。コンピュータは数値を「0」と「1」だけからなる2進数で扱っていますが、2進数では小数を精確に表現することができないため、近似値で表現するのが一般的です。

　今回の「検査表」のように、2つの値を比較する場合、見た目は同じ小数に見えても、実際には異なっているということが起こりえるのです。

　ここら辺の仕組みは頭で考えるだけでは、なかなかピンとこないかも知れません。測定値Aと測定値Bを引き算する数式が設定しあるセル（E8セル〜）の表示形式をより多くの桁を表示するように変更してみてください。「0.2」と表示されていた小数の表示桁数を増やしていくと、あるところでいきなり
「0.199999999999996」というように、異常に切りの悪い小数の表示に変わります。これが「小数値を近似値で表現している」ということです。