JavaScriptで数値の有効桁数を計算するコードを作ってみました

イントロダクション

記事「HTMLとJavaScriptで単純なアニメーション付きの横向き棒グラフを作成する-アニメーションパターン:増加割合固定」にて、グラフ上に表示する数値の有効桁数の計算のために、数値の有効桁数を計算するコードを作ってみました。

有効桁数とは

信頼できる数値の桁数のことを”有効桁数”といいます。（参考文献１）

いくつか例を挙げて説明します。

数値が 1.23 の場合、有効桁数は 3 桁です。
それは、"1.23" の 3 桁分の数値は信頼できるものですが、1.23 の次には何が来るかわかりません。つまり、有効桁数は 4 桁はないということです。

数値が 0.01 の場合、有効桁数は 1 桁です。
それは、0.01 の次には何が来るのかわからないからです。
0.01 と記載されていると、有効桁数が 3 桁あるように見えてしまうかもしれませんが、0.0 の部分はあくまで値の大きさを表しているだけだからです。

数値が 10.00 の場合、有効桁数は 4 桁です。
これは、10.00 という表記により、1 の次に 3 つ分の 0 があるということを明示的に示しているためです。

数値が 1000 の場合、有効桁数は 1桁～4桁のどれなのかわかりません。
この問題に対処するために、表記としては、
　1000.
とすることで、有効桁数が 4 桁あることを明示しています。(参考文献２）
もしくは、指数形式で表示することで、有効桁数を明示することもできます。
　1e3 -> 有効桁数は 1 桁
　1.0e3 -> 有効桁数は 2 桁
　1.00e3 -> 有効桁数は 3 桁
　1.000e3 -> 有効桁数は 4 桁

以上を踏まえて、JavaScript で数値の有効桁数を計算するコードを作ってみました。
（JavaScript には指定した有効桁数で数値を文字列に変換するメソッド Number.prototype.toPrecision() がありますが、数値の有効桁数を取得するメソッドは見当たらなかったので、今回自作した次第です。）（参考文献３）

コード

以下のメソッド getSignificantFigures にて、数値を文字列として引数に渡すと、その数値の有効桁数を計算します。

    /*
    　数値の有効桁数を取得する

      str : 10進の数値を保持したテキスト
    */
    function getSignificantFigures(str) {

        // 不要な文字を消す(符号）
        str = str.replace(/[+-]/g, "");

        // 数値の終わりの 0 の列を消す
        //   1000 の場合 000 を消す
        //   1.000 の場合 000 は消さない
        if (!(/^\d*\./.test(str))) {
            str = str.replace(/0+$/g, "");
        }

        // 小数点を消す
        str = str.replace(/\./g, "");

        // 数値の先頭の 0 の列を消す
        str = str.replace(/^0+/g, "");

        // 指数形式の指数部を消す
        str = str.replace(/[eE]\d+/g, "");

        return str.length;
    }

行っていることは、正規表現にて、有効桁数ではない部分を削除しています。
そして、最後には有効桁数の部分のみになるので、その部分の長さを返却しています。

結果

以下のテスト用コードを実行し、有効桁数を求めてみました。

テスト用コード

    var str = "";

    str = "1.23";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "0.01";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "10.00";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "1000.";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "1e3";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "1.0e3";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "1.00e3";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "1.000e3";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

    str = "+1.000e-3";
    document.writeln(str + " の有効桁数：" + getSignificantFigures(str) + " 桁<br />");

実行結果

1.23 の有効桁数：3 桁
0.01 の有効桁数：1 桁
10.00 の有効桁数：4 桁
1000. の有効桁数：4 桁
1e3 の有効桁数：1 桁
1.0e3 の有効桁数：2 桁
1.00e3 の有効桁数：3 桁
1.000e3 の有効桁数：4 桁
+1.000e-3 の有効桁数：4 桁

以上より、正しく数値の有効桁数を計算出来ていることがわかります。

なお、いかに上記メソッドを使用して、試しに計算できるテキストボックスを設置したので、使ってみてください。

参考文献

Dr.ウーパのコンピュータ備忘録

2014年5月29日木曜日