トップ 差分 一覧 ソース 置換 検索 ヘルプ PDF RSS ログイン

JavaScriptで丸め誤差を対処する

簡易的な対応

必要な少数桁が決まっているなら、計算時に整数に変換し、計算後に少数に戻す。
例えば、

 0.0011 * 5 = 0.0055000000000000005
の場合は
  0.0011 * 1000 * 5 / 10000 = 0.0055

ただし、計算が簡単な場合でないと使えない。

JavaScript用 BigDecimalを使う

http://jomura.net/blog/index.php?p=1757

e = new BigDecimal("4.321").multiply(new BigDecimal("100"))

js_bigdecimal_1_0_1.zip(571)

[カテゴリ: プログラミング言語 > JavaScirpt]



  • Hatenaブックマークに追加
  • livedoorクリップに追加
  • del.icio.usに追加
  • FC2ブックマークに追加

最終更新時間:2011年10月17日 21時21分36秒