トップ 一覧 置換 検索 ヘルプ RSS ログイン

JavaScriptで丸め誤差を対処するの変更点

  • 追加された行はこのように表示されます。
  • 削除された行はこのように表示されます。
!簡易的な対応
必要な少数桁が決まっているなら、計算時に整数に変換し、計算後に少数に戻す。
例えば、
  0.0011 * 5 = 0.0055000000000000005
 の場合は
   0.0011 * 1000 * 5 / 10000 = 0.0055
ただし、計算が簡単な場合でないと使えない。

!JavaScript用 BigDecimalを使う
http://jomura.net/blog/index.php?p=1757
 e = new BigDecimal("4.321").multiply(new BigDecimal("100"))
{{ref js_bigdecimal_1_0_1.zip}}

{{category2 プログラミング言語,JavaScirpt}}