トップ 差分 一覧 ソース 置換 検索 ヘルプ PDF RSS ログイン

10進演算の問題

http://slashdot.jp/~TarZ/journal/451895

0.1を1万回足してみる。

(#1418003) VB
@をつけるとDecimal型で解釈される。誤差なし。

(#1418010) Ruby
BigDecimalだから誤差なし。

(#1418056) VB Script
誤差あり。

(#1418017) AWK
誤差あり。続くコメントも参照。

(#1418039) C82-BASIC (CASIO FP-1100)
8ビット時代の有名な10進演算BASIC。もちろん誤差なしで1000となる。

(#1418047) Haskell
私は使ったことがないのでよく判らないのだが、このケースでは10進演算していないので誤差あり。

(#1418087) Python
Decimalなので誤差なし。

(#1418118) Java
java.math.BigDecimalでの演算なので誤差なし。コード例も書いてほしかった…。

おまけ
(#1418148) ぴゅう太 日本語G-BASIC
確か、ぴゅう太のBASICは整数のみだったはず。よって、Line 30でエラー。

[カテゴリ: プログラミング全般]



  • Hatenaブックマークに追加
  • livedoorクリップに追加
  • del.icio.usに追加
  • FC2ブックマークに追加

最終更新時間:2009年08月06日 22時41分58秒