トップ 一覧 置換 検索 ヘルプ RSS ログイン

10進演算の問題の変更点

  • 追加された行はこのように表示されます。
  • 削除された行はこのように表示されます。
http://slashdot.jp/~TarZ/journal/451895

0.1を1万回足してみる。

(#1418003) VB
@をつけるとDecimal型で解釈される。誤差なし。

(#1418010) Ruby
BigDecimalだから誤差なし。

(#1418056) VB Script
誤差あり。

(#1418017) AWK
誤差あり。続くコメントも参照。

(#1418039) C82-BASIC (CASIO FP-1100)
8ビット時代の有名な10進演算BASIC。もちろん誤差なしで1000となる。

(#1418047) Haskell
私は使ったことがないのでよく判らないのだが、このケースでは10進演算していないので誤差あり。

(#1418087) Python
Decimalなので誤差なし。

(#1418118) Java
java.math.BigDecimalでの演算なので誤差なし。コード例も書いてほしかった…。

おまけ
(#1418148) ぴゅう太 日本語G-BASIC
確か、ぴゅう太のBASICは整数のみだったはず。よって、Line 30でエラー。

{{category2 プログラミング全般}}