• 测试技术
  • 博客
  • 视频
  • 开源
  • 论坛
  • 沙龙
  • 下载
  • 杂志
  • 招聘

字号: | 推荐给好友 上一篇 | 下一篇

使用浮点数和小数中的技巧和陷阱

发布: 2008-9-09 09:05 | 作者: 不详 | 来源: 领测软件测试网采编 | 查看: 89次 | 进入领测软件测试网论坛讨论

领测软件测试网 软件测试技术第一门户t2s6ybYA:V)?C"w#r

软件测试技术第一门户:o;KZ3R;J5l,b)i&|e

在执行这段似乎无害的代码时会抛出一些令人迷惑不解的异常(这取决于具体的 JDBC 驱动程序),因为 0.01 的双精度近似值会导致大的换算值,这可能会使 JDBC 驱动程序或数据库感到迷惑。JDBC 驱动程序会产生异常,但可能不会说明代码实际上错在哪里,除非意识到二进制浮点数的局限性。相反,使用 BigDecimal("0.01") 或 BigDecimal(1, 2) 构造 BigDecimal 来避免这类问题,因为这两种方法都可以精确地表示小数。软件测试技术第一门户!{