• 软件测试技术
  • 软件测试博客
  • 软件测试视频
  • 开源软件测试技术
  • 软件测试论坛
  • 软件测试沙龙
  • 软件测试资料下载
  • 软件测试杂志
  • 软件测试人才招聘
    暂时没有公告

字号: | 推荐给好友 上一篇 | 下一篇

为什么用ROUND四舍五入总是无法得到正确数值?

发布: 2007-7-02 11:08 | 作者: admin | 来源: | 查看: 10次 | 进入软件测试论坛讨论

领测软件测试网
为什么用ROUND四舍五入总是无法得到正确数值?
作者:cg1  摘自:access911.net
问题:


为什么用ROUND四舍五入总是无法得到正确数值?
比如
round(11.115,2) 竟然会等于  1.11 而不是 1.12


又比如:我在Access查询中写了以下语句:
SELECT Round(0.005, 2) as ID;
结果不是我期望的0.01,而是0,如果想得到0.01,应该怎样做?

 



回答:

原因很简单,在进行精确计算时应该使用“货币”类型字段而不是常用得“数字”“双精度”,应为双精度得存储方式不是以十进制直接存储,而是用科学计数法算出来的,总会产生误差的。
如果你必须使用双精度,建议分开存储小数位以及整数位。


关于在查询中可以使用以下语句解决
SELECT Format(0.005, @##.##@#)  AS ID;


文章来源于领测软件测试网 https://www.ltesting.net/


关于领测软件测试网 | 领测软件测试网合作伙伴 | 广告服务 | 投稿指南 | 联系我们 | 网站地图 | 友情链接
版权所有(C) 2003-2010 TestAge(领测软件测试网)|领测国际科技(北京)有限公司|软件测试工程师培训网 All Rights Reserved
北京市海淀区中关村南大街9号北京理工科技大厦1402室 京ICP备10010545号-5
技术支持和业务联系:info@testage.com.cn 电话:010-51297073

软件测试 | 领测国际ISTQBISTQB官网TMMiTMMi认证国际软件测试工程师认证领测软件测试网