RPGLE中的取整函数
a=5
b=2
eval(h) c = a/2
newbiezhang 回复于:2003-07-13 08:54:55 |
rpgle是这样的吗?
rpg是在第多少(不记得了)列,置标志H |
AUGUSTLIN 回复于:2003-07-13 09:32:38 |
%DECH();%INTH();%UNSH()后两个参数位长度及精度; |
e_server 回复于:2003-07-13 17:20:33 |
相关的Extend 有很多,
P 先清空,后赋值 H 四舍五入 E 判断错误,与%error 合用 ...... 有兴趣的话可以查看RPGLE Reference。 用rpg编程会遇到精度的问题,只是对压缩十进制而言的。如果使用float型 就不会遇到精度的问题,所以还可以使用%float 保持精度。 |
michael9406 回复于:2003-07-13 17:51:38 |
[quote:0671b9def3="e_server"]相关的Extend 有很多,
P 先清空,后赋值 H 四舍五入 E 判断错误,与%error 合用 ...... 有兴趣的话可以查看RPGLE Reference。 用rpg编程会遇到精度的问题,只是对压缩十进制而?.........[/quote:0671b9def3] 极是极是。 |
延伸阅读
文章来源于领测软件测试网 https://www.ltesting.net/