你真正理解"Allow Unrounded Floating Point Operations"选项

领测软件测试网

　　 
　　来自微软的资料鼓吹：高级优化对话框中的所有编译选项都被认为是不稳定的，它们可能导致不正确的结果，甚至程序崩溃。对于其中的大多数，这种说法是正确的，但是经常有一个叫做"Allow Unrounded Floating Point Operations"的选项能够给予正确的结果，防止应用程序产生bug。

考虑下面的代码段：

Dim x As Double, y As Double, i As Integer

x = 10 ^ 18

y = x + 1 ' this can't be expressed with 64 bits

MsgBox (y = x) ' 显示 "True" (不正确的结果)


严格地说，由于X和Y变量不包含相同的数值，MsgBox将显示False。可问题是，由于数值1E18与1E18＋1都以相同的64位浮点Double类型来表示，它们最终包含了几乎相同的数值，最后的MsgBox结果将是True。

如果打开了"Allow Unrounded Floating Point Operations"编译选项，VB就能重用已在数学协处理器堆栈中的数值，而不是内存中的数值（比如：变量）。因为FPU堆栈具备80位的精度，因此就可以区分出这2个数值的不同：


' if the program is compiled using the

' "Allow Unrounded Floating Point Operations" compiler option

MsgBox (y = x) ' 显示 "False" (正确的结果)


总结一下：当以解释模式、或者编译的p－code模式、或者编译的native代码模式但关掉"Allow Unrounded Floating Point Operations"选项这3种方式运行一个程序时，所有浮点数字运算在内部都以80位的精度进行处理。但如果有一个数值是存储在64位Double变量中，结果就是接近的了，并且，随后使用那个变量的表达式也将产生近似的结果，而不是绝对正确的结果。

相反，如果打开"Allow Unrounded Floating Point Operations"编译选项后运行一段native编译代码，在随后的表达式中VB就经常能重用内部的80位数值，而忽略存储在变量中的当前数值。注意：我们并不能完全控制这个功能，VB也许对此生效，也许就不生效，这要取决于表达式的复杂程度以及最初分配数值语句与随后产生结果的表达式语句的距离远近。

文章来源于领测软件测试网 https://www.ltesting.net/