.NET数值类型的精度
发表于:2007-07-01来源:作者:点击数:
标签:
float类型占32bit空间,只有7位精度,下面的程序 public class FloatPrecision { public static void Main() { Console.WriteLine((int)123456789F); } } 输出结果为123456792. double占64bit空间,15~16位精度,下面的程序 public class DoublePrecision { p
float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as a
clearcase/" target="_blank" >ccounting) where rounding errors must be avoided.
原文转自:http://www.ltesting.net