3.1.2 二元算术运算符(浮点类型的特殊性)
3. 浮点类型的特殊性
浮点类型float和double有一些特殊性,比如它们处理精度的方式。本节通过一些具体的例子来帮助你认识浮点类型的一些特殊性。
一个float具有7位精度,能容纳值1 234 567和值0.123 456 7。然而,如果将这两个float值加到一起,结果会被取整为1 234 567,因为小数部分超过了一个float能够容纳的7位有效数字。这种类型的取整有时是致命的,尤其是在执行重复性计算或者检查相等性的时候(参见稍后的“高级主题:浮点类型造成非预期的不相等”)。
注意,一次简单的赋值就有可能引发精度问题,比如double number = 4.2F。由于double能容纳比float更精确的值,所以C#编译器实际会将这个表达式解释成double number = 4.1999998092651367。4.1999998092651367作为一个float值确实是4.2,但在表示成一个double的时候,并不准确地等于4.2。
高级主题:浮点类型造成非预期的不相等
在比较两个值是否相等的时候,浮点类型的不准确性可能造成非常严重的后果。有的时候,本来应该相等的被错误地判断为不相等,如代码清单3-7所示。
代码清单3-7 由于浮点类型的不准确性而造成误判为不相等
decimal decimalNumber = 4.2M; Trace.Assert(decimalNumber != (decimal)doubleNumber1); Trace.Assert((double)decimalNumber != doubleNumber1); Trace.Assert((float)decimalNumber != floatNumber); Trace.Assert(doubleNumber1 != (double)floatNumber); Trace.Assert(doubleNumber1 != doubleNumber2); Trace.Assert(floatNumber != doubleNumber2); Trace.Assert((double)4.2F != 4.2D); Trace.Assert(4.2F != 4.2D); |
输出3-6展示了代码清单3-7的结果。
输出3-6
4.2 != 4.20000006258488 |
Assert()方法用于在参数求值为false的时候显示一个对话框 。然而,上述代码中的所有Assert()语句都会求值为true。所以,虽然根据源代码,值应该是完全相等的,但由于浮点数的不准确性,它们被错误地判断为不相等。此外,这里不存在复合舍入误差。由C#编译器而不是“运行时”来执行计算。即使直接赋值4.2F,而不是通过计算来赋值,比较时也认为是不相等的。
为了避免因为浮点类型的不准确性而造成非预期的结果,开发者应避免使用这些类型来建立相等性条件。相反,相等性求值应该包含一个容差(tolerence)。为此,一个简单的办法就是在一个值(操作数)上减去另一个值,然后计算结果是否小于最大容差。另外,更好的方案是使用decimal类型,而不是浮点类型。
浮点类型还有其他一些特殊性。例如,一个整数除以零,理论上来说应造成一个错误。对于精确的数据类型(比如int和decimal)来说,这一点是成立的。然而,float和double允许一些特殊的值。例如代码清单3-8和输出3-7所示。
代码清单3-8 浮点数除以零,显示“非数字”
float n=0f; |
输出3-7
非数字
在数学中,特定的算术运算是未定义的。在C#中,0F除以值0会得到“Not a Number”(非数字)。如果试图打印这样的一个数,那么实际输出的就是“非数字”。类似地,获取一个负数的平方根(System.Math.Sqrt(-1))也会得到“非数字”。
浮点数也可能溢出其边界。例如,float的上边界是3.4E38。一旦溢出这个边界,结果数就会存储为“正无穷大”,打印这个数,会输出“正无穷大”。类似地,float的下边界是-3.4E38,溢出这个边界,会得到“负无穷大”。代码清单3-9分别生成正负无穷大,输出3-8展示了结果。
代码清单3-9 溢出一个浮点值的边界
// Displays: -Infinity |
负无穷大 |
| 回书目 上一节 下一节 |
|
||||
| · 龙芯要做中国的“奔腾” · 2008年上半年IT技术图.. · 虚拟化的“赤壁之战” · 服务器节能与绿色IT · 微软出价446亿美元收购.. · 脉冲无线电uwb专题 · 802.11n:下一代的无线.. · 云计算时代来临 |
· IT工程师该不该考CCIE.. · 浏览器的战国时代 · 2008年上半年全国软考.. · 无线网络环境 · 无线网状网(MESH) · 无线重中之重:安全问题 · 网络故障排除宝典 · Windows Server 2008专.. |
|||
|
||||
| · SOA 面向服务架构 · SQL Server 2008/2005.. · Apache技术专题 · 三层交换技术专题 · SQL Server入门到精通 · 无线网状网(MESH) · Windows远程桌面应用 · C#技术开发指南 |
· Apache技术专题 · Windows集群服务应用 · C#技术开发指南 · 文档格式标准开战 OOXM.. · 路由器设置与口令恢复 · Linux 集群技术专题 · PHP开发应用手册 · SOA 面向服务架构 |
|||
|
||||
| · SQL Server入门到精通 · SQL Server 2008/2005.. · SOA 面向服务架构 · Apache技术专题 · C#技术开发指南 · 三层交换技术专题 · Apache技术专题 · C#技术开发指南 |
· Windows远程桌面应用 · 企业数据恢复指南 · Windows集群服务应用 · 路由器设置与口令恢复 · Linux 集群技术专题 · SOA 面向服务架构 · 了解统一威胁管理(UTM).. · 解析35岁技术人的价值.. |
|||