|
|
51CTO旗下网站
|
|
移动端

2.1.2 浮点类型

《C# 6.0本质论(第5版)》第2章数据类型,本章将探讨这些数据类型,更深入地研究字符串类型,并引入数组的概念。本节为大家介绍浮点类型。

作者:周靖/庞燕 译来源:人民邮电出版社|2017-07-21 15:22

2.1.2 浮点类型

浮点数的精度是可变的。除非用分数表示时分母恰好是2的整数次幂,否则用二进制浮点类型无法准确地表示该数①1。将浮点变量设为0.1,很容易表示成0.099 999 999 999 999 999或者0.100 000 000 000 000 000 1(或者其他非常接近0.1的数)。另外,像阿伏伽德罗常数这样非常大的数字(6.02×1023),即使误差为108,结果仍然非常接近6.02×1023,因为原始数字实在是太大了。根据定义,浮点数的精度与它所代表的数字的大小成正比。准确地说,浮点数的精度由有效数字的个数决定,而不是由一个固定值(如±0.01)决定。

C#支持表2-2所示的两种浮点数。

表2-2 浮点类型

二进制数被转换成十进制数,以便于人们理解。二进制数位被转换成15位十进制数位,余数构成第16位十进制数位,如表2-2所示。具体地说,1.7×10307~1×10308的数只有15位有效数字。但1×10308~1.7×10308的数有16位有效数字。decimal类型的有效数字范围与此相似。

喜欢的朋友可以添加我们的微信账号:

51CTO读书频道二维码


51CTO读书频道活动讨论群:342347198

【责任编辑:book TEL:(010)68476606】

回书目   上一节   下一节
点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

Scrum敏捷项目管理

本书详细描述如何在复杂技术项目中使用Scrum,并结合真实的Scrum案例及专家洞识,在简明及高度概括的理论之上更侧重于实践,并不断强调Scru...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊