配置单元中的浮点与双精度数据类型

yi0zb3m4  于 2021-06-26  发布在  Hive
关注(0)|答案(1)|浏览(393)

根据Hive的文件:
浮点(4字节单精度浮点数)
双精度(8字节双精度浮点数)
4字节或8字节单精度浮点数是什么意思?

v440hwme

v440hwme1#

4字节和8字节是它们用来表示的空间。在所有的可能性中,数字以ieee754单精度和双精度格式表示。
简言之,浮点数表示为+/-d2e,在单精度情况下,分别将d限制为0≤ d<224,在双精度情况下为0≤ d<253。请注意,即使是带有简单十进制表达式的小数(如0.1),也不能自动准确地用这些格式表示。相反,0.1以单精度表示为134217732-27,以双精度表示为36028797018963972-55。这些是很好的近似值,因为227是134217728,255是36028797018963968。双精度近似更好,而且没有一个是精确的,因为对于任何整数d和e,0.1永远不能写成d2e。

相关问题