zl程序教程

您现在的位置是:首页 >  后端

当前栏目

【Java基础】浮点数精度丢失问题剖析

JAVA基础 剖析 丢失 精度 浮点数 问题
2023-09-11 14:17:55 时间

一、问题引入

下面看一组计算:

public class Test {
    public static void main(String[] args) {
        System.out.println(12.0f-11.9f);
    }
}

输出结果:
在这里插入图片描述
是不是跟你预期的结果不一样呢?那么为什么结果不是0.1呢?
为何浮点数可能丢失精度呢,是因为浮点数的十进制值通常没有完全相同的二进制表示形式。 这是 CPU 所采用的浮点数据表示形式的副作用。为此,可能会经历一些精度丢失,并且一些浮点运算可能会产生意外的结果。

导致精度丢失的原因是下面之一:

  • 十进制数的二进制表示形式可能不精确。
  • 使用的数字之间类型不匹配(例如,混合使用浮点型和双精度型)。

为解决此行为,大多数程序员或是确保值比需要的大或者小,或是获取并使用可以维护精度的二进制编码的十进制 (BCD) 库。
现在我们就详细剖析一下浮点型运算为什么会造成精度丢失?

二、浮点数精度丢失问题分析

  1. 小数的二进制表示问题
    (1) 十进制整数如何转化为二进制数
  算法很简单。举个例子,11表示成二进制数:
            11/2=5 余   1
            
              5/2=2   余   1
              
              2/2=1   余   0
              
              1/2=0   余   1
              
                 0结束            
  11二进制表示为(从下往上):1011

(2) 十进制小数如何转化为二进制数

  算法是乘以2直到没有了小数为止。举个例子,0.9表示成二进制数

            0.9*2=1.8   取整数部分 1

            0.8(1.8的小数部分)*2=1.6    取整数部分 1

            0.6*2=1.2   取整数部分 1

            0.2*2=0.4   取整数部分 0

            0.4*2=0.8   取整数部分 0

            0.8*2=1.6 取整数部分 1

            0.6*2=1.2   取整数部分 0

            .........   
0.9二进制表示为(从上往下): 1100100100100......

注意:上面的计算过程循环了,也就是说*2永远不可能消灭小数部分,这样算法将无限下去。很显然,小数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了”减不尽”的精度丢失问题。

  1. float型在内存中的存储
    众所周知、 Java 的float型在内存中占4个字节。float的32个二进制位结构如下:
    在这里插入图片描述
    其中符号位1表示正,0表示负。有效位数位24位,其中一位是实数符号位。

将一个float型转化为内存存储格式的步骤为:

(1)先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。
(2)将这个二进制格式实数的小数点左移或右移n位,直到小数点移动到第一个有效数字的右边。
(3)从小数点右边第一位开始数出二十三位数字放入第22到第0位。
(4)如果实数是正的,则在第31位放入“0”,否则放入“1”。
(5)如果n 是左移得到的,说明指数是正的,第30位放入“1”。如果n是右移得到的或n=0,则第30位放入“0”。
(6)如果n是左移得到的,则将n减去1后化为二进制,并在左边加“0”补足七位,放入第29到第23位。如果n是右移得到的或n=0,则将n化为二进制后在左边加“0”补足七位,再各位求反,再放入第29到第23位。

举例说明: 11.9的内存存储格式

(1) 将11.9化为二进制后大约是” 1011. 1110011001100110011001100…”。
(2)将小数点左移三位到第一个有效位右侧: “1. 011 11100110011001100110 “。保证有效位数24位,右侧多余的截取(误差在这里产生了 )。
(3) 这已经有了二十四位有效数字,将最左边一位“1”去掉,得到“ 01111100110011001100110 ”共23bit。将它放入float存储结构的第22到第0位。
(4)因为11.9是正数,因此在第31位实数符号位放入“0”。
(5) 由于我们把小数点左移,因此在第30位指数符号位放入“1”。
(6)因为我们是把小数点左移3位,因此将3减去1得2,化为二进制,并补足7位得到0000010,放入第29到第23位。 最后表示11.9为: 01 0000010 011 11100110011001100110

再举一个例子:0.2356的内存存储格式

(1)将0.2356化为二进制后大约是0.00111100010100000100100000。
(2)将小数点右移三位得到1.11100010100000100100000。
(3)从小数点右边数出二十三位有效数字,即11100010100000100100000放入第22到第0位。
(4)由于0.2356是正的,所以在第31位放入“0”。
(5)由于我们把小数点右移了,所以在第30位放入“0”。
(6)因为小数点被右移了3位,所以将3化为二进制,在左边补“0”补足七位,得到0000011,各位取反,得到1111100,放入第29到第23位。

最后表示0.2356为:0 0 1111100 11100010100000100100000

  • 将一个内存存储的float二进制格式转化为十进制的步骤:
    (1)将第22位到第0位的二进制数写出来,在最左边补一位“1”,得到二十四位有效数字。将小数点点在最左边那个“1”的右边。
    (2)取出第29到第23位所表示的值n。当30位是“0”时将n各位求反。当30位是“1”时将n增1。
    (3)将小数点左移n位(当30位是“0”时)或右移n位(当30位是“1”时),得到一个二进制表示的实数。
    (4)将这个二进制实数化为十进制,并根据第31位是“0”还是“1”加上正号或负号即可。

三、浮点型的减法运算

浮点加减运算过程比定点运算过程复杂。完成浮点加减运算的操作过程大体分为四步:

  1. 0操作数的检查
    如果判断两个需要加减的浮点数有一个为0,即可得知运算结果而没有必要再进行有序的一些列操作。
  2. 比较阶码(指数位)大小并完成对阶
    两浮点数进行加减,首先要看两数的 指数位 是否相同,即小数点位置是否对齐。若两数 指数位 相同,表示小数点是对齐的,就可以进行尾数的加减运算。反之,若两数阶码不同,表示小数点位置没有对齐,此时必须使两数的阶码相同,这个过程叫做对阶 。
    如何对阶(假设两浮点数的指数位为 Ex 和 Ey ):通过尾数的移位以改变 Ex 或 Ey ,使之相等。由于浮点表示的数多是规格化的,尾数左移会引起最高有位的丢失,造成很大误差;而尾数右移虽引起最低有效位的丢失,但造成的误差较小,因此,对阶操作规定使尾数右移,尾数右移后使阶码作相应增加,其数值保持不变。很显然,一个增加后的阶码与另一个相等,所增加的阶码一定是小阶。因此在对阶时,总是使小阶向大阶看齐 ,即小阶的尾数向右移位 ( 相当于小数点左移 ) ,每右移一位,其阶码加 1 ,直到两数的阶码相等为止,右移的位数等于阶差 △ E 。
  3. 尾数(有效数位)进行加或减运算
    对阶完毕后就可 有效数位 求和。不论是加法运算还是减法运算,都按加法进行操作,其方法与定点加减运算完全一样。
  4. 结果规格化并进行舍入处理
  • 举例:计算12.0f-11.9f
    12.0f 的内存存储格式为: 0 1 0000010 100 0000000000 0000000000
    11.9f 的内存存储格式为: 0 1 0000010 011 1110011001 1001100110

    可见两数的指数位完全相同,只要对有效数位进行减法即可。
    12.0f-11.9f 结果: 0 1 0000010 00000011001100110011010
    将结果还原为十进制为: 0.000 11001100110011010= 0.10000038

    详细的分析
    由于对float或double 的使用不当,可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解:

public class FloatDoubleTest {
    public static void main(String[] args) {
        float f = 20014999;
        double d1 = f;
        double d2 = 20014999;
        System.out.println("f=" + f);
        System.out.println("d1=" + d1);
        System.out.println("d2=" + d2);
    }
}

测试结果:
在这里插入图片描述
从输出结果可以看出double 可以正确的表示20014999 ,而float 没有办法表示20014999 ,得到的只是一个近似值。这样的结果很让人讶异。20014999 这么小的数字在float下没办法表示。于是带着这个问题,做了一次关于float和double学习,做个简单分享,希望有助于大家对java 浮点数的理解。

四、关于 java 的 float 和 double

Java 语言支持两种基本的浮点类型: float 和 double 。java 的浮点类型都依据 IEEE 754 标准。IEEE 754 定义了32 位和 64 位双精度两种浮点二进制小数标准。

IEEE 754 用科学记数法以底数为 2 的小数来表示浮点数。

32 位浮点数用 1 位表示数字的符号,用 8 位来表示指数,用 23 位来表示尾数,即小数部分。作为有符号整数的指数可以有正负之分。小数部分用二进制(底数 2 )小数来表示。
在这里插入图片描述
对于64 位双精度浮点数,用 1 位表示数字的符号,用 11 位表示指数,52 位表示尾数。
在这里插入图片描述
以下程序可以得出 20014999 在 double 和 float 下的二进制表示方式:

public class FloatDoubleTest1 {
        public static void main(String[] args) {
            double d = 8;
            long l = Double.doubleToLongBits(d);
            System.out.println("Double:"+Long.toBinaryString(l));
            float f = 8;
            int i = Float.floatToIntBits(f);
            System.out.println("Float   :"+Integer.toBinaryString(i));
        }
    }

输出结果:
在这里插入图片描述

对于输出结果分析如下。对于 double 的二进制左边补上符号位 0 刚好可以得到 64 位的二进制数。根据double的表示法,分为符号数、幂指数和尾数三个部分如下:

0 10000010111 0011000101100111100101110000000000000000000000000000

对于 float 左边补上符号位 0 刚好可以得到 32 位的二进制数。 根据float的表示法, 也分为 符号数、幂指数和尾数三个部分如下:

0 10010111 00110001011001111001100

对比可以得出:符号位都是 0 ,幂指数为移码表示,两者刚好也相等。唯一不同的是尾数,而且可以看出尾数的前面20位都是一样的,后面开始产生误差。