double转bigDecimal精度问题
大家好,又见面了,我是你们的朋友全栈君。
double转bigDecimal精度问题 需要用到bigDecimal的字符串构造来转
float的精度 : 2^23 7位
double的精度: 2^52 16位
十进制 转 二进制 存在精度差
double g= 12.35;
BigDecimal bigG=new BigDecimal(g).setScale(1, BigDecimal.ROUND_HALF_UP); //期望得到12.4
System.out.println(“test G:”+bigG.doubleValue());
test G:12.3
原因:
定义double g= 12.35; 而在计算机中二进制表示可能这是样:定义了一个g=12.34444444444444449, new BigDecimal(g) g还是12.34444444444444449 new BigDecimal(g).setScale(1, BigDecimal.ROUND_HALF_UP); 得到12.3 正确的定义方式是使用字符串构造函数: new BigDecimal(“12.35”).setScale(1, BigDecimal.ROUND_HALF_UP)
首先得从计算机本身去讨论这个问题。我们知道,计算机并不能识别除了二进制数据以外的任何数据。无论我们使用何种编程语言,在何种编译环境下工作,都要先 把源程序翻译成二进制的机器码后才能被计算机识别。以上面提到的情况为例,我们源程序里的2.4是十进制的,计算机不能直接识别,要先编译成二进制。但问 题来了,2.4的二进制表示并非是精确的2.4,反而最为接近的二进制表示是2.3999999999999999。原因在于浮点数由两部分组成:指数和尾数,这点如果知道怎样进行浮点数的二进制与十进制转换,应该是不难理解的。如果在这个转换的过程中,浮点数参与了计算,那么转换的过程就会变得不可预 知,并且变得不可逆。我们有理由相信,就是在这个过程中,发生了精度的丢失。而至于为什么有些浮点计算会得到准确的结果,应该也是碰巧那个计算的二进制与 十进制之间能够准确转换。而当输出单个浮点型数据的时候,可以正确输出,如
double d = 2.4; System.out.println(d);
输出的是2.4,而不是2.3999999999999999。也就是说,不进行浮点计算的时候,在十进制里浮点数能正确显示。这更印证了我以上的想法,即如果浮点数参与了计算,那么浮点数二进制与十进制间的转换过程就会变得不可预知,并且变得不可逆。
事实上,浮点数并不适合用于精确计算,而适合进行科学计算。这里有一个小知识:既然float和double型用来表示带有小数点的数,那为什么我们不称 它们为“小数”或者“实数”,要叫浮点数呢?因为这些数都以科学计数法的形式存储。当一个数如50.534,转换成科学计数法的形式为5.053e1,它 的小数点移动到了一个新的位置(即浮动了)。可见,浮点数本来就是用于科学计算的,用来进行精确计算实在太不合适了。
在《Effective Java》这本书中也提到这个原则,float和double只能用来做科学计算或者是工程计算,在商业计算中我们要用java.math.BigDecimal。使用BigDecimal并且一定要用String来够造。
BigDecimal用哪个构造函数? BigDecimal(double val) BigDecimal(String val) 上面的API简要描述相当的明确,而且通常情况下,上面的那一个使用起来要方便一些。我们可能想都不想就用上了,会有什么问题呢?等到出了问题的时候,才发现参数是double的构造方法的详细说明中有这么一段: Note: the results of this constructor can be somewhat unpredictable. One might assume that new BigDecimal(.1) is exactly equal to .1, but it is actually equal to .1000000000000000055511151231257827021181583404541015625. This is so because .1 cannot be represented exactly as a double (or, for that matter, as a binary fraction of any finite length). Thus, the long value that is being passed in to the constructor is not exactly equal to .1, appearances nonwithstanding. The (String) constructor, on the other hand, is perfectly predictable: new BigDecimal(“.1”) is exactly equal to .1, as one would expect. Therefore, it is generally recommended that the (String) constructor be used in preference to this one. 原来我们如果需要精确计算,非要用String来够造BigDecimal不可!
简单来说 精确计算 ,需要用到bigDeicmal的String 构造
发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/135926.html原文链接:https://javaforall.cn
相关文章
- 一对兔子从出生后第三个月起每个月_兔子繁衍问题python
- 【题解】组合数问题
- Pycharm汉化及衍生问题
- double 转BigDecimal 丢失精度问题解决
- 【Bug解决】Unity Build GI data 卡住问题
- 【说站】js浮点数精度丢失的问题及解决
- 方法论:在不是太懂源码的情况下,我是怎么定位源码问题的?
- 怎么解决Tomcat端口被占用的问题详解程序员
- Python浮点数精度问题(包含解决方案)
- MySQL运维面试——如何答好常见的问题(mysql运维面试)
- Linux漏洞问题:CVE安全问题与解决方案(linuxcve)
- 深度探索Linux高精度定时器技术,精准解决计时精度问题!(linux高精度定时器)
- 精度与舍入问题(oracle的小数)
- 配置解决Redis Java中过期设置的问题(redisjava过期)
- MySQL中sum函数的精度问题(mysqlsum精度)
- 智能投顾行业最大问题是什么?智能投顾是风口还是泡沫? | 对话
- MySQL阻塞问题:深入挖掘与解决(mysql 阻塞)
- MySQL修改编码解决乱码问题(mysql 中修改编码)
- 如何解决MySQL下载时遇到的问题(mysql下载出现的问题)
- 确Redis时间精度问题可能更早过期(redis过期时间不准)
- sqlserver中的decimal或者numeric的精度问题
- javascript的parseFloat()方法精度问题探讨