Javascript浮点数乘积运算出现多位小数的解决方法
JavaScript方法 解决 出现 运算 小数 浮点数 乘积
2023-06-13 09:15:17 时间
Javascript在进行浮点数的乘积运算,会出现多位小数的情况。
这是由于在运算的时候先把浮点数转化成二进制后进行运算,但是有的小数在二进制编码后出现无限循环,因而导致计算出现了误差,在其它变成语言中也有类似的问题。
原因解释参考自百度知道:
例如:求1038.1-1000
1038.1=10000001110.0001100110011001100110011001100110011001100.....
1000=1111101000
1038.1转化为二进制是个无限循环小数,1100是循环节,只能取近似值,误差就是这里产生的如果浏览器版本高,可以用toFixed()方法可把Number四舍五入为指定小数位数的数字。
解决方案:根据要保留的小数位数(如4),在计算乘积的时候先乘以(10^4),然后对计算结果除以(10^4),最后对结果取近似值Math.round
varm1=2232.00,
percent=(10/100),
total=percent*m1;
alert(total);//223.20000000000002
total=Math.round(total*10)/10;
alert(total);//223.2
相关文章
- JavaScript 基本知识
- javascript圆上每个点的坐标计算方法详解编程语言
- 微信pc打开链接不运行javascript的解决方法详解编程语言
- 用javascript动态调整iframe高度的方法
- xml与javascript结合的问题解决方法
- 用javascript实现div可编辑的常见方法
- javascript网页跳转的方法
- JavaScript注册表访问实现代码
- javascript代码在ie8里报错document.getElementById(...)为空或不是对象的解决方法原创
- javascript操作cookie方法函数集合
- javascript对数组的常用操作代码数组方法总汇
- javascript中IE浏览器不支持NEWDATE()带参数的解决方法
- 用原生JavaScript实现jQuery的$.getJSON的解决方法
- JavaScript的setAttribute兼容性问题解决方法
- JavaScript中的常见问题解决方法(乱码,IE缓存,代理)
- JavaScript中Math对象方法使用概述
- 中止javascript执行的方法
- PHP+javascript制作带提示的验证码源码分享
- JavaScript定义类和对象的方法
- 借助JavaScript脚本判断浏览器FlashPlayer信息的方法
- 纯JavaScript实现获取onclick、onchange等事件的值
- JavaScript中的方法调用详细介绍
- javascript实现在某个元素上阻止鼠标右键事件的方法和实例
- javascript在IE下trim函数无法使用的解决方法