关于浮点数计算不准的问题
计算 关于 浮点数 问题
2023-09-27 14:22:00 时间
![](https://images.cnblogs.com/OutliningIndicators/ContractedBlock.gif)
1 #include <stdio.h> 2 int main() 3 { 4 float x = 1.3; 5 x = x - (int)x; 6 int j = (int)(x*10); 7 int i = (int)(x*10+0.00005); 8 printf("j=%d \n",j);//j=2 9 printf("i=%d \n",i);//i=2 10 return 0; 11 }
上面的代码一个J=2,一个,i=3,这说明了使用浮点数不注意很容易出错,浮点数存在精度问题,因为浮点数不能准确的存储只能用最接近的,所以要么给其加一个精度(#define EPS (0.000001)),要么用double.
如float(4字节),double(8字节),(精度越来越高,占字节数越多)精度即使再高,也是有限的,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题.
相关文章
- 关于C语言中不同类型数据进行计算 有符号和无符号数进行计算
- 【云计算】XaaS最全介绍(按24字母合集):AaaS、BaaS、CaaS、DaaS、EaaS、FaaS、GaaS、HaaS、IDaaS…
- (《机器学习》完整版系列)第12章 计算学习理论——12.5 无限假设空间(特殊的“无限”:若“打散”产生的的VC维有限)
- 【云计算】云计算六大优点简单说明
- 海量数据 "写入、共享、存储、计算" 最佳实践
- 关于js计算非等宽字体宽度的方法
- 《高性能科学与工程计算》——1.3 存储层次
- 《Storm分布式实时计算模式》——2.4 把toplogy提交到集群中
- 未来国际智慧城市之道:云计算、大数据、安全缺一不可
- 关于磁盘冗余阵列、热备、群集、负载均衡、云计算、F5、Nginx等的概念和基本原理
- 开源要“开”得安全高效:开源云计算的五大发展趋势
- 按小时计算两个时间的差值,结果精确到分钟
- 专家解读云计算核心理念及趋势 业内共论未来企业
- iOS - 处理计算精度要求很高的数据,floatValue,doubleValue等计算不精确问题
- “超融合”市场持续升温 或突破现有云计算架构格局
- 安徽省人民政府关于促进云计算创新发展培育信息产业新业态的实施意见
- CAD中如何快速计算图形重量?
- (原+转)使用opencv的DFT计算卷积
- 云计算10年寒窗,决定命运的高考时刻已至!