C#计算float类型数据求和不精确问题
2015-07-22 19:58
519 查看
今天用C#计算10000个float数据求和结果与Excel比对居然相差五百多,网上查了半天,最后结果是将类型转换为decimal,问题最终解决。
下面附上一些查到的东西
1、float只有7位有效数字,decimal类型比float,double精度高 http://bbs.csdn.net/topics/390575433
2、关于数字类型字符串 https://msdn.microsoft.com/zh-cn/library/dwhawy9k.aspx
下面附上一些查到的东西
1、float只有7位有效数字,decimal类型比float,double精度高 http://bbs.csdn.net/topics/390575433
2、关于数字类型字符串 https://msdn.microsoft.com/zh-cn/library/dwhawy9k.aspx
相关文章推荐
- C#缓存的一点想法及测试
- C# 基本知识纪录
- C# 创建文件夹及文件
- C# 通过反射来动态创建泛型类型
- c#反射使用
- C#的语法结构
- C# 交叉数组和二维数组的简单区别
- 《C#高级编程(第六版)》泛型学习笔记(一):泛型优点和特性 (转载)
- C#从类序列化为xml文件,和从xml文件反序列化为类,XmlSerializer
- (转)C#彻底关闭窗体
- 《C#高级编程》之委托学习笔记 (转载)
- C#高级编程四十七天----集合接口和类型
- C#基础回顾:正则表达式
- Winform 获取相对路径 C#
- c#抽象工厂类
- C#设计模式纵横谈 笔记+原教程(很好很详细)
- C# 属性和字段 get set
- 大白话系列之C#委托与事件讲解(一)
- C# 创建EXCEL文件
- .Net学习笔记----2015-07-22(C#基础复习10,面向对象2个小练习)