本文目录
Excel计算出问题了
这是Excel浮点计算误差的原因。针对你的数据，解决的办法可采用下面列举的方法之一：一、公式外套一个舍入小数位数的函数：I10=ROUND(SUM(I11:J19),4)二、选择输入公式的区域，在单元格格式设置中，数字格式选择数值，小数位数选择4位或更多位或更少位（自己根据需要确定）。三、文件菜单——选项——高级，滚动右侧滑动条到大约80%的位置，找到“计算此工作簿”，勾选“将精度设为所显示的精度”后确定。忽略警示提示，确定。
求excel的浮点运算公式
直接输入公式就可以了，看图
你说的可能是小数点后的位数不够详细吧？调整单元格格式，数组，小数点后位数加大就可以了。
Excel 求教：单精度浮点型与双精度浮点型的问题
求教，今天学习突然发现个问题，同样的代码，一个申明变量为单精度浮点型，一个申明变量为双精度浮点型，但是结果却不一样
a=3.11999988555908
b=3.12
代码：
Sub test2()
Const a As Single = 3.12
Const b As Double = 3.12
Range("A1") = a
Range("B1") = b
End Sub
结果在excel中如图
这样的话定义单精度浮点型不是没用，以后小数不是都要定义为双精度浮点型了吗？
浮点数的误差是一定存在，并且无法消除。永远不要直接比较两个浮点数。比较的时候要先round。把电脑中的浮点运算误差找出来 - 任何人的电脑都会有这个误差的
很多人在日常使用Excel，可能都没有注意到浮点小数带来的计算误差问题因为日常使用的运算结果，肯定都是四舍五入之后的结果，可以排除浮点误差的影响但是，浮点小数的误差，也会出现在运算的过程，有可能导致最终结果出错。比方说 countif(A1:A10000,"=B1")这样的简单统计，也有可能出错。附件生成5万个随机小数（四舍五入到2位小数位），加上然后马上减去同一个整数对比计算前后的数值是否相等（数学上当然是绝对相等的，但是电脑的运算结果就不一定了。。。。。。）附件会自动找出一批在你的电脑上会出现浮点小数误差导致错误的运算。出现浮点小数运算误差的原因很简单，小数有无穷多个甚至一个小数也有无穷多位，如十进制的1/3，或者二进制的0.1所以计算机存储小数的时候，必定只能存储所有小数的一部分，而无穷小数则必须截断因此，一个小数有时候就只能取一个接近值而不是精确值而对应的浮点数运算，也只能得到接近值，而不是精确值不同的CPU，比方说Intel的跟AMD的，或者奔腾跟赛扬，在硬件上对于截断的位置是不一样的所以，同一个运算在不同的机器就可能有不同的结果这也是为什么论坛经常有人说xx运算不正确，然后回帖的人说我的机器没事，其实就是CPU不同而已另一方面，不同的软件，内部计算的时候，也许用了不同的CPU硬件实现的数据类型，或者精度设置也不一样，所以,同一个运算在不同的软件也可能有不同的结果编程，写公式要注意，假设 x,y 都是浮点数，er。。。。。。excel的每个小数单元格都是浮点数那么永远不要写 if x=y 这样的句子，因为很可能数学上相等的x和y，在计算机内部是不等的应该写成 if |x-y| / max(|x|,|y|) 《= 0.0000000000001 之类或者简单一点，用if round(x) = round(y) 来判断，这样最末一位的尾数浮点存储误差就不会影响整个数值了。幸运的是，整数和定点小数不会受影响，编程时应该优先考虑使用整数和定点小数类型另一方面，即使浮点小数可以完全表示我们要计算的数值，但是计算结果却也有可能产生误差浮点，定点的意思是指小数点的位置定点小数：小数点位置固定。以十进制为例，假设一个数值类型可以有6个十进制位置，那么定点类型无须记录小数点位置，可以有以下类型：整数类型，小数点位置就一定是个位后面，能够表达的最精确数字就是1，能够表达的范围是 000000 - 999999两位小数类型，小数点位置就一定是百分位，能够表达的最精确数字就是0.01,，能够表达的范围是 0000.00 - 9999.99。。。。。。等等浮点小数：小数点位置可以变动，并且需要额外的记录去描述这个变动的小数点位置。假设这里把其中一个位置用于记录小数点位置（可变范围 0-9），并且规定：小数点位置取5，表示精度是1，小数点在个位后面，这个数值类型有0个小数位，可以表示 00000 到 99999 的数 (注意：这里只有5位有效数字)小数点位置取6，表示精度是 0.1，小数点在十分位后面，这个数值类型有1个小数位，可以表示 0000.0 到 9999.9 的数小数点位置取9，表示精度是 0.0001，小数点在万分位后面，这个数值类型有4个小数位，可以表示 0.0000 到 9.9999 的数......小数点位置取4，表示精度是 10，表示小数点在十位，这个数值类型可以表示 00000 x 10 到 999990 的数，精度是 10......小数点位置取0，表示精度是 100000，表示小数点在十万位，这个数值类型可以表示 00000 x 100000 到 9999900000 的数，精度是 100000可见浮点小数通过可变的小数位置，使一个数值类型可以用一部分表示有效数字，另一部分表述每一单位有效数字的倍率从而灵活地表示很大范围的数值，代价是：由于用了一部分记录内容去记录小数点位置，所以有效数字的长度比定点小数要低。而且，一些定点数运算不会出现的问题，在浮点数运算会出现如两个数相加如果第一个浮点数是 100.01，第二个浮点数是 9999900000按上述规则，这两个都是合法的浮点数，可是它们的和 99999000100.01 却无法用同一个浮点数类型表示出来。一般计算机碰到这种情况，就会自动按比较大的数值来四舍五入，于是100.01 + 9999900000 = 9999900000 (出现了100.01的误差)这也是浮点数误差产生的一个原因：小的数值被大的数值“吸收”了。要在Excel证明这一点就太简单了，因为excel的double类型浮点小数只有15个有效数字（即最多记录15个十进制数字）所以Excel的单元格运算 12345012345678900000 + 12345.0123456789 = 12345012345678900000
-----------------------------------------------------------
VBA单精度浮点型Single与双精度浮点型Double的区别
浮点型说白了就是科学记数法
单精度浮点型（single）
在C++中，单精度浮点型（float ）专指占用32位存储空间的单精度（single-precision ）值。单精度在一些处理器上比双精度更快而且只占用双精度一半的空间，但是当值很大或很小的时候，它将变得不精确。当你需要小数部分并且对精度的要求不高时，单精度浮点型的变量是有用的。例如，当表示美元和分时，单精度浮点型是有用的。
在foxpro中，单精度浮点型是为了提供兼容性,浮点数据类型在功能上等价于数值型。
在VB中，Single 数据类型 Single（单精度浮点型）变量存储为 IEEE 32 位（4 个字节）浮点数值的形式，它的范围在负数的时候是从 -3.402823E38 到 -1.401298E-45，而在正数的时候是从 1.401298E-45 到 3.402823E38。6位有效位数
Single 的类型声明字符为感叹号 (!)。
双精度(double)型
C语言中,双精度(double)型占8 个字节（64位）内存空间，其数值范围为1.7E-308～1.7E+308，可提供16位有效数字。
Single 最多可以显示小数点后面7位 Double 最多可以显示小数点后面14位Single 数据类型Single（单精度浮点型）变量存储为 IEEE 32 位（4 个字节）浮点数值的形式，它的范围在负数的时候是从 -3.402823E38 到 -1.401298E-45，而在正数的时候是从 1.401298E-45 到 3.402823E38。Single 的类型声明字符为感叹号 (!)。Double 数据类型Double（双精度浮点型）变量存储为 IEEE 64 位（8 个字节）浮点数值的形式，它的范围在负数的时候是从 -1.79769313486232E308 到 -4.94065645841247E-324，而正数的时候是从 4.94065645841247E-324 到 1.79769313486232E308。Double 的类型声明字符是数字符号 (#)。
excel，计算怎么会有误差
这是EXCEL中浮点运算的结果。因为计算机是用二进制运算，而我们的数据是十进制的。从十进制到二进制，再从二进制到十进制，某些特别的带小数点的数据，可能会有微小的误差。可用ROUND函数或单元格数值格式的设置进行处理
