浮点数的比较

发布网友 发布时间：2022-05-07 10:28

我来回答

共5个回答

懂视网 时间：2022-05-07 14:49

注释：以下部分主要与DOUBLE和FLOAT列相关，原因在于浮点数的不准确本质。MySQL使用64位十进制数值的精度执行DECIMAL操作，当处理DECIMAL列时，应能解决大多数常见的不准确问题。
浮点数有时会导致混淆，这是因为它们无法以准确值保存在计算机体系结构中。你在屏幕上所看到的值通常不是数值的准确值。对于FLOAT和DOUBLE列类型，情况就是如此。DECIMAL列能保存具有准确精度的值，这是因为它们是由字符串表示的。
在下面的示例中，介绍了使用DOUBLE时的问题：
mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
-> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
-> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
-> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
-> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
-> (6, 0.00, 0.00), (6, -51.40, 0.00);
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
-> FROM t1 GROUP BY i HAVING a <> b;
+------+-------+------+
| i | a | b |
+------+-------+------+
| 1 | 21.4 | 21.4 |
| 2 | 76.8 | 76.8 |
| 3 | 7.4 | 7.4 |
| 4 | 15.4 | 15.4 |
| 5 | 7.2 | 7.2 |
| 6 | -51.4 | 0 |
+------+-------+------+
结果是正确的。尽管前5个记录看上去不应能进行比较测试（a和b的值看上去没有什么不同），但它们能进行比较，这是因为显示的数值间的差异在十分位左右，具体情况取决于计算机的体系结构。
如果列d1和d2定义为DECIMAL而不是DOUBLE，SELECT查询的结果仅包含1行，即上面显示的最后1行

热心网友 时间：2022-05-07 11:57

计算机对单精度浮点数的比较。
只可能是 数学意义上不相等的，处理成相等，因为精度毕竟有限。
如果是数学意义上相等，却处理成相等。这是不可能的。

你说的，不能使用 a == b比较。
应该是这么比较
float temp = fabs(a - b);
if ( -0.000001 < temp && temp < 0.000001)

热心网友 时间：2022-05-07 13:15

C里.什么类型的只能和什么类型比较如果你是float类型的.就必须和float比较.一般情况下和0比较就会用1e-6这是因为1e-6就是个很小的数了.我们可以看作0,当然你要用1e-7也没人拦你.但是为什么非得和0比呢?因为0不是一个float类型.为了解决这个问题就选用一个非常小的数来代替0.比如1e-6

热心网友 时间：2022-05-07 14:50

浮点数是不能用==这样的关系进行精确比较的，对于浮点数一般按照渐进接近于某一个很小的数来确定的 如 a-b<0.0000000000000001那么我们就认为a与b相等的。

热心网友 时间：2022-05-07 16:41

浮点数的比较只能是这样，例如a-b<0.000001