描述:
对实数进行计算时,由于实数的结构 (指数形式) 以及非常大的数值范围,经常会发生舍入误差,因此两个数值相等的情况 (所有位都相同) 几乎不会出现。所以比较两个实数是否“相等”通常难以获得预期的结果。因此您必须采用其它的方法。其中一种方法是采用近似值的方法。本条目介绍了一种您可以据以判断实数是否“相等”的近似值算法,还包含了一个应用该近似值算法的实例。本条目还简要介绍了实数的格式。 比较实数值是否相等的近似值
此处所述的比较实数所用的近似值基于以下公式: |(a -b)/(|a| + |b|)| < eps
该近似值可用语言表述如下:
当 a 和 b 之差与 a 和 b 的绝对值之和的比值的绝对值小于“eps”的值时,2 个数值“a”和“b”即被视为相等。 其中需要考虑公式的下列属性: 1. 如果实数“a”和“b”的值非常大,则即使它们相差比较大也被视为等值,此时必须根据系统的需求降低“eps”的值。
如果实数“a”和“b”的值非常小,则只有两数值相差很小时才被视为等值。 注意事项:
此处请注意在一个实数的尾数中,最多只能显示 6 个连续的十六进制数字。 例如
| 数值举例 1 | 数值举例 2 | (|a| + |b|) | 5 | 5000000 | “eps” | 10-6 [0.000001] | “a”和“b”可被视为相等时“a”和“b”的差值 | 0.00000499... | 4.999... | 表 01
2. 如果“a”和“b”两值都为 0,则“a”和“b”的和也是 0。被 0 除是不允许的且会导致错误结果。因此不能使用近似值比较两个恰好都为 0 的实数“a”和“b”! 3. 如果两个被比较的实数有一个是 0,那么也不使用这个公式计算近似值。近似值结果通常为 1。因此比较结果常常是“不相等”,除非“eps”被设定比 1 大。 注意事项: - 如果已经发生了被 0 除的操作,则 CPU 通过置位状态位 OS、OV、A0 和 A1 来指示这一错误。
- 如果数学函数的结果为 0,则两个状态位 A0 和 A1 不置位。
|