C语言程序运算问题 x的平方减Y的平方,乘0.000123再乘0.5 -

标题: C语言程序运算问题 x的平方减Y的平方,乘0.000123再乘0.5 [打印本页]

作者: 李冬 时间: 2022-5-31 14:21
标题: C语言程序运算问题 x的平方减Y的平方,乘0.000123再乘0.5
为什么J的计算结果不对。 x的平方减Y的平方，乘0.000123再乘0.5

int x=514,y=168;
float j;
j=(x*x-y*y)*0.0000615f;

作者: Hephaestus 时间: 2022-5-31 15:25
你这是C51吧，换成Keil MDK就没问题了。

x*x这一步就已经溢出了。

作者: wulin 时间: 2022-5-31 15:42
x*x溢出！
j=((long)x*x-y*y)*0.0000615f;

作者: Hephaestus 时间: 2022-5-31 17:16
8位机用浮点数，太慢了。

欢迎光临 (http://www.51hei.com/bbs/)