标题: 请高手帮助看看简单C语言数字运算程序 [打印本页]

作者: jmkl128    时间: 2019-6-26 06:42
标题: 请高手帮助看看简单C语言数字运算程序
unit R0,R1,Avcc;
uint V1,I1,ADCbg;  
Avcc=Vbg_ROM*1000/ADCbg;
V1 = Avcc;
显示结果V1=0


Avcc=Vbg_ROM*100/ADCbg;
V1 = 10*Avcc;
显示结果V1=216

Avcc=Vbg_ROM*10/ADCbg;
V1 = 100*Avcc;
显示结果V1=45

按理说,三种情况V1的数值应该相同才对。是什么原因导致的?


作者: jmkl128    时间: 2019-6-26 06:54
说明一下,Vbg_ROM=1247,ADCbg=273
作者: lihaijun7781    时间: 2019-6-26 10:22
你的unit是什么数据类型, 如果是整形类的,这三个运算出来,就是会不一样,1,2,3依次数据损失精度。
作者: lihaijun7781    时间: 2019-6-26 10:23
当然你写的结果,已经不是丢失精度了,是数据就错误了, 看看你的数据类型的范围*1000是不是已经超出了表达范围
作者: wulin    时间: 2019-6-26 10:43
这很正常啊,由于数据类型的限制,运算过程中溢出部分或小数部分被丢弃,导致结果不一样。你用强制转换数据类型浮点算法就不会出错。
作者: 来51学习    时间: 2019-6-26 11:13
单片机 unsigned int 最大计数是 65535
1247 * 1000 =?
1247 * 100 = ?
作者: jmkl128    时间: 2019-6-26 23:35
谢谢各位坛友解答
作者: 147258369q    时间: 2019-6-28 10:08
超范围啦!可以先除后乘




欢迎光临 (http://www.51hei.com/bbs/) Powered by Discuz! X3.1