标题:
请高手帮助看看简单C语言数字运算程序
[打印本页]
作者:
jmkl128
时间:
2019-6-26 06:42
标题:
请高手帮助看看简单C语言数字运算程序
unit R0,R1,Avcc;
uint V1,I1,ADCbg;
Avcc=Vbg_ROM*1000/ADCbg;
V1 = Avcc;
显示结果V1=0
Avcc=Vbg_ROM*100/ADCbg;
V1 = 10*Avcc;
显示结果V1=216
Avcc=Vbg_ROM*10/ADCbg;
V1 = 100*Avcc;
显示结果V1=45
按理说,三种情况V1的数值应该相同才对。是什么原因导致的?
作者:
jmkl128
时间:
2019-6-26 06:54
说明一下,Vbg_ROM=1247,ADCbg=273
作者:
lihaijun7781
时间:
2019-6-26 10:22
你的unit是什么数据类型, 如果是整形类的,这三个运算出来,就是会不一样,1,2,3依次数据损失精度。
作者:
lihaijun7781
时间:
2019-6-26 10:23
当然你写的结果,已经不是丢失精度了,是数据就错误了, 看看你的数据类型的范围*1000是不是已经超出了表达范围
作者:
wulin
时间:
2019-6-26 10:43
这很正常啊,由于数据类型的限制,运算过程中溢出部分或小数部分被丢弃,导致结果不一样。你用强制转换数据类型浮点算法就不会出错。
作者:
来51学习
时间:
2019-6-26 11:13
单片机 unsigned int 最大计数是 65535
1247 * 1000 =?
1247 * 100 = ?
作者:
jmkl128
时间:
2019-6-26 23:35
谢谢各位坛友解答
作者:
147258369q
时间:
2019-6-28 10:08
超范围啦!可以先除后乘
欢迎光临 (http://www.51hei.com/bbs/)
Powered by Discuz! X3.1