设为首页收藏本站

开启辅助访问切换到宽版

热门： 51单片机 | 24小时必答区 | 单片机教程 | 单片机DIY制作 | STM32 | Cortex M3 | 模数电子 | 电子DIY制作 | 音响/功放 | 拆机乐园 | Arduino | 嵌入式OS | 程序设计

»论坛 › 嵌入式/单片机论坛 › 24小时必答区 › 请高手帮助看看简单C语言数字运算程序

发新帖

查看: 1719|回复: 7

上一主题

下一主题

收起左侧

请高手帮助看看简单C语言数字运算程序

电梯直达

跳转到指定楼层

楼主

ID:67356 发表于 2019-6-26 06:42 | 只看该作者回帖奖励

回帖奖励

|倒序浏览 |阅读模式

unit R0,R1,Avcc;
uint V1,I1,ADCbg;
Avcc=Vbg_ROM*1000/ADCbg;
V1 = Avcc;
显示结果V1=0

Avcc=Vbg_ROM*100/ADCbg;
V1 = 10*Avcc;
显示结果V1=216

Avcc=Vbg_ROM*10/ADCbg;
V1 = 100*Avcc;
显示结果V1=45

按理说，三种情况V1的数值应该相同才对。是什么原因导致的？

分享到: QQ好友和群 QQ空间 腾讯微博 腾讯朋友

收藏0 淘帖0 顶0 踩0

回复

使用道具举报

沙发

ID:67356 发表于 2019-6-26 06:54 | 只看该作者

说明一下，Vbg_ROM=1247，ADCbg=273

回复

使用道具举报

板凳

ID:571958 发表于 2019-6-26 10:22 | 只看该作者

你的ｕｎｉｔ是什么数据类型，　如果是整形类的，这三个运算出来，就是会不一样，１，２，３依次数据损失精度。

回复

使用道具举报

地板

ID:571958 发表于 2019-6-26 10:23 | 只看该作者

当然你写的结果，已经不是丢失精度了，是数据就错误了，　看看你的数据类型的范围*1000是不是已经超出了表达范围

回复

使用道具举报

5^#

ID:213173 发表于 2019-6-26 10:43 | 只看该作者

这很正常啊，由于数据类型的限制，运算过程中溢出部分或小数部分被丢弃，导致结果不一样。你用强制转换数据类型浮点算法就不会出错。

回复

使用道具举报

6^#

ID:425825 发表于 2019-6-26 11:13 | 只看该作者

单片机 unsigned int 最大计数是 65535
1247 * 1000 =？
1247 * 100 = ？

回复

使用道具举报

7^#

ID:67356 发表于 2019-6-26 23:35 | 只看该作者

谢谢各位坛友解答

回复

使用道具举报

8^#

ID:573345 发表于 2019-6-28 10:08 | 只看该作者

超范围啦！可以先除后乘

回复

使用道具举报

发新帖

手机版|小黑屋|51黑电子论坛 | 管理员QQ:125739409;技术交流QQ群281945664

Powered by 单片机教程网

快速回复 返回顶部 返回列表