提高浮点数变整数的精度这个方法很不错

ID:119948 · 发表于 2016-5-11 04:24

在我们的产品设计中，经常会遇到浮点数变整数的时候，那么，我们首先看看，浮点数变整数的精度如何？

实验一：分别定义一个浮点数26.6和26.4，把这个数强制转换成整数后，是多少？

下面是我做实验用的程序：

按理说，或者说，我们希望的结果，应该是四舍五入的27和26，但是实际上....

十六进制的1A，就是十进制的26.

我们看到了，结果是程序只取了整数部分，小数部分根本没有给我们四舍五入。

解决办法：

只要你的脑袋瓜聪明，可以想出很多解决。

下面我说一下我的解决办法：

实验二：利用modf函数，把小数和整数分离出来，如果小数小于0.5，就直接取整，如果小数大于等于0.5，就整数+1.

用modf函数，需要调用头文件math.h

最后输出的结果是：

十六进制的1B和1A转换成十进制，就是27和26，这时候，结果就和我们想要的一样了。

你能想出更简便的办法来吗？想出来的话，不防分享到微信论坛，点击文章后面的【阅读原文】就可以进入论坛了。

ID:83553 · 发表于 2016-5-12 09:35

u16 ix,iy;
float x=26.6,y=26.4;

ix=x+0.5;
iy=y+0.5;

帐号		自动登录	找回密码
密码			立即注册

提高浮点数变整数的精度 这个方法很不错

提高浮点数变整数的精度这个方法很不错