标题: 单片机计算数值过大，keil仿真精确度到不到小数点后两位或三位。该怎么做？急求 [打印本页]

---

作者: 153807564    时间: 2018-11-26 14:16
标题: 单片机计算数值过大，keil仿真精确度到不到小数点后两位或三位。该怎么做？急求
返回值指针是double类型的数组也不能接受，后来改成long类型。数值都对了，但是精度达不到小数点后两位或三位。
求大神将我怎么去掉高位数值，我需要小数点前4到5位，小数点后2到3位。拜托了。

单片机源码：

1. void process(double a,double b,double z,double *back_sp)
   
2. {
   
3.   double xdata a,b,c;
   
4.   double xdata N1,M1,J1,G1,H1;
   
5.   J1=B1-zwx_d;
   
6.   J1*=0.0174532925199;
   
7.   G1=J1*J1;
   
8. 
   
9.   M1=A1*0.0174532925199;
   
10.   H1=sin(M1);
    
11.   M1=cos(M1);
    
12.   N1=M1*M1;
    
13. 
    
14.   a=(32144.5189-(135.3646-(0.7034-0.0041*N1)*N1)*N1);
    
15.   b=(0.25+0.00253*N1)*N1;
    
16.   b=b-0.04167;
    
17.   c=0.167*N1-0.083;
    
18.   c=c*N1;
    
19.   c=c*G1;
    
20.   c+=b;
    
21.   c*=G1;
    
22.   c+=0.5;
    
23.   c*=G1;
    
24.   b=108.996-0.603*N1;
    
25.   b=b*N1;
    
26.   b=21565.045-b;
    
27.   b*=N1;
    
28.   b=6399596.652-b;
    
29.   b=b*c;
    
30.   a=a-b;
    
31.   back_sp[0]=111133.00468*A1-a*M1*H1;
    
32. 
    
33. 
    
34.   a=0.001123*N1;
    
35.   a+=0.3333333;
    
36.   a*=N1;
    
37.   a-=0.1666667;
    
38.   b=0.1702-0.20382*N1;
    
39.   b*=N1;
    
40.   b=0.00878-b;
    
41.   b*=G1;
    
42.   a+=b;
    
43.   a=a*G1;
    
44.   a+=1;
    
45.   a*=J1;
    
46.   b=108.996-0.603*N1;
    
47.   b*=M1;
    
48.   b=21565.045-b;
    
49.   b*=N1;
    
50.   b=6399596.652-b;
    
51. 
    
52.   back_sp[1]=500000+a*b*M1;
    
53. }

复制代码

---

作者: Y_G_G    时间: 2018-11-26 19:31
我不会C，但我知道单片机原理。
你这个数据太大了，而且还是浮点型的，但不管多少位的单片机，都没有浮点型这个数，本质上都是整形的二进制数，如果单片机本身没有乘法器的话，只要是超过单片机本身的位数的，除法全部用减法来进行，乘法全部用加法来进行
M1=A1*0.0174532925199，这个运算是这样进行的：先是用加法进行A1*174532925199，然后再去除以刚才去掉小数点用的倍数：1000000000000，对于溢出了long类型长度的，全部去掉，误差就产生在这了
你要是问我怎么解决，不好意思，不知道，我只会汇编，256以内的运算还行，超过了。。。。。

---

作者: 花板子    时间: 2018-11-27 10:51
你这个是什么板子执行运算呢？

---

欢迎光临 (http://www.51hei.com/bbs/)

Powered by Discuz! X3.1