189 8069 5689

计算机中浮点数运算的问题-创新互联

首先我们来看一下下面一段代码:

站在用户的角度思考问题,与客户深入沟通,找到清河网站设计与清河网站推广的解决方案,凭借多年的经验,让设计与互联网技术结合,创造个性化、用户体验好的作品,建站类型包括:成都做网站、成都网站制作、企业官网、英文网站、手机端网站、网站推广、域名注册雅安服务器托管、企业邮箱。业务覆盖清河地区。
#include 

int main(int argc, char *argv[])
{
    int i;
    float sum = 0;
    
    for (i = 0; i < 100; i++){
        sum += 0.1;
    } 
    
    printf("sum = %f \n", sum);
    
    return 0;
}

  在32位ubuntu16.10上的执行结果为:

sum = 10.000002

  0.1累加100次,结果应该是10.这里却多出了0.000002,为什么呢??这主要是与计算机中浮点数计算方式有关。

  大家知道计算机是只认识0和1的,也就是所有的运算数值要转化位二进制后进行运算的,而浮点数转换成二进制的小数上就会出现问题。首先介绍下十进制小数转化成二进制小数的方法:

  将十进制的整数转化为二进制时,使用的方法是连续除2,将余数从下向上读,就可以得到二进制数;相反将十进制的小数转化为二进制小数时,将小数部分乘2,直到小数部分全为0,如将十进制0.125转化为二进制为0.001:

    0  0.125 * 2 = 0.25  (取0.25的整数部分)

    0  0.25 *2  = 0.5  (取0.5的整数部分)

   1  0.5 *2  = 1.0  (取1.0的整数部分)

  然而并不是所有的十进制小数都能转化为二进制小数,如十进制的0.1:

    0  0.1 * 2 = 0.2

   0  0.2 * 2 = 0.4

    0  0.4 * 2 = 0.8

   1  0.8 * 2 = 1.6

    1  0.6 * 2 = 1.2

   0  0.2 * 2 = 0.4

    .

    .

    .

  可以看出将十进制的0.1转化为二进制是0.0001100011...是个无限循环的小数,所以当我们进行浮点数进行计算机运算的时候可能出现错误。

  常见的解决办法是:

    1)对于一些精度要求不高的运算可以选择忽略

    2)对于一些要求较高的科学运算,可以先将十进制的小数转化为整数再进行运算,因为计算机对整数的运算的是准确的。

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


分享题目:计算机中浮点数运算的问题-创新互联
标题来源:http://jkwzsj.com/article/gppcp.html

其他资讯