浮点数为什么会有误差

2020-10-31 综合百科 1万阅读 投稿:yangang

浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数,具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学计数法,造成浮点数误差的原因:其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据,所以会让浮点数有所差别。

声明:业百科所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系 yebaike@foxmail.com