浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数,具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学计数法,造成浮点数误差的原因:其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据,所以会让浮点数有所差别。
浮点数为什么会有误差
编辑:全民百科
时间:2024-07-29 07:45:56
浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数,具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学计数法,造成浮点数误差的原因:其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据,所以会让浮点数有所差别。