c语言中的float数据类型的有效数字为什么是6~7位

2024-12-25 21:13:48
推荐回答(1个)
回答1:

float数据 机器内是2进制数, 1位符号位 8位指数位 23位“尾数”位 共32 位 2进制数。 平时讲 有效数字 是6~7位 ,指10进制。 通常程序输入的数是10进制,进入机器后要化成2进制,计算完又转十进制输出。 10进制到2进制,2进制到10进制 转换,有的数化不净,有的数化得净。 如同10进制分数化10进制小数,有的化得净(例如 4分之1,变0.25),有的化不净(例如 3分之1,变0.33333....)。 10进制到2进制,2进制到10进制 转换,化得净的效数字7位,化不净的效数字6位,因为最后一位有舍入误差。 例如: float x,y; x=0.51; // 化不净 y=0.5; // 化得净 printf("x=%.8f y=%.8",x,y); // 输出 0.50999999 0.50000000