首页 > 试题广场 >

什么是取整错误?整数操作会导致取整错误吗?浮点数操作会导致

[问答题]
 什么是取整错误?整数操作会导致取整错误吗?浮点数操作会导致取整错误吗?

取整错误是指近似值和确切的算术值之间的不同
如:1/3近似值0.333,如果保留7位近似值是0.3333333.变量保存的位数是有限的,所以取整错误是无法避免的。
整数不会发生取整错误
浮点数会

发表于 2020-01-22 22:17:24 回复(0)
整数操作不会,浮点会
发表于 2021-03-31 00:06:56 回复(0)