腾讯云智kpi面

小数计算为什么不精确？比如：float a = 0.1f＊0.1f; a打印出来为0.010000001。实际上，不是运算本身会出错，而是计算机根本就不能精确地表示很多数，比如0.1这个数。计算机是用一种二进制格式存储小数的，这个二进制格式不能精确表示0.1，它只能表示一个非常接近0.1但又不等于0.1的一个数。数字都不能精确表示，在不精确数字上的运算结果不精确也就不足为奇了。0.1怎么就不能精确表示呢？在十进制的世界里是可以的，但在二进制的世界里不行。实际上十进制中有些小数也无法精确表示：比如1/3，保留三位小数的话，十进制表示是0.333，但无论后面保留多少位小数，都是不精确的，用0.33...