小林:大多数电脑都是用二进制来表示浮点和整数的。在十进制里, 0.1 是个简单、精确的小数, 但是用二进制表示起来却是个循环小数 0.0001100110011 ...。所以3.1 在十进制内可以准确地表达, 而在二进制下不能。在对一些二进制中无法精确表示的小数进行赋值或读入再输出时, 也就是从十进制转成二进制再转回十进制, 你会观察到数值的不一致. 这是由于编译器二进制/十进制转换例程的精确度引起的, 这些例程也用在 printf 中。
读者:执行一些开方根运算, 为什么是得到一些不同寻常的数字?
小林:确定你用了 #include <math.h>, 以及正确说明了其它相关函数返回值为double。另外一个需要注意的库函数是 atof(), 其原型说明在 <stdlib.h> 中。