Python中float类型、float32类型和float64类型的表示精度,所需内存及其之间的转换

2021-01-25 10:25:48 浏览数 (2)

参考链接: Python float()

1. 表示精度和所需内存 

float类型和float64类型是一样的,都需要64个bits,而float32需要32个bits。 精度方面,float类型和float64类型在十进制中可以有16位,而float32类型在十进制中有8位,如下: 

>>> x = np.float64(1/3)

>>> x

0.3333333333333333

>>> y = np.float32(x)

>>> y

0.33333334

>>> p = 1000*(1/3)

>>> p

333.3333333333333

>>> q = np.float32(p)

>>> q

333.33334

2.转换 

1. ‘float’转’float64’ 

        x

       x

    x原本是’float’类型的 

x = np.float64(x)

经过上面的

        x

       x

    x就变成了’float64’类型 

2.’float64’转‘float’ 

        y

       y

    y原本是’float64’类型的 

y = np.float(y)

经过上面的

        y

       y

    y就变成了’float’类型 

3. ‘float64’与‘float32’之间的转换 

>>> x = np.float64(1/3)

>>> x

0.3333333333333333

>>> y = np.float32(x)

>>> y

0.33333334

>>> z = np.float64(y)

>>> z

0.3333333432674408

3. 当出现如下错误时需要进行类型的转换 

ValueError: Unknown label type: 'unknown'

0 人点赞