np.float32()和np.float64

数位的区别，一个在内存中占分别32和64个bits，也就是4bytes或8bytes。数位越高浮点数的精度越高。

 

float16 半精度浮点数，包括：1 个符号位，5 个指数位，10 个尾数位
float32 单精度浮点数，包括：1 个符号位，8 个指数位，23 个尾数位
float64 双精度浮点数，包括：1 个符号位，11 个指数位，52 个尾数位
posted @ 2021-10-12 16:20  Tomorrow1126  阅读(1979)  评论(0)  编辑  收藏  举报