摘要: 根号0-0的问题,在项目中,计算两向量外积模长时候,有一个代码写错,导致模长开根号结果-nan 取模的时候,输入a和b两个向量一模一样,但是,嵌入式设备或者arm设备float减法里面结果时 -9*10^-9,实际就是0,然后开根号导致出现-nan。 还有简单的PC的float 在其他设备的floa 阅读全文