会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
youxiaogeo
Powered by
博客园
博客园
|
首页
|
新随笔
|
联系
|
订阅
|
管理
2021年3月16日
深度学习c++落地遇到的坑:根号0-0的问题,在项目中,计算两向量外积模长时候,导致开根号结果-nan和多次float运算导致的坑
摘要: 根号0-0的问题,在项目中,计算两向量外积模长时候,有一个代码写错,导致模长开根号结果-nan 取模的时候,输入a和b两个向量一模一样,但是,嵌入式设备或者arm设备float减法里面结果时 -9*10^-9,实际就是0,然后开根号导致出现-nan。 还有简单的PC的float 在其他设备的floa
阅读全文
posted @ 2021-03-16 14:43 youxiaogeo
阅读(455)
评论(0)
推荐(0)
编辑