AI 数值计算

数值计算，通过迭代来更新解的估计值。

1、上溢和下溢

实数按照一定的精度存储在计算机中，通常存在误差，进而可能导致一些错误。

1）下溢（underflow），例如接近0的数

2）上溢（overflow），

 

2、约束优化

约束优化（constrained optimization），