摘要:本文介绍了 decimal 数据类型的算术运算的舍入误差在特殊情况下对运算结果的巨大影响。并且在 Linux 和 Windows 中表现还不相同。最后还给出一个展现 double 数据类型的舍入误差的 C# 程序。
阅读全文
02 2013 档案
摘要:本文通过构造一个 TinyDecimal 结构来讲解 decimal 的内部表示。然后给出一个展示 decimal 算术运算微妙之处的 C# 程序。该程序在 Windows 和 Linux 的表现还不相同。
阅读全文
摘要:本文对我前段时间介绍的两种计算自然对数的算法的性能进行比较分析。这两种算法分别使用椭圆θ函数-算术几何平均法和泰勒级数展开式来计算。
阅读全文
摘要:本文介绍使用泰勒级数展开式来计算自然对数,并给出相应的 C# 程序。
阅读全文
摘要:本文介绍一种计算自然对数的快速算法,使用椭圆θ函数和算术几何平均法。并给出为 decimal 实现相应的扩展方法的 C# 程序。
阅读全文
摘要:本文介绍了产生第N个素数的渐近公式,并使用 C# 程序计算其相对误差。
阅读全文