【IDL】 判断双精度变量是合EQ

在任何语言中,数据的精度问题都会存在。比如在IDL中,就存在以下现象。

IDL> a = 2.3 + 0.08

IDL> print, a

     2.38000

IDL> print, a eq 2.38

  0

 

IDL> a = 2.38

IDL> b = 2.38D

IDL> print, a eq b

      0

 

查看了一些网上的搜索结果,大多数人的解决方法都是通过判断两者之差是否小于一个极小值,从而判断是否相等。

另附上一个简单解决方法:

其实在IDL里,可以通过把双精度变量转换成字符串类型,然后判断。

;这里的变量均为浮点型

IDL> a = 2.3 + 0.08

IDL> print, a eq 2.38

    0

IDL> print, string(a) eq string(2.38)

  1

 

;对于双精度

IDL> a = 2.3 + 0.08D

IDL> help, a

      A              DOUBLE   =       2.3800000

IDL> print, string(a) eq string(2.38)

      0

IDL> print, string(a) eq string(2.38D)

 1

 

posted @   地理遥感生态网平台  阅读(8)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· winform 绘制太阳,地球,月球 运作规律
· AI与.NET技术实操系列(五):向量存储与相似性搜索在 .NET 中的实现
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 上周热点回顾(3.3-3.9)
点击右上角即可分享
微信分享提示