matlab数据类型转换是遇到的坑,整型转换居然是向无穷大方向取整,而不是丢弃小数部分

整型:

       

  • int8()有符号,占用1个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
  • int16():有符号,占用2个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
  • int32():有符号,占用4个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
  • int64():有符号,占用8个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
  • uint8():无符号,占用1个字节。向0方向取整。
  • uint16():无符号,占用2个字节。向0方向取整。
  • uint32():无符号,占用4个字节。向0方向取整。
  • uint64():无符号,占用8个字节。向0方向取整。

浮点数:

        Matlab 取整函数有: fix、 floor、ceil、 round

  • fix 朝零方向取整, fix(-1.234)=-1; fix(1.234)=1; 舍弃小数
  • floor 朝负无穷方向取整,floor(-1.234)=-2; floor(1.234)=1; 向下取整
  • ceil 朝正无穷方向取整, ceil(-1.3)=-1; ceil(1.3)=2; 向上取整
  • round 四舍五入到最近的整数, round(-1.234)=-1;round(-1.567)=-2;
posted on 2021-06-06 18:45  雾恋过往  阅读(243)  评论(0编辑  收藏  举报

Live2D