VBA 学习之旅(一) —— 数据类型

13年这个暑假,终于短暂的告别已经持续近20载的学生生涯,尝试性的成为了一名游戏数值策划实习生。

目前Excel已然是数值策划最常用最主要的办公环境,其可以很方便的完成拍数据、公式计算、绘图等,然而其后期维护实在有些糟糕——除了数值策划本人,其他人很难短时间能理清数值设计的思路。

而VBA(Visual Basic for Applications),是基于Visual Basic来方便对windows应用程序的扩展,尤其是office。而在数值策划的工作中,VBA主要有以下优势:

  1. 程序化的函数设计过程,清晰、明了、便于维护
  2. 去单元格依赖度的函数设计,便于函数的再利用
  3. 良好的注释功能
  4. 函数的导入导出

 

一、下面以一个小例子开始本节内容

1 Sub tst()
2     Dim a As Integer
3     a = 50 * 50
4     MsgBox (a)
5 End Sub

F5运行后我们得到

 

二、然后我们将代码修改如下(只修改了数据部分)

1 Sub tst()
2     Dim a As Integer
3     a = 500 * 500
4     MsgBox (a)
5 End Sub

 

运行后出现如下错误

这就是数据大小已经超过了数据类型可表示的上限而引起的错误

数据类型 存储空间(字节) 数值范围 数值范围2
Byte 1 0 ~ 2^8-1 0~256
Booleam 2 True/False  
Integer 2 -2^15 ~ 2^15-1 -32768 ~ 32767
Long 4 -2^31 ~ 2^31-1 -247483648~2147483647

三、于是我们开开心心的把代码修改如下

1 Sub tst()
2     Dim a As Long
3     a = 500 * 500
4     MsgBox (a)
5 End Sub

可是依旧报同样的错误。原因是,在VB中,赋值号"="是先将=右侧的结果计算出来,然后再赋值给=左侧的变量。而在这里,右侧的500和500均为 Integer,当它们之间进行运算,运算结果会临时保存在一个数据类型为Integer的临时变量中,这就是隐式类型转换——当计算中有多个不同类型的变量时,结果会转换为其中最长的类型

四、为了解决这个问题,我们可以使用强制类型转换——将其中一个强制转换成Long,从而使得其乘积结果保存为Long类型而避免了溢出

 

1 Sub tst()
2     Dim a As Long
3     a = CLng(500) * 500
4     MsgBox (a)
5 End Sub

 

 

 

posted @ 2013-07-17 17:03  hercMoray  阅读(675)  评论(0编辑  收藏  举报