让你的软件飞起来-----算法优化
摘自网络：
今天无意中看到一片文章《让你的软件飞起来》看后大是惊讶，也很有感触：
封面：
内容：
代码的运算速度取决于以下几个方面
1、 算法本身的复杂度，比如MPEG比JPEG复杂，JPEG比BMP图片的编码复杂。
2、 CPU自身的速度和设计架构
3、 CPU的总线带宽
4、 您自己代码的写法
本文主要介绍如何优化您自己的code，实现软件的加速。
先看看我的需求
我们一个图象模式识别的项目，需要将RGB格式的彩色图像先转换成黑白图像。
图像转换的公式如下：Y = 0.299 * R + 0.587 * G + 0.114 * B;
图像尺寸640*480*24bit，RGB图像已经按照RGBRGB顺序排列的格式，放在内存里面了。
我已经悄悄的完成了第一个优化
以下是输入和输出的定义：
#define XSIZE 640
#define YSIZE 480
#define IMGSIZE XSIZE * YSIZE
typedef struct RGB
{
unsigned char R;
unsigned char G;
unsigned char B;
}RGB;
struct RGB in[IMGSIZE]; //需要计算的原始数据
unsigned char out[IMGSIZE]; //计算后的结果
第一个优化：
优化原则：图像是一个2D数组，我用一个一维数组来存储。编译器处理一维数组的效率要高过二维数组。
先写一个代码：
Y = 0.299 * R + 0.587 * G + 0.114 * B;
void calc_lum()
{
int i;
for(i = 0; i < IMGSIZE; i++)
{
double r,g,b,y;
unsigned char yy;
r = in[i].r;
g = in[i].g;
b = in[i].b;
y = 0.299 * r + 0.587 * g + 0.114 * b;
yy = y;
out[i] = yy;
}
}
这大概是能想得出来的最简单的写法了，实在看不出有什么毛病，好了，编译一下跑一跑吧。
第一次试跑
这个代码分别用vc6.0和gcc编译，生成2个版本，分别在pc上和我的embedded system上面跑。
速度多少？
在PC上，由于存在硬件浮点处理器，CPU频率也够高，计算速度为20秒。
我的embedded system，没有以上2个优势，浮点操作被编译器分解成了整数运算，运算速度为120秒左右。
优化二：去掉浮点运算
上面这个代码还没有跑，我已经知道会很慢了，因为这其中有大量的浮点运算。只要能不用浮点运算，一定能快很多。
Y = 0.299 * R + 0.587 * G + 0.114 * B;
这个公式怎么能用定点的整数运算替代呢？
0.299 * R可以如何化简？
Y = 0.299 * R + 0.587 * G + 0.114 * B;
Y = D + E + F;
D = 0.299 * R;
E = 0.587 * G;
F = 0.114 * B;
我们就先简化算式D吧！
RGB的取值范围都是0~255，都是整数，只是这个系数比较麻烦，不过这个系数可以表示为：0.299 = 299 / 1000;
所以 D = ( R * 299) / 1000;
Y = (R * 299 + G * 587 + B * 114) / 1000;
这一下，能快多少呢？
Embedded system上的速度为45秒；
PC上的速度为2秒；
优化三：将除法转化为移位操作
Y = (R * 299 + G * 587 + B * 114) / 1000;
这个式子好像还有点复杂，可以再砍掉一个除法运算。
前面的算式D可以这样写：
0.299=299/1000=1224/4096
所以 D = (R * 1224) / 4096
Y=(R*1224)/4096+(G*2404)/4096+(B*467)/4096
再简化为：
Y=(R*1224+G*2404+B*467)/4096
这里的/4096除法，因为它是2的N次方，所以可以用移位操作替代，往右移位12bit就是把某个数除以4096了。
void calc_lum()
{
int i;
for(i = 0; i < IMGSIZE; i++)
{
int r,g,b,y;
r = 1224 * in[i].r;
g = 2404 * in[i].g;
b = 467 * in[i].b;
y = r + g + b;
y = y >> 12; //这里去掉了除法运算
out[i] = y;
}
}
这个代码编译后，又快了20%。
虽然快了不少，还是太慢了一些，20秒处理一幅图像，地球人都不能接受
优化四：将有限的计算结果变为查找表的方法：
RGB的取值有文章可做，RGB的取值永远都大于等于0，小于等于255，我们能不能将D，E，F都预先计算好呢？然后用查表算法计算呢？
我们使用3个数组分别存放DEF的256种可能的取值，然后。。。
查表数组初始化
int D[256],F[256],E[256];
void table_init()
{
int i;
for(i=0;i<256;i++)
{
D[i]=i*1224;
D[i]=D[i]>>12;
E[i]=i*2404;
E[i]=E[i]>>12;
F[i]=i*467;
F[i]=F[i]>>12;
}
}
void calc_lum()
{
int i;
for(i = 0; i < IMGSIZE; i++)
{
int r,g,b,y;
r = D[in[i].r];//查表
g = E[in[i].g];
b = F[in[i].b];
y = r + g + b;
out[i] = y;
}
}
这一次的成绩把我吓出一身冷汗，执行时间居然从30秒一下提高到了2秒！在PC上测试这段代码，眼皮还没眨一下，代码就执行完了。一下提高15倍，爽不爽？
优化五、复用将单个或者串行转化为多路并行
很多embedded system的32bit CPU，都至少有2个ALU，能不能让2个ALU都跑起来？
void calc_lum()
{
int i;
for(i = 0; i < IMGSIZE; i += 2) //一次并行处理2个数据
{
int r,g,b,y,r1,g1,b1,y1;
r = D[in[i].r];//查表 //这里给第一个ALU执行
g = E[in[i].g];
b = F[in[i].b];
y = r + g + b;
out[i] = y;
r1 = D[in[i + 1].r];//查表 //这里给第二个ALU执行
g1 = E[in[i + 1].g];
b1 = F[in[i + 1].b];
y = r1 + g1 + b1;
out[i + 1] = y;
}
}
2个ALU处理的数据不能有数据依赖，也就是说：某个ALU的输入条件不能是别的ALU的输出，这样才可以并行。
这次成绩是1秒。
优化六，改变数据类型或者数据位数
查看这个代码
int D[256],F[256],E[256]; //查表数组
void table_init()
{
int i;
for(i=0;i<256;i++)
{
D[i]=i*1224;
D[i]=D[i]>>12;
E[i]=i*2404;
E[i]=E[i]>>12;
F[i]=i*467;
F[i]=F[i]>>12;
}
}
到这里，似乎已经足够快了，但是我们反复实验，发现，还有办法再快！
可以将int D[256],F[256],E[256]; //查表数组
更改为
unsigned short D[256],F[256],E[256]; //查表数组
这是因为编译器处理int类型和处理unsigned short类型的效率不一样。
再改动
inline void calc_lum()
{
int i;
for(i = 0; i < IMGSIZE; i += 2) //一次并行处理2个数据
{
int r,g,b,y,r1,g1,b1,y1;
r = D[in[i].r];//查表 //这里给第一个ALU执行
g = E[in[i].g];
b = F[in[i].b];
y = r + g + b;
out[i] = y;
r1 = D[in[i + 1].r];//查表 //这里给第二个ALU执行
g1 = E[in[i + 1].g];
b1 = F[in[i + 1].b];
y = r1 + g1 + b1;
out[i + 1] = y;
}
}
将函数声明为inline，这样编译器就会将其嵌入到母函数中，可以减少CPU调用子函数所产生的开销。
这次速度：0.5秒
主要思想：空间、时间的相互转化
