FFPLAY的原理(二)
关于包Packets的注释
从技术上讲一个包可以包含部分或者其它的数据,但是ffmpeg的解释器保证了我们得到的包Packets包含的要么是完整的要么是多种完整的帧。
现在我们需要做的是让SaveFrame函数能把RGB信息定稿到一个PPM格式的文件中。我们将生成一个简单的PPM格式文件,请相信,它是可以工作的。
1 void SaveFrame(AVFrame *pFrame, int width, int height, int iFrame) { 2 FILE *pFile; 3 char szFilename[32]; 4 int y; 5 // Open file 6 sprintf(szFilename, "frame%d.ppm", iFrame); 7 pFile=fopen(szFilename, "wb"); 8 if(pFile==NULL) 9 return; 10 // Write header 11 fprintf(pFile, "P6\n%d %d\n255\n", width, height); 12 // Write pixel data 13 for(y=0; y<height; y++) 14 fwrite(pFrame->data[0]+y*pFrame->linesize[0], 1, width*3, pFile); 15 // Close file 16 fclose(pFile); 17 }
我们做了一些标准的文件打开动作,然后写入RGB数据。我们一次向文件写入一行数据。PPM格式文件的是一种包含一长串的RGB数据的文件。如果你了解 HTML色彩表示的方式,那么它就类似于把每个像素的颜色头对头的展开,就像#ff0000#ff0000....就表示了了个红色的屏幕。(它被保存成 二进制方式并且没有分隔符,但是你自己是知道如何分隔的)。文件的头部表示了图像的宽度和高度以及最大的RGB值的大小。
现在,回顾我们的main()函数。一旦我们开始读取完视频流,我们必需清理一切:
1 // Free the RGB image 2 av_free(buffer); 3 av_free(pFrameRGB); 4 // Free the YUV frame 5 av_free(pFrame); 6 // Close the codec 7 avcodec_close(pCodecCtx); 8 // Close the video file 9 av_close_input_file(pFormatCtx); 10 return 0;
你会注意到我们使用av_free来释放我们使用avcode_alloc_fram和av_malloc来分配的内存。
上面的就是代码!下面,我们将使用Linux或者其它类似的平台,你将运行:
gcc -o tutorial01 tutorial01.c -lavutil -lavformat -lavcodec -lz -lavutil -lm
如果你使用的是老版本的ffmpeg,你可以去掉-lavutil参数:
gcc -o tutorial01 tutorial01.c -lavutil -lavformat -lavcodec -lz -lm
大多数的图像处理函数可以打开PPM文件。可以使用一些电影文件来进行测试。
输出到屏幕
SDL和视频
为了在屏幕上显示,我们将使用SDL.SDL是Simple Direct Layer的缩写。它是一个出色的多媒体库,适用于多平台,并且被用在许多工程中。你可以从它的官方网站的网址 http://www.libsdl.org/ 上来得到这个库的源代码或者如果有可能的话你可以直接下载开发包到你的操作系统中。按照这个指导,你将需要编译这个库。(剩下的几个指导中也是一样)
SDL库中有许多种方式来在屏幕上绘制图形,而且它有一个特殊的方式来在屏幕上显示图像――这种方式叫做YUV覆盖。YUV(从技术上来讲并不叫 YUV而是叫做YCbCr)是一种类似于RGB方式的存储原始图像的格式。粗略的讲,Y是亮度分量,U和V是色度分量。(这种格式比RGB复杂的多,因为 很多的颜色信息被丢弃了,而且你可以每2个Y有1个U和1个V)。SDL的YUV覆盖使用一组原始的YUV数据并且在屏幕上显示出他们。它可以允许4种不 同的 YUV格式,但是其中的YV12是最快的一种。还有一个叫做YUV420P的YUV格式,它和YV12是一样的,除了U和V分量的位置被调换了以外。 420意味着它以4:2:0的比例进行了二次抽样,基本上就意味着1个颜色分量对应着4个亮度分量。所以它的色度信息只有原来的1/4。这是一种节省带宽 的好方式,因为人眼感觉不到这种变化。在名称中的P表示这种格式是平面的――简单的说就是Y,U和V分量分别在不同的数组中。FFMPEG可以把图像格式 转换为YUV420P,但是现在很多视频流的格式已经是YUV420P的了或者可以被很容易的转换成YUV420P格式。
于是,我们现在计划把指导1中的SaveFrame()函数替换掉,让它直接输出我们的帧到屏幕上去。但一开始我们必需要先看一下如何使用SDL库。首先我们必需先包含SDL库的头文件并且初始化它。
1 #include <SDL.h> 2 #include <SDL_thread.h> 3 if(SDL_Init(SDL_INIT_VIDEO | SDL_INIT_AUDIO | SDL_INIT_TIMER)) { 4 fprintf(stderr, "Could not initialize SDL - %s\n", SDL_GetError()); 5 exit(1); 6 }
SDL_Init()函数告诉了SDL库,哪些特性我们将要用到。当然SDL_GetError()是一个用来手工除错的函数。
创建一个显示
现在我们需要在屏幕上的一个地方放上一些东西。在SDL中显示图像的基本区域叫做面surface。
1 SDL_Surface *screen; 2 screen = SDL_SetVideoMode(pCodecCtx->width, pCodecCtx->height, 0, 0); 3 if(!screen) { 4 fprintf(stderr, "SDL: could not set video mode - exiting\n"); 5 exit(1); 6 }
这就创建了一个给定高度和宽度的屏幕。下一个选项是屏幕的颜色深度――0表示使用和当前一样的深度。(这个在OS X系统上不能正常工作,原因请看源代码)
现在我们在屏幕上来创建一个YUV覆盖以便于我们输入视频上去:
1 SDL_Overlay *bmp; 2 bmp = SDL_CreateYUVOverlay(pCodecCtx->width, pCodecCtx->height, 3 SDL_YV12_OVERLAY, screen);
正如前面我们所说的,我们使用YV12来显示图像。
显示图像
前面那些都是很简单的。现在我们需要来显示图像。让我们看一下是如何来处理完成后的帧的。我们将原来对RGB处理的方式,并且替换 SaveFrame() 为显示到屏幕上的代码。为了显示到屏幕上,我们将先建立一个AVPicture结构体并且设置其数据指针和行尺寸来为我们的YUV覆盖服务:
1 if(frameFinished) { 2 SDL_LockYUVOverlay(bmp); 3 AVPicture pict; 4 pict.data[0] = bmp->pixels[0]; 5 pict.data[1] = bmp->pixels[2]; 6 pict.data[2] = bmp->pixels[1]; 7 pict.linesize[0] = bmp->pitches[0]; 8 pict.linesize[1] = bmp->pitches[2]; 9 pict.linesize[2] = bmp->pitches[1]; 10 // Convert the image into YUV format that SDL uses 11 img_convert(&pict, PIX_FMT_YUV420P, 12 (AVPicture *)pFrame, pCodecCtx->pix_fmt, 13 pCodecCtx->width, pCodecCtx->height); 14 SDL_UnlockYUVOverlay(bmp); 15 }
首先,我们锁定这个覆盖,因为我们将要去改写它。这是一个避免以后发生问题的好习惯。正如前面所示的,这个AVPicture结构体有一个数据指针指向一 个有4个元素的指针数据。由于我们处理的是YUV420P,所以我们只需要3个通道即只要三组数据。其它的格式可能需要第四个指针来表示alpha通道或 者其它参数。行尺寸正如它的名字表示的意义一样。在YUV覆盖中相同功能的结构体是像素pixel和程度pitch。(程度pitch是在SDL里用来表 示指定行数据宽度的值)。所以我们现在做的是让我们的覆盖中的pict.data中的三个指针有一个指向必要的空间的地址。类似的,我们可以直接从覆盖中 得到行尺寸信息。像前面一样我们使用img_convert来把格式转换成PIX_FMT_YUV420P。
绘制图像
但我们仍然需要告诉SDL如何来实际显示我们给的数据。我们也会传递一个表明电影位置、宽度、高度和缩放大小的矩形参数给SDL的函数。这样,SDL为我们做缩放并且它可以通过显卡的帮忙来进行快速缩放。
1 if(frameFinished) { 2 SDL_LockYUVOverlay(bmp); 3 AVPicture pict; 4 pict.data[0] = bmp->pixels[0]; 5 pict.data[1] = bmp->pixels[2]; 6 pict.data[2] = bmp->pixels[1]; 7 pict.linesize[0] = bmp->pitches[0]; 8 pict.linesize[1] = bmp->pitches[2]; 9 pict.linesize[2] = bmp->pitches[1]; 10 // Convert the image into YUV format that SDL uses 11 img_convert(&pict, PIX_FMT_YUV420P, 12 (AVPicture *)pFrame, pCodecCtx->pix_fmt, 13 pCodecCtx->width, pCodecCtx->height); 14 SDL_UnlockYUVOverlay(bmp); 15 }
让我们再花一点时间来看一下SDL的特性:它的事件驱动系统。SDL被设置成当你在SDL中点击或者移动鼠标或者向它发送一个信号它都将产生一个事件的驱 动方式。如果你的程序想要处理用户输入的话,它就会检测这些事件。你的程序也可以产生事件并且传递给SDL事件系统。当使用SDL进行多线程编程的时候, 这相当有用,这方面代码我们可以在指导4中看到。在这个程序中,我们将在处理完包以后就立即轮询事件。现在而言,我们将处理SDL_QUIT事件以便于我 们退出:
1 SDL_Event event; 2 av_free_packet(&packet); 3 SDL_PollEvent(&event); 4 switch(event.type) { 5 case SDL_QUIT: 6 SDL_Quit(); 7 exit(0); 8 break; 9 default: 10 break; 11 }
让我们去掉旧的冗余代码,开始编译。如果你使用的是Linux或者其变体,使用SDL库进行编译的最好方式为:
gcc -o tutorial02 tutorial02.c -lavutil -lavformat -lavcodec -lz -lm \
`sdl-config --cflags --libs`
这里的sdl-config命令会打印出用于gcc编译的包含正确SDL库的适当参数。为了进行编译,在你自己的平台你可能需要做的有点不同:请查阅一下SDL文档中关于你的系统的那部分。一旦可以编译,就马上运行它。
当运行这个程序的时候会发生什么呢?电影简直跑疯了!实际上,我们只是以我们能从文件中解码帧的最快速度显示了所有的电影的帧。现在我们没有任何代码来计 算出我们什么时候需要显示电影的帧。最后(在指导5),我们将花足够的时间来探讨同步问题。但一开始我们会先忽略这个,因为我们有更加重要的事情要处理: 音频!