摘要:看完本文,你将 (1)了解什么是MPEG-7 (2)理解MPEG-7中的一些基本概念(
什么是D,DS,DDL)
。
一.
MPEG-7简介
(1) 什么是MPEG-7
MPEG-7的正式名称是“多媒体内容描述接口”(Multimedia Content Description Interface),是由运动图像专家组(MPEG, Moving Picture Experts Group)提出的一个用于描述多媒体内容的ISO/IEC标准。
简单而言,MPEG-7其实就是一个规定如何来描述多媒体内容的特征的标准。
明确一点:MPEG-7跟MPEG-2、MPEG-4等除了名字有点像以外没有更多的相同点。MPEG-2、MPEG-4关注的是多媒体本身的编码压缩,而MPEG-7关注的是多媒体内容特征的描述。
(2) MPEG-7标准的范围
MPEG-7标准仅仅规定了如何描述,组织特征。特征的提取、特征的使用不属于MPEG-7标准的范围。
以图片内容搜索引擎为例,图片特征的提取算法不属于MPEG-7标准范围(提取算法也没有标准化的必要),同样搜索引擎如何使用图片特征也不在MPEG-7范围,只有特征的描述(下文将介绍如何描述特征)是MPEG-7标准范围内的。
图1. MPEG-7 标准的范围
(3) MPEG-7应用领域
MPEG-7比不针对特定的应用领域。就目前来看,适合应用MPEG-7的领域包括:
<1> 基于内容的多媒体搜索(包括图像搜索、哼唱搜索、语音搜索等)
<2> 图像理解
<3> 其他需要使用大量多媒体特征的应用
二.
MPEG-7主要概念
(1) 特征(
Feature )
用于描述数据的有区分性的特性。比如声音的频率,图形的灰度直方图等就是一些简单的特征。
(2) 描述符(
Ds, Descriptors )
也称描述子。描述符通常缩写成D或Ds。 D通常是一些基本特征的语法和语义。D是最基本的MPEG-7元素,也就是说一个描述符的定义只能使用基本的数据类型,而不能包含别的D。
(3) 描述方案(DSs,
Description Schemes)
也称描述模式。描述方案通常所写成DS或DSs。一个DS的定义除了可以使用基本的数据类型外,还可以包含其他的DS或D。
(4) 描述值(
Descriptor Value )
是描述符的一个实例。
(5) 描述
( Description )
由一个描述方案(结构)和一组描述值组成。
(6) 描述定义语言(
DDL, Description Definition Language)
用于定义新的D和DS。MPEG-7 DDL是在XML Schema基础上扩展而成,主要所作的扩展有两点:支持数组与矩阵类型,增加了其他的派生数据类型。
图2. D,DS,DDL,Description的关系
图2说明了D,DS,DDL之间的关系。这三者的关系可以用下面几句话简要概括:
<1> D与DS规定了描述特征的语法。DS和D实例化后就是对一个多媒体特征的描述。
<2> DS可以由D和其他DS构成。
<3> DDL定义D和DS。
这三者的关系可以用C++与类的关系作类比,C++定义类,类可以用基本的数据类型来定义,也可以通过组合、继承其他类来定义,类是对象的结构定义,对象是类的实例化。
类似的,DDL定义了D和DS,D只能用基本的数据类型来定义,DS的定义则可以使用其他的DS与D,描述值是D的实例化。
什么?你还不懂?上实例!
三.
MPEG-7 实例
下面我将通过实际代码来说明描述符,描述值,描述方案,描述的概念。保证你看得懂,前提是你已经能看懂XML Schema。(如果您还不会XML Schema请问谷哥度娘。)
(1) 描述符
下面是一个名为“ScalableColorType”的描述符的定义:
<complexType name="ScalableColorType" final="#all">
<complexContent>
<extension base="mpeg7:VisualDType">
<sequence>
<element name="Coeff" type="mpeg7:integerVector"/>
</sequence>
<attribute name="numOfCoeff" use="required">
<simpleType>
<restriction base="integer">
<enumeration value="16"/>
<enumeration value="32"/>
<enumeration value="64"/>
<enumeration value="128"/>
<enumeration value="256"/>
</restriction>
</simpleType>
</attribute>
<attribute name="numOfBitplanesDiscarded" use="required">
<simpleType>
<restriction base="integer">
<enumeration value="0"/>
<enumeration value="1"/>
<enumeration value="2"/>
<enumeration value="3"/>
<enumeration value="4"/>
<enumeration value="6"/>
<enumeration value="8"/>
</restriction>
</simpleType>
</attribute>
</extension>
</complexContent>
</complexType>
可以看出这个“ScalableColorType”描述符是由“mpeg7:VisualDType”类型扩展而来,包含有一个名为“Coeff”的
“mpeg7:integerVector”类型的元素,以及名为“numOfCoeff”和名为“numOfBitplanesDiscarded”的枚举类型属性各一个。
由于“ScalableColorType”的定义仅仅使用了基本的数据类型,而没有用到其他的D或DS,因此我们将其称为一个描述符(D) 。
(2) 描述值
下面的代码是“ScalableColorType”描述符的一个实例,也就是一个描述值。
<VisualDescriptor type="ScalableColorType“ numOfBitplanesDiscarded="0" numOfCoeff="64">
<Coeff>
-121 8 -3 87 12 14 22 37 31 13 11 3 50 14 19 21 -3 1 0 11
-8 5 0 17 -8 2 2 4 -15 5 1 -1 1 0 0 1 0 0 1 1 6 1 1 3 1 2 4 12
-1 0 2 2 2 3 3 -4 15 0 0 -2 1 0 -3 6
</Coeff>
</VisualDescriptor>
将这个描述值跟上面给出的“ScalableColorType”描述符对比着看,可以发现描述值的结构是由描述符规定的,描述值是描述符的一个实例。
(3) 描述方案
下面是一个名为“GoFGoPColorType”的描述方案的定义。
<complexType name="GoFGoPColorType" final="#all">
<complexContent>
<extension base="mpeg7:VisualDType">
<sequence>
<element name="ScalableColor" type="mpeg7:ScalableColorType"/>
</sequence>
<attribute name="aggregation" use="required">
<simpleType>
<restriction base="string">
<enumeration value="Average"/>
<enumeration value="Median"/>
<enumeration value="Intersection"/>
</restriction>
</simpleType>
</attribute>
</extension>
</complexContent>
</complexType>
可以看出“GoFGoPColorType”描述方案是由“mpeg7:VisualDType”类型扩展而来,包含了一个“ScalableColorType”类型的元素,以及一个名为“aggregation”的枚举类型的属性。
由于“GoFGoPColorType”的定义中包含了一个“ScalableColorType”描述符,因此我们将其称为一个描述方案(DS)。
(4) 描述
下面的代码是对一个图片文件生成的一个描述。其中包含了一个“ScalableColorType”类型的描述值。
<?xml version="1.0" encoding="UTF-8"?>
<image>
<title>Twilight</title>
<comments>nice picture</comments>
<tags>sunset sky</tags>
<Mpeg7>
<Description type="ContentEntityType">
<MultimediaContent type="ImageType">
<Image>
<VisualDescriptor type="ScalableColorType“ numOfBitplanesDiscarded="0" numOfCoeff="64">
<Coeff>
-121 8 -3 87 12 14 22 37 31 13 11 3 50 14 19 21 -3 1 0 11
-8 5 0 17 -8 2 2 4 -15 5 1 -1 1 0 0 1 0 0 1 1 6 1 1 3 1 2 4 12
-1 0 2 2 2 3 3 -4 15 0 0 -2 1 0 -3 6
</Coeff>
</VisualDescriptor>
</Image>
</MultimediaContent>
</Description>
</Mpeg7>
</image>
四.
MPEG-7标准组成
(1) MPEG-7 视频
(2) MPEG-7 音频
(3) MPEG-7 多媒体
(4) 描述定义语言 DDL
(5) MPEG-7 参考软件
其中(1)(2)(3)主要是对视频,音频,多媒体成百上千个的描述符和描述方案,而且至今仍在不断增加。而(5)则是根据MPEG-7标准开发的软件实验平台。
如果你想深入了解MPEG-7 DDL可以阅读参考文献2。关于MPEG-7视频、音频、多媒体以后我有时间还会写些文章深入探讨。
参考资料:
[1] MPEG-7 Overview
http://mpeg.chiariglione.org/standards/mpeg-7/mpeg-7.htm
[2]Jane Hunter. An Overview of the MPEG-7 Description
Definition Language (DDL)