PostgreSQL中copy命令以二进制形式传输数据的二进制格式

有用户想知道pg中copy命令使用二进制文件时二进制文件的格式,这个格式pg的使用文档里其实已经有了,这儿结合例子说明的更具体一些,现解析如下:

先看一下copy命令的语法,然后做个例子,根据例子解析一下二进制文件的格式。

COPY命令用于在外部文件(客户端)和表之间传送数据,语法如下:

COPY tablename [ ( column [, ...] ) ]

    FROM { 'filename' | STDIN }

    [ [ WITH ]

          [ BINARY ]

          [ OIDS ]

          [ DELIMITER [ AS ] 'delimiter' ]

          [ NULL [ AS ] 'null string' ]

          [ CSV [ HEADER ]

                [ QUOTE [ AS ] 'quote' ]

                [ ESCAPE [ AS ] 'escape' ]

                [ FORCE NOT NULL column [, ...] ]

 

COPY { tablename [ ( column [, ...] ) ] | ( query ) }

    TO { 'filename' | STDOUT }

    [ [ WITH ]

          [ BINARY ]

          [ OIDS ]

          [ DELIMITER [ AS ] 'delimiter' ]

          [ NULL [ AS ] 'null string' ]

          [ CSV [ HEADER ]

                [ QUOTE [ AS ] 'quote' ]

                [ ESCAPE [ AS ] 'escape' ]

                [ FORCE QUOTE column [, ...] ]

 

下面是pg7.3版本以前的语法,后续的版本仍然支持

COPY [ BINARY ] table_name [ WITH OIDS ]

    FROM { 'filename' | STDIN }

    [ [USING] DELIMITERS 'delimiter' ]

    [ WITH NULL AS 'null string' ]

 

COPY [ BINARY ] table_name [ WITH OIDS ]

    TO { 'filename' | STDOUT }

    [ [USING] DELIMITERS 'delimiter' ]

    [ WITH NULL AS 'null string' ]

   

使用copy命令的例子:

1

命令copy to 涉及的表copybinarytest的定义

beigang=# \d+ copybinarytest

                        资料表 "enterprisedb.copybinarytest"

  栏位   |         型别          | 修饰词 |   存储   | Stats target | 描述

---------+-----------------------+--------+----------+--------------+------

 id      | numeric(10,0)         |        | main     |              |

 content | character varying(30) |        | extended |              |

有 OIDs: 否

 

2

表copybinarytest的记录

beigang=# select * from copybinarytest;

 id |   content

----+-------------

  1 | beigang

  2 | copy binary

  3 | abc

(3 行记录)

 

3

创建命令copy from 涉及的表copybinarytest2

beigang=# create table copybinarytest2 as select * from copybinarytest where 1=8;

SELECT 0

 

4

命令copy from 涉及的表copybinarytest2的定义

beigang=# \d+ copybinarytest2;

                        资料表 "enterprisedb.copybinarytest2"

  栏位   |         型别          | 修饰词 |   存储   | Stats target | 描述

---------+-----------------------+--------+----------+--------------+------

 id      | numeric(10,0)         |        | main     |              |

 content | character varying(30) |        | extended |              |

有 OIDs: 否

 

5

用copy to命令以二进制形式把copybinarytest表的内容拷贝到binary文件中

beigang=# copy binary copybinarytest to 'binary';

COPY 3

beigang=#

 

6

Binary文件的内容如下图:

 


 

 

Copy命令二进制文件的格式如下:

二进制格式

    二进制格式的文件由一个文件头、数据(零个或多个元组)和文件尾构成。文件头和数据按网络字节顺序表示。

 

文件头

    文件头由15个字节的固定区域和一个变长的扩展区域组成。固定区域包括:

       签名

              11个字节的序列PGCOPY\nFF\r\n\0。

       标志位

              32位的整数。位的编号从0(最低位)到31(最高位)。当前只有一个标志位被使用,它是第16位,如果它的值是1,表示含有OID,如果它的值是0,表示不含OID。其它的标志位永远是0。

       扩展区域

              首先是一个32位的整数,表示扩展区域的长度,不包括这个32位的整数自身。当前,它的值是0。第一个元组紧跟在它的后面。

 

元组

    每个元组以一个16位的整数开始,表示元组中域的个数。然后是元组中的每个域。每个域由一个32位的整数开始,它表示域的长度,后面跟着域的数据,-1表示域的值为空值。如果文件中包含OID,则它的值跟在元组的第一个16位整数的后面,而且就算组的域的个数时,OID不被计算在内,它也由一个32位的整数开始,表示OID的长度,当前,OID的长度固定是4字节,以后可能扩展到8字节。

文件尾

    文件尾包含一个16位的整数,它的值是-1。

7

确认copybinarytest2表中没有记录

beigang=# select * from copybinarytest2;

 id | content

----+---------

(0 行记录)

 

8

用copy from命令把binary文件中的数据拷贝到表从opybinarytest中

beigang=# copy binary copybinarytest2 from 'binary';

COPY 3

 

9

确认表copybinarytest2的内容和copybinarytest相同。

beigang=# select * from copybinarytest2;

 id |   content

----+-------------

  1 | beigang

  2 | copy binary

  3 | abc

(3 行记录)

 

以上面的例子为例解析Copy命令二进制文件格式


 

上图是copy命令导出的二进制数据文件,图中用红色竖线做分隔符,把二进制文件分成不同的段。蓝色数字表示各段的编号,

其中文件头包括第1段到第3段。

       第1段是11个字节的序列PGCOPY\nFF\r\n\0;第2段是标志位,占4个字节;第3段是扩展区域,至少4个字节,根据情况可能更多。

元祖包括第4段到第18段

              第4、5、6、7、8段是第一条记录:第4段表示该元祖的列数,占2个字节;第5段表示第一列的长度,占4个字节;第6段是第一列的值;第7段是第二列的长度,占4个字节;第8段是第二列的值。

              第9、10、11、12、13段是第二条记录,同上。

              第14、15、16、17、18段是第三条记录,同上。

文件尾是第19段,占2个字节。

 

参考:

http://www.postgresql.org/docs/9.2/static/sql-copy.html

src/backend/commands/copy.c


 

-----------------

转载请著明出处:
blog.csdn.net/beiigang
beigang.iteye.com


posted @ 2013-06-08 21:00  jlins  阅读(531)  评论(0编辑  收藏  举报