cURL笔记

cURL 是利用URL语法在命令行方式下工作的开源文件传输工具。它被广泛应用在Unix、多种Linux发行版中，并且有DOS和Win32、Win64下的移植版本。

cURL 可以很方便地完成对 REST API 的调用场景，比如：设置 Header，指定 HTTP 请求方法，指定 HTTP 消息体，指定权限认证信息等。通过 -v 选项也能输出 REST 请求的所有返回信息。cURL 功能很强大，有很多参数，这里列出 REST 测试常用的参数：

-X/--request [GET|POST|PUT|DELETE|…]  指定请求的 HTTP 方法
-H/--header                           指定请求的 HTTP Header
-d/--data                             指定请求的 HTTP 消息体（Body）
-v/--verbose                          输出详细的返回信息
-u/--user                             指定账号、密码
-b/--cookie                           读取 cookie  

典型的测试命令为：

$ curl -v -XPOST -H "Content-Type: application/json" http://127.0.0.1:8080/user -d'{"username":"admin","password":"admin1234"}'...

可以通过下面命令查看curl支持的选项：

curl -h

最简单的使用

curl http://www.centos.org

获取服务器内容，默认将输出打印到标准输出中(STDOUT)中。

下载内容到指定路径

通过-o/-O选项保存下载的文件到指定的文件中：

-o：将文件保存为命令行中指定的文件名的文件中
-O：使用URL中默认的文件名保存文件到本地

curl -o mygettext.html http://www.gnu.org/software/gettext/manual/gettext.html

curl -O http://www.gnu.org/software/gettext/manual/gettext.html

使用多个-O可以同时获取多个文件内容。若同时从同一站点下载多个文件时，curl会尝试重用链接(connection)。

断点续传

通过使用-C选项可对大文件使用断点续传功能，如：

# 当文件在下载完成之前结束该进程
$ curl -O http://www.gnu.org/software/gettext/manual/gettext.html
##############             20.1%

# 通过添加-C选项继续对该文件进行下载，已经下载过的文件不会被重新下载
curl -C - -O http://www.gnu.org/software/gettext/manual/gettext.html
###############            21.1%

需要注意的是-C参数后值是-。

下载限速

通过--limit-rate选项对CURL的最大网络使用进行限制：

# 下载速度最大不会超过1000B/second 
curl --limit-rate 1000B -O http://www.gnu.org/software/gettext/manual/gettext.html

下载指定时间内修改过的文件

当下载一个文件时，可对该文件的最后修改日期进行判断，如果该文件在指定日期内修改过，就进行下载，否则不下载。

该功能可通过使用-z选项来实现：

# 若yy.html文件在2011/12/21之后有过更新才会进行下载
curl -z 21-Dec-11 http://www.example.com/yy.html

CURL授权

在访问需要授权的页面时，可通过-u选项提供用户名和密码进行授权

curl -u username:password URL

# 通常的做法是在命令行只输入用户名，之后会提示输入密码，这样可以保证在查看历史记录时不会将密码泄露
curl -u username URL

从FTP服务器下载文件

CURL同样支持FTP下载，若在url中指定的是某个文件路径而非具体的某个要下载的文件名，CURL则会列出该目录下的所有文件名而并非下载该目录下的所有文件：

# 列出public_html下的所有文件夹和文件
curl -u ftpuser:ftppass -O ftp://ftp_server/public_html/

# 下载xss.php文件
curl -u ftpuser:ftppass -O ftp://ftp_server/public_html/xss.php

上传文件到FTP服务器

通过 -T 选项可将指定的本地文件上传到FTP服务器上

# 将myfile.txt文件上传到服务器
curl -u ftpuser:ftppass -T myfile.txt ftp://ftp.testserver.com

# 同时上传多个文件
curl -u ftpuser:ftppass -T "{file1,file2}" ftp://ftp.testserver.com

# 从标准输入获取内容保存到服务器指定的文件中
curl -u ftpuser:ftppass -T - ftp://ftp.testserver.com/myfile_1.txt

通过字典查询单词

# 查询bash单词的含义
curl dict://dict.org/d:bash

# 列出所有可用词典
curl dict://dict.org/show:db

# 在foldoc词典中查询bash单词的含义
curl dict://dict.org/d:bash:foldoc

设置代理

-x 选项可以为CURL添加代理功能：

# 指定代理主机和端口
curl -x proxysever.test.com:3128 http://google.co.in

保存与使用网站cookie信息

# 将网站的cookies信息保存到sugarcookies文件中
curl -D sugarcookies http://localhost/sugarcrm/index.php
 
# 使用上次保存的cookie信息
curl -b sugarcookies http://localhost/sugarcrm/index.php

获取HTTP头信息

通过使用 -v 和 -trace获取更多的链接信息：

curl -v http://www.centos.org

发送GET/POST请求

默认curl使用GET方式请求数据，这种方式下直接通过URL传递数据。

可以通过 --data/-d 方式指定使用POST方式传递数据；通过 -X 选项指定其它协议。

# GET
curl -u username https://api.github.com/user?access_token=XXXXXXXXXX

# POST
curl -u username --data "param1=value1&param2=value" https://api.github.com

# 也可以指定一个文件，将该文件中的内容当作数据传递给服务器端
curl --data @filename https://github.api.com/authorizations

# 通过 -X 选项指定其它协议
curl -I -X DELETE https://api.github.cim

# 上传文件: -F/--form
# 相当于设置form表单的method="POST"和enctype='multipart/form-data'两个属性
curl --form "fileupload=@filename.txt" http://hostname/resource

注：默认情况下，通过POST方式传递过去的数据中若有特殊字符，首先需要将特殊字符转义再传递给服务器端，如value值中包含有空格，则需要先将空格转换成%20，如：

curl -d "value%201" http://hostname.com

在新版本的CURL中，提供了新的选项 --data-urlencode，通过该选项提供的参数会自动转义特殊字符：

curl --data-urlencode "value 1" http://hostname.com

设置HTTP头部字段

若服务器需要传递json文本参数：

curl -H "Content-Type: application/json" -X POST  --data '{"param":{"appkey":"xxx","secret":"xxx"}}'  http://api.xxx.com

-H/--header 用于为HTTP请求设置任意header及值。

-H "Content-Type: application/json"指定以json形式传递参数，默认是以表单的形式传递参数。

对于User-Agent、 Cookie、 Host这类标准的HTTP头部字段，通常会有另外一种设置方法。curl命令提供了特定的选项来对这些头部字段进行设置：

• -A/--user-agent: 设置 User-Agent 字段
• -b/--cookie: 设置 Cookie 字段
• -e/--referer: 设置 Referer 字段

参考：
1、CURL常用命令
http://www.cnblogs.com/gbyukg/p/3326825.html
2、Linux系统入门学习：在curl中设置自定义的HTTP头
http://www.linuxidc.com/Linux/2015-02/114220.htm
3、Linux curl命令参数详解
http://www.aiezu.com/system/linux/linux_curl_syntax.html