您的位置:首页 > 运维架构 > Linux

Linux命令curl

2015-09-20 23:03 495 查看


Curl是一个命令行方式下传输数据的开源传输工具,支持多种协议包括:FTP,HTTP,HTTPS,IMAP,POP3,TELNET等。同样支持HTTP POST方法,PUT方法,FTP上传,cookie,用户名/密码认证,下载文件端点续传等,功能十分强大。
     curl是一个利用URL规则在命令行下工作的文件传输工具。它支持文件的上传和下载,所以是综合传输工具,但按传统,习惯称url为下载工具。

     先说一下curl命令参数。
<span style="font-size:14px;">    curl命令参数,有好多我没有用过,也不知道翻译的对不对,如果有误的地方,还请指正。
  -a/--append 上传文件时,附加到目标文件
  -A/--user-agent <string>  设置用户代理发送给服务器
  - anyauth   可以使用“任何”身份验证方法
  -b/--cookie <name=string/file> cookie字符串或文件读取位置
  - basic 使用HTTP基本验证
  -B/--use-ascii 使用ASCII /文本传输
  -c/--cookie-jar <file> 操作结束后把cookie写入到这个文件中
  -C/--continue-at <offset>  断点续转
  -d/--data <data>   HTTP POST方式传送数据
  --data-ascii <data>  以ascii的方式post数据
  --data-binary <data> 以二进制的方式post数据
  --negotiate     使用HTTP身份验证
  --digest        使用数字身份验证
  --disable-eprt  禁止使用EPRT或LPRT
  --disable-epsv  禁止使用EPSV
  -D/--dump-header <file> 把header信息写入到该文件中
  --egd-file <file> 为随机数据(SSL)设置EGD socket路径
  --tcp-nodelay   使用TCP_NODELAY选项
  -e/--referer 来源网址
  -E/--cert <cert[:passwd]> 客户端证书文件和密码 (SSL)
  --cert-type <type> 证书文件类型 (DER/PEM/ENG) (SSL)
  --key <key>     私钥文件名 (SSL)
  --key-type <type> 私钥文件类型 (DER/PEM/ENG) (SSL)
  --pass  <pass>  私钥密码 (SSL)
  --engine <eng>  加密引擎使用 (SSL). "--engine list" for list
  --cacert <file> CA证书 (SSL)
  --capath <directory> CA目录 (made using c_rehash) to verify peer against (SSL)
  --ciphers <list>  SSL密码
  --compressed    要求返回是压缩的形势 (using deflate or gzip)
  --connect-timeout <seconds> 设置最大请求时间
  --create-dirs   建立本地目录的目录层次结构
  --crlf          上传是把LF转变成CRLF
  -f/--fail          连接失败时不显示http错误
  --ftp-create-dirs 如果远程目录不存在,创建远程目录
  --ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
  --ftp-pasv      使用 PASV/EPSV 代替端口
  --ftp-skip-pasv-ip 使用PASV的时候,忽略该IP地址
  --ftp-ssl       尝试用 SSL/TLS 来进行ftp数据传输
  --ftp-ssl-reqd  要求用 SSL/TLS 来进行ftp数据传输
  -F/--form. <name=content> 模拟http表单提交数据
  -form-string <name=string> 模拟http表单提交数据
  -g/--globoff 禁用网址序列和范围使用{}和[]
  -G/--get 以get的方式来发送数据
  -h/--help 帮助
  -H/--header <line>自定义头信息传递给服务器
  --ignore-content-length  忽略的HTTP头信息的长度
  -i/--include 输出时包括protocol头信息
  -I/--head  只显示文档信息
  从文件中读取-j/--junk-session-cookies忽略会话Cookie
  - 界面<interface>指定网络接口/地址使用
  - krb4 <级别>启用与指定的安全级别krb4
  -j/--junk-session-cookies 读取文件进忽略session cookie
  --interface <interface> 使用指定网络接口/地址
  --krb4 <level>  使用指定安全级别的krb4
  -k/--insecure 允许不使用证书到SSL站点
  -K/--config  指定的配置文件读取
  -l/--list-only 列出ftp目录下的文件名称
  --limit-rate <rate> 设置传输速度
  --local-port<NUM> 强制使用本地端口号
  -m/--max-time <seconds> 设置最大传输时间
  --max-redirs <num> 设置最大读取的目录数
  --max-filesize <bytes> 设置最大下载的文件总量
  -M/--manual  显示全手动
  -n/--netrc 从netrc文件中读取用户名和密码
  --netrc-optional 使用 .netrc 或者 URL来覆盖-n
  --ntlm          使用 HTTP NTLM 身份验证
  -N/--no-buffer 禁用缓冲输出
  -o/--output 把输出写到该文件中
  -O/--remote-name 把输出写到该文件中,保留远程文件的文件名
  -p/--proxytunnel   使用HTTP代理
  --proxy-anyauth 选择任一代理身份验证方法
  --proxy-basic   在代理上使用基本身份验证
  --proxy-digest  在代理上使用数字身份验证
  --proxy-ntlm    在代理上使用ntlm身份验证
  -P/--ftp-port <address> 使用端口地址,而不是使用PASV
  -Q/--quote <cmd>文件传输前,发送命令到服务器
  -r/--range <range>检索来自HTTP/1.1或FTP服务器字节范围
  --range-file 读取(SSL)的随机文件
  -R/--remote-time   在本地生成文件时,保留远程文件时间
  --retry <num>   传输出现问题时,重试的次数
  --retry-delay <seconds>  传输出现问题时,设置重试间隔时间
  --retry-max-time <seconds> 传输出现问题时,设置最大重试时间
  -s/--silent静音模式。不输出任何东西
  -S/--show-error   显示错误
  --socks4 <host[:port]> 用socks4代理给定主机和端口
  --socks5 <host[:port]> 用socks5代理给定主机和端口
  --stderr <file>
-t/--telnet-option <OPT=val> Telnet选项设置
  --trace <file>  对指定文件进行debug
  --trace-ascii <file> Like --跟踪但没有hex输出
  --trace-time    跟踪/详细输出时,添加时间戳
  -T/--upload-file <file> 上传文件
  --url <URL>     Spet URL to work with
  -u/--user <user[:password]>设置服务器的用户和密码
  -U/--proxy-user <user[:password]>设置代理用户名和密码
  -v/--verbose
  -V/--version 显示版本信息
  -w/--write-out [format]什么输出完成后
  -x/--proxy <host[:port]>在给定的端口上使用HTTP代理
  -X/--request <command>指定什么命令
  -y/--speed-time 放弃限速所要的时间。默认为30
  -Y/--speed-limit 停止传输速度的限制,速度时间'秒
  -z/--time-cond  传送时间设置
  -0/--http1.0  使用HTTP 1.0
  -1/--tlsv1  使用TLSv1(SSL)
  -2/--sslv2 使用SSLv2的(SSL)
  -3/--sslv3         使用的SSLv3(SSL)
  --3p-quote      like -Q for the source URL for 3rd party transfer
  --3p-url        使用url,进行第三方传送
  --3p-user       使用用户名和密码,进行第三方传送
  -4/--ipv4   使用IP4
  -6/--ipv6   使用IP6
  -#/--progress-bar 用进度条显示当前的传送状态
  -a/--append 上传文件时,附加到目标文件
  -A/--user-agent <string>  设置用户代理发送给服务器
  - anyauth   可以使用“任何”身份验证方法
  -b/--cookie <name=string/file> cookie字符串或文件读取位置
  - basic 使用HTTP基本验证
  -B/--use-ascii 使用ASCII /文本传输
  -c/--cookie-jar <file> 操作结束后把cookie写入到这个文件中
  -C/--continue-at <offset>  断点续转
  -d/--data <data>   HTTP POST方式传送数据
  --data-ascii <data>  以ascii的方式post数据
  --data-binary <data> 以二进制的方式post数据
  --negotiate     使用HTTP身份验证
  --digest        使用数字身份验证
  --disable-eprt  禁止使用EPRT或LPRT
  --disable-epsv  禁止使用EPSV
  -D/--dump-header <file> 把header信息写入到该文件中
  --egd-file <file> 为随机数据(SSL)设置EGD socket路径
  --tcp-nodelay   使用TCP_NODELAY选项
  -e/--referer 来源网址
  -E/--cert <cert[:passwd]> 客户端证书文件和密码 (SSL)
  --cert-type <type> 证书文件类型 (DER/PEM/ENG) (SSL)
  --key <key>     私钥文件名 (SSL)
  --key-type <type> 私钥文件类型 (DER/PEM/ENG) (SSL)
  --pass  <pass>  私钥密码 (SSL)
  --engine <eng>  加密引擎使用 (SSL). "--engine list" for list
  --cacert <file> CA证书 (SSL)
  --capath <directory> CA目录 (made using c_rehash) to verify peer against (SSL)
  --ciphers <list>  SSL密码
  --compressed    要求返回是压缩的形势 (using deflate or gzip)
  --connect-timeout <seconds> 设置最大请求时间
  --create-dirs   建立本地目录的目录层次结构
  --crlf          上传是把LF转变成CRLF
  -f/--fail          连接失败时不显示http错误
  --ftp-create-dirs 如果远程目录不存在,创建远程目录
  --ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
  --ftp-pasv      使用 PASV/EPSV 代替端口
  --ftp-skip-pasv-ip 使用PASV的时候,忽略该IP地址
  --ftp-ssl       尝试用 SSL/TLS 来进行ftp数据传输
  --ftp-ssl-reqd  要求用 SSL/TLS 来进行ftp数据传输
  -F/--form. <name=content> 模拟http表单提交数据
  -form-string <name=string> 模拟http表单提交数据
  -g/--globoff 禁用网址序列和范围使用{}和[]
  -G/--get 以get的方式来发送数据
  -h/--help 帮助
  -H/--header <line>自定义头信息传递给服务器
  --ignore-content-length  忽略的HTTP头信息的长度
  -i/--include 输出时包括protocol头信息
  -I/--head  只显示文档信息
  从文件中读取-j/--junk-session-cookies忽略会话Cookie
  - 界面<interface>指定网络接口/地址使用
  - krb4 <级别>启用与指定的安全级别krb4
  -j/--junk-session-cookies 读取文件进忽略session cookie
  --interface <interface> 使用指定网络接口/地址
  --krb4 <level>  使用指定安全级别的krb4
  -k/--insecure 允许不使用证书到SSL站点
  -K/--config  指定的配置文件读取
  -l/--list-only 列出ftp目录下的文件名称
  --limit-rate <rate> 设置传输速度
  --local-port<NUM> 强制使用本地端口号
  -m/--max-time <seconds> 设置最大传输时间
  --max-redirs <num> 设置最大读取的目录数
  --max-filesize <bytes> 设置最大下载的文件总量

-M/--manual  显示全手动

  -n/--netrc 从netrc文件中读取用户名和密码

  --netrc-optional 使用 .netrc 或者 URL来覆盖-n

  --ntlm          使用 HTTP NTLM 身份验证

  -N/--no-buffer 禁用缓冲输出

  -o/--output 把输出写到该文件中

  -O/--remote-name 把输出写到该文件中,保留远程文件的文件名

  -p/--proxytunnel   使用HTTP代理

  --proxy-anyauth 选择任一代理身份验证方法

  --proxy-basic   在代理上使用基本身份验证

  --proxy-digest  在代理上使用数字身份验证

  --proxy-ntlm    在代理上使用ntlm身份验证

  -P/--ftp-port <address> 使用端口地址,而不是使用PASV

  -Q/--quote <cmd>文件传输前,发送命令到服务器

  -r/--range <range>检索来自HTTP/1.1或FTP服务器字节范围

  --range-file 读取(SSL)的随机文件

  -R/--remote-time   在本地生成文件时,保留远程文件时间

  --retry <num>   传输出现问题时,重试的次数

  --retry-delay <seconds>  传输出现问题时,设置重试间隔时间

  --retry-max-time <seconds> 传输出现问题时,设置最大重试时间

  -s/--silent静音模式。不输出任何东西

  -S/--show-error   显示错误

  --socks4 <host[:port]> 用socks4代理给定主机和端口

  --socks5 <host[:port]> 用socks5代理给定主机和端口

  --stderr <file>

  -t/--telnet-option <OPT=val> Telnet选项设置

  --trace <file>  对指定文件进行debug

  --trace-ascii <file> Like --跟踪但没有hex输出

  --trace-time    跟踪/详细输出时,添加时间戳

  -T/--upload-file <file> 上传文件

  --url <URL>     Spet URL to work with

  -u/--user <user[:password]>设置服务器的用户和密码

  -U/--proxy-user <user[:password]>设置代理用户名和密码

  -v/--verbose

  -V/--version 显示版本信息

  -w/--write-out [format]什么输出完成后

  -x/--proxy <host[:port]>在给定的端口上使用HTTP代理

  -X/--request <command>指定什么命令

  -y/--speed-time 放弃限速所要的时间。默认为30

  -Y/--speed-limit 停止传输速度的限制,速度时间'秒

  -z/--time-cond  传送时间设置

  -0/--http1.0  使用HTTP 1.0

  -1/--tlsv1  使用TLSv1(SSL)

  -2/--sslv2 使用SSLv2的(SSL)

  -3/--sslv3         使用的SSLv3(SSL)

  --3p-quote      like -Q for the source URL for 3rd party transfer

  --3p-url        使用url,进行第三方传送

  --3p-user       使用用户名和密码,进行第三方传送

  -4/--ipv4   使用IP4

  -6/--ipv6   使用IP6

  -#/--progress-bar 用进度条显示当前的传送状态</span>
   

     下面结合实例,逐一给出例子。

    1. 先来试试

    curl http://www.baidu.com ,回车之后,HTML内容就显示在屏幕上了。

    2. 下载

    curl –o baidu.html http://www.baidu.com ,执行后还可以看到下载进度提示,完成100%后会自动退出了,把网页保存到baidu.html中了。

    它还有一个大写O的选项,是按照服务器上的文件名保存到本地,如果执行curl –O http://www.baidu.com ,是会报错的,提示找不到文件名,如果换成curl –O http://baike.baidu.com/view/1326315.htm , 就自动保存文件为1326315.html。

    Windows下像flashget这样的工具还支持分块以及断点续传,curl也毫不示弱。

    -C或--continue-at:断点续传,需要指定下载的位置,-应该是默认的,用法如下:

    curl -C -  http://www.example.com
    -r或--range:分块下载,用法:

    curl -r 0-10240 -o "example.part1" http://www.example.com/example.zip &

    curl -r 10241-20480 -o "example.part2"

    http://www.example.com/example.zip
    其中加&表示在后台执行,需要按CTRL+C才能退出。

    不过下载完后需要自己把这些破碎的文件合并起来

    如果你用UNIX或苹果,用 cat example.part* > example.zip就可以

    如果用的是Windows,用copy /b example.part1+example.part2 example.zip来解决

    3. 上传

    -T/--upload-file:往服务器上传文件,用法:

    curl -T "img[1-1000].png" ftp://example.com/upload/
    或上传多个文件

    curl -T "{file1,file2}" http://www.example.com
    4. POST方法

    -d或--data参数:post请求,用法为curl -d “id=1&name=test” http://example.com/example.php

    需把请求的参数和URL分开,同时可以使用curl -d “id=1” -d “name=test” http://example.com/example.php ,相当于提交了两个参数。当提交的参数值中有特殊字符就需要先转义。如空格时,就需要转义成%20。

    --data-urlencode参数:就可以自动转义特殊字符,无需人工事先转义。

    -F或--form:将本地文件上传到服务器,用法为:curl -F “filename=@/home/test/test.pic” http://example.com/example.php 。千万不能漏掉@符号。

     5. 设置referer

    有时候我们如果直接请求某个URL不能成功,它需要判断referer是否正确,那就可以通过-e或--referer参数模拟

    有时你需要在http request头信息中,提供一个referer字段,表示你是从哪里跳转过来的

    curl --referer http://www.example.com http://www.example.com

    6. 指定User Agent

    -A/--user-agent:伪装成指定的浏览器Chrome访问,用法:

    curl -A “Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36” http://www.example.com
    7. 伪造cookie

    -b或--cookie: 有两种用法,一是指定参数和值:curl --cookie "name=xxx" http://www.example.com ;二是从文件读取:curl -b /cookie.txt http://www.example.com
    8. 保存cookie

    -c/--cookie-jar:curl命令执行后保存操作时生成的cookie到文件:

    curl -c ./cookie.txt -d username=aaaa -d pwd=****** http://www.example.com
    9. 定义输出显示内容

    现在为止对它的崇拜已经是犹如滔滔江水连绵不绝了,慢!还有一个powerful的选项.

    -w/--write-out: 可以定义输出的内容,如常用的http码,tcp连接时间,域名解析的时间,握手时间及第一时间响应时间等,非常强大。

    用法如:

    curl -o /dev/null -s -w %{http_code} "http://www.baidu.com" 打印出返回的http码

    curl -o /dev/null -s -w “time_total: %{time_total}\n" "http://www.baidu.com" 打印响应时间
    查看接口相应时间

    curl -o /dev/null -s -w "%{time_connect}:%{time_starttransfer}:%{time_total}\n" http://www.javaranger.com
    第一个是从命令启动到链接上用的时间

    冒号是分隔符(可以在自己的 -w 模板里头修改这个分隔符,比如可以用\t或者|,自己改改看)

    第二个字段,是开始传输数据所用的时间

    第三个字段,是完成传输所用的时间

    这三个时间对于判断网络状况和系统性能是很有帮助的

    10.显示抓取错误

    [root@10.10.90.97 ~]# curl -f http://www.sina.com.cn/asdf
     curl: (22) The requested URL returned error: 404

   11.不显示下载进度信息

      [root@10.10.90.97 ~]# curl -s -o aaa.jpg 

   12.显示下载进度条

      [root@10.10.90.97 ~]# curl -# -O  http://www.it415.com/czxt/linux/25002_3.html
      ######################################################################## 100.0%

   13.通过ftp下载文件

      [root@10.10.90.97 ~]# curl -u 用户名:密码 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css
     % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

      Dload  Upload   Total   Spent    Left  Speed

     101  1934  101  1934    0     0   3184      0 --:--:-- --:--:-- --:--:--  7136

       或者用下面的方式

      [root@10.10.90.97 ~]# curl -O ftp://xukai:test@192.168.242.144:21/www/focus/enhouse/index.php
     % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

                                    Dload  Upload   Total   Spent    Left  Speed

      100 87518  100 87518    0     0  2312k      0 --:--:-- --:--:-- --:--:-- 11.5M

      [zhangy@BlackGhost ~]$ curl -u 用户名:密码 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

  Dload  Upload   Total   Spent    Left  Speed

  101  1934  101  1934    0     0   3184      0 --:--:-- --:--:-- --:--:--  7136

  [zhangy@BlackGhost ~]$ curl -u 用户名:密码 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

  Dload  Upload   Total   Spent    Left  Speed

  101  1934  101  1934    0     0   3184      0 --:--:-- --:--:-- --:--:--  7136

  或者用下面的方式

  [zhangy@BlackGhost ~]$ curl -O ftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/style.css
  [zhangy@BlackGhost ~]$ curl -O ftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/style.css
   14.通过ftp上传

      [root@10.10.90.97 ~]# curl -T xukai.php ftp://xukai:test@192.168.242.144:21/www/focus/enhouse/         

     % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

                                    Dload  Upload   Total   Spent    Left  Speed

     100 87518    0     0  100 87518      0  2040k --:--:-- --:--:-- --:--:-- 8901k

       [zhangy@BlackGhost ~]$ curl -T test.sql ftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/
  [zhangy@BlackGhost ~]$ curl -T test.sql ftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/
   15..模拟表单信息,模拟登录,保存cookie信息

   [root@10.10.90.97 ~]# curl -c ./cookie_c.txt -F log=aaaa -F pwd=****** http://blog.51yip.com/wp-login.php
  16.模拟表单信息,模拟登录,保存头信息

   [root@10.10.90.97 ~]# curl -D ./cookie_D.txt -F log=aaaa -F pwd=****** http://blog.51yip.com/wp-login.php
   -c(小写)产生的cookie和-D里面的cookie是不一样的。

   17.使用cookie文件

   [root@10.10.90.97 ~]# curl -b ./cookie_c.txt  http://blog.51yip.com/wp-admin
  18.传送数据,最好用登录页面测试,因为你传值过去后,curl回抓数据,你可以看到你传值有没有成功

   [root@10.10.90.97 ~]# curl -d log=aaaa  http://blog.51yip.com/wp-login.php
   19.显示抓取错误

   [root@10.10.90.97 ~]# curl -f http://www.sina.com.cn/asdf
   curl: (22) The requested URL returned error: 404

   [root@10.10.90.97 ~]# curl http://www.sina.com.cn/asdf
   <HTML><HEAD><TITLE>404,not found</TITLE>

   。。。。。。。。。。。。

  20.伪造来源地址,有的网站会判断,请求来源地址

   [root@10.10.90.97 ~]# curl -e http://localhost http://www.sina.com.cn

   21.当我们经常用curl去搞人家东西的时候,人家会把你的IP给屏蔽掉的,这个时候,我们可以用代理

   [root@10.10.90.97 ~]# curl -x 10.10.90.83:80 -o home.html http://www.sina.com.cn
   22.对CURL使用网络限速通过--limit-rate选项对CURL的最大网络使用进行限制

     # 下载速度最大不会超过1000B/second

     curl --limit-rate 1000B -O http://www.gnu.org/software/gettext/manual/gettext.html
   23.下载指定时间内修改过的文件

     当下载一个文件时,可对该文件的最后修改日期进行判断,如果该文件在指定日期内修改过,就进行下载,否则不下载。

     该功能可通过使用-z选项来实现:

     # 若yy.html文件在2011/12/21之后有过更新才会进行下载

     curl -z 21-Dec-11 http://www.example.com/yy.html
    24.使用GET和POST协议外,还可以通过 -X 选项指定其它协议,如:

     curl -I -X DELETE https://api.github.cim
    25.上传文件

       curl --form "fileupload=@filename.txt" http://hostname/resource
    假定文件上传的表单是下面这样:

      <form method="POST" enctype='multipart/form-data' action="upload.cgi">

        <input type=file name=upload>

        <input type=submit name=press value="OK">

      </form>

    你可以用curl这样上传文件:

      curl --form upload=@localfilename --form press=OK [URL]

     26.增加头信息

       有时需要在http request之中,自行增加一个头信息。--header参数就可以起到这个作用。

     curl --header "Content-Type:application/json" http://example.com
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: