Golang爬虫基础:通过代理IP发送请求
2017-07-30 20:14
841 查看
package main import ( "fmt" "io/ioutil" "log" "net/http" "net/url" ) func main() { req_url := "http://httpbin.org/get" fmt.Printf("url: %s", req_url) proxy := func(_ *http.Request) (*url.URL, error) { return url.Parse("http://12.23.16.11:1234") } transport := &http.Transport{Proxy: proxy} c := &http.Client{Transport: transport} req, err := http.NewRequest("GET", req_url, nil) if err != nil { log.Fatal(err) } res, err := c.Do(req) if err != nil { log.Fatal(err) } defer res.Body.Close() body, err := ioutil.ReadAll(res.Body) if err != nil { log.Fatal(err) } fmt.Printf("%s", body) }
运行结果:
url: http://httpbin.org/get{ "args": {}, "headers": { "Accept-Encoding": "gzip", "Connection": "close", "Host": "httpbin.org" 4000 , "User-Agent": "Go-http-client/1.1" }, "origin": "12.23.16.11", "url": "http://httpbin.org/get" }
相关文章推荐
- 通过爬虫代理IP快速增加博客阅读量——亲测CSDN有效!
- Golang 通过tcp / ip发送数据
- 利用HttpU c425 RLConnecion通过Nginx向代理邮件服务器发送POST请求
- 通过Python爬虫代理IP快速增加博客阅读量
- python客户端通过代理发送请求
- python 网络爬虫——请求头,ip代理
- 设置代理IP 设置完成后可发送抓取数据的请求
- Golang爬虫基础:GET请求
- 第三百四十八节,Python分布式爬虫打造搜索引擎Scrapy精讲—通过自定义中间件全局随机更换代理IP
- Golang爬虫基础:POST请求
- 使用jquery中的$.Ajax 和$.post 发送请求 (基础写法)
- Python2.*爬虫获取免费有效IP代理
- 网络爬虫爬取全国省市区(动态ip代理的获取,实现对ip限制的突破)
- Python 爬虫入门(二)—— IP代理使用
- nginx反向代理到tomcat,并在request中获取客户端请求ip
- Python:爬虫使用代理防封IP:HTTP Error 403: Forbidden
- 使用Apache通过JK实现多Tomcat负载均衡集群时,Apache不能将请求分发给Tomcat处理(即Apache反向代理不成功)的问题
- Python爬虫常用小技巧之设置代理IP
- 向ArcIMS发送请求,通过ArcXML,返回ServiceInfo中文乱码。求教。
- Java基础——前台发送请求及参数传递