php读取网络文件 curl, fsockopen ,file_get_contents 几个方法的效率对比
2016-03-08 16:57
976 查看
最近需要获取别人网站上的音乐数据。用了file_get_contents函数,但是总是会遇到获取失败的问题,尽管按照手册中的 例子设置了超时,可多数时候不会奏效:
$config[‘context’] = stream_context_create(array(‘http’ => array(‘method’ => “GET”,
’timeout’ => 5//这个超时时间不稳定,经常不奏效
)
));
这时候,看一下服务器的连接池,会发现一堆类似的错误,让我头疼万分:
file_get_contents(http://*): failed to open stream…
现在改用了curl库,写了一个函数替换:
function curl_file_get_contents(durl){durl){
ch = curl_init();
curl_setopt(ch,CURLOPTURL,ch, CURLOPT_URL, durl);
curl_setopt(ch,CURLOPTTIMEOUT,5);curlsetopt(ch, CURLOPT_TIMEOUT, 5);
curl_setopt(ch, CURLOPT_USERAGENT, USERAGENT);
curl_setopt($ch, CURLOPT_REFERER,REFERER);
curl_setopt(ch,CURLOPTRETURNTRANSFER,1);ch, CURLOPT_RETURNTRANSFER, 1);
r = curl_exec(ch);curlclose(ch);
curl_close(ch);
return $r;
}
如此,除了真正的网络问题外,没再出现任何问题。
这是别人做过的关于curl和file_get_contents的测试:
file_get_contents抓取google.com需用秒数:
2.31319094
2.30374217
2.21512604
3.30553889
2.30124092
curl使用的时间:
0.68719101
0.64675593
0.64326
0.81983113
0.63956594
差距很大?呵呵,从我使用的经验来说,这两个工具不只是速度有差异,稳定性也相差很大。
建议对网络数据抓取稳定性要求比较高的朋友使用上面的 curl_file_get_contents函数,不但稳定速度快,还能假冒浏览器欺骗目标地址哦!
看到的其他文章收藏于此===============================
php fsockopen
方法1: 用file_get_contents 以get方式获取内容
$config[‘context’] = stream_context_create(array(‘http’ => array(‘method’ => “GET”,
’timeout’ => 5//这个超时时间不稳定,经常不奏效
)
));
这时候,看一下服务器的连接池,会发现一堆类似的错误,让我头疼万分:
file_get_contents(http://*): failed to open stream…
现在改用了curl库,写了一个函数替换:
function curl_file_get_contents(durl){durl){
ch = curl_init();
curl_setopt(ch,CURLOPTURL,ch, CURLOPT_URL, durl);
curl_setopt(ch,CURLOPTTIMEOUT,5);curlsetopt(ch, CURLOPT_TIMEOUT, 5);
curl_setopt(ch, CURLOPT_USERAGENT, USERAGENT);
curl_setopt($ch, CURLOPT_REFERER,REFERER);
curl_setopt(ch,CURLOPTRETURNTRANSFER,1);ch, CURLOPT_RETURNTRANSFER, 1);
r = curl_exec(ch);curlclose(ch);
curl_close(ch);
return $r;
}
如此,除了真正的网络问题外,没再出现任何问题。
这是别人做过的关于curl和file_get_contents的测试:
file_get_contents抓取google.com需用秒数:
2.31319094
2.30374217
2.21512604
3.30553889
2.30124092
curl使用的时间:
0.68719101
0.64675593
0.64326
0.81983113
0.63956594
差距很大?呵呵,从我使用的经验来说,这两个工具不只是速度有差异,稳定性也相差很大。
建议对网络数据抓取稳定性要求比较高的朋友使用上面的 curl_file_get_contents函数,不但稳定速度快,还能假冒浏览器欺骗目标地址哦!
看到的其他文章收藏于此===============================
php fsockopen
方法1: 用file_get_contents 以get方式获取内容
相关文章推荐
- iOS 开发 网络实时监测
- (3)下载网络文件
- TCP/IP 协议族概述
- ACE中TCP通信
- iOS 怎样通过UDP发送广播寻找设备,拿到ip地址,然后用TCP 连接设备
- Http研究心得+面试心得
- 提升linux下tcp服务器并发连接数限制
- Ping检查服务器网络
- C++ 用libcurl库进行http通讯网络编程(转)
- HTTP头部详解
- http协议
- Tcp三次握手和四次挥手 流量控制和拥塞控制
- Nginx使用ssl模块配置https
- Spring MVC - HTTP Status 500 - Servlet.init() for servlet loginDispacher threw exception
- TCP和UDP的区别(转)
- http://www.molotang.com/articles/906.html
- 数据中心网络虚拟化 隧道技术
- HTTP 协议访问网络
- Node http.response 长连接数据流输出中断的问题
- Linux下套接字详解(补充)---- TCP协议中的三次握手和四次挥手(图解)