php获取网页内容方法总结
2012-11-12 16:16
751 查看
用php抓取页面的内容在实际的开发当中是非常有用的,如作一个简单的内容采集器,提取网页中的部分内容等等
抓取到的内容在通过正则表达式做一下过滤就得到了你想要的内容,至于如何用正则表达式过滤,在这里就不做介绍了,有兴趣的,以下就是几种常用的用php抓取网页中的内容的方法。
首先举个自己做过的例子:这个例子是调用大众点评的接口数据 返回的是XML的数据
[php]
view plaincopyprint?
$api = 'http://api.dianping.com/Promo.svc/search?'; //接口地址
$param = array(
'cityid' =>'1',
//'shoptype' =>'',
//'keyword' =>'',
//'categoryID' =>'',
//'regionid' =>'',
'type' =>'0',
//'range' =>'',
//'order' =>'',
//'lat' =>'',
//'lng' =>'',
//'distance' =>'',
//'page' =>'',
'maxrows' =>'5',
'apikey' =>'xxxxxxxxxxx',
); //这个就是该接口需要的三个参数。
$query = http_build_query($param);//把参数生成格式
$url=$api.$query;//合并成最后URL
//$content=file_get_contents($url);
$contents=file($url); //获得页面的源代码
//print_r($contents);
//echo "<hr/>";
$content=$contents[0];
$xml = simplexml_load_string($content);
$lists=$xml ->Promos->Promo;
2.curl
PHP代码
[php]
view plaincopyprint?
<?php
$url = "http://www.jb51.net";
$ch = curl_init();
$timeout = 5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
//在需要用户检测的网页里需要增加下面两行
//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);
//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);
$contents = curl_exec($ch);
curl_close($ch);
echo $contents;
?>
注:
1.使用file_get_contents和fopen必须空间开启allow_url_fopen。方法:编辑php.ini,设置 allow_url_fopen = On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
2.使用curl必须空间开启curl。方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到C:/WINDOWS/system32下;Linux下要安装curl扩展。
点击查看原文
抓取到的内容在通过正则表达式做一下过滤就得到了你想要的内容,至于如何用正则表达式过滤,在这里就不做介绍了,有兴趣的,以下就是几种常用的用php抓取网页中的内容的方法。
首先举个自己做过的例子:这个例子是调用大众点评的接口数据 返回的是XML的数据
[php]
view plaincopyprint?
$api = 'http://api.dianping.com/Promo.svc/search?'; //接口地址
$param = array(
'cityid' =>'1',
//'shoptype' =>'',
//'keyword' =>'',
//'categoryID' =>'',
//'regionid' =>'',
'type' =>'0',
//'range' =>'',
//'order' =>'',
//'lat' =>'',
//'lng' =>'',
//'distance' =>'',
//'page' =>'',
'maxrows' =>'5',
'apikey' =>'xxxxxxxxxxx',
); //这个就是该接口需要的三个参数。
$query = http_build_query($param);//把参数生成格式
$url=$api.$query;//合并成最后URL
//$content=file_get_contents($url);
$contents=file($url); //获得页面的源代码
//print_r($contents);
//echo "<hr/>";
$content=$contents[0];
$xml = simplexml_load_string($content);
$lists=$xml ->Promos->Promo;
[php] view plaincopyprint? <?php $url = "http://www.jb51.net"; $contents = file_get_contents($url); //如果出现中文乱码使用下面代码 //$getcontent = iconv("gb2312", "utf-8",$contents); echo $contents; ?> <?php $url = "http://www.jb51.net"; $contents = file_get_contents($url); //如果出现中文乱码使用下面代码 //$getcontent = iconv("gb2312", "utf-8",$contents); echo $contents; ?>
2.curl
PHP代码
[php]
view plaincopyprint?
<?php
$url = "http://www.jb51.net";
$ch = curl_init();
$timeout = 5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
//在需要用户检测的网页里需要增加下面两行
//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);
//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);
$contents = curl_exec($ch);
curl_close($ch);
echo $contents;
?>
[php] view plaincopyprint? <?php $handle = fopen ("http://www.jb51.net", "rb"); $contents = ""; do { $data = fread($handle, 1024); if (strlen($data) == 0) { break; } $contents .= $data; } while(true); fclose ($handle); echo $contents; ?> <?php $handle = fopen ("http://www.jb51.net", "rb"); $contents = ""; do { $data = fread($handle, 1024); if (strlen($data) == 0) { break; } $contents .= $data; } while(true); fclose ($handle); echo $contents; ?>
注:
1.使用file_get_contents和fopen必须空间开启allow_url_fopen。方法:编辑php.ini,设置 allow_url_fopen = On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
2.使用curl必须空间开启curl。方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到C:/WINDOWS/system32下;Linux下要安装curl扩展。
点击查看原文
相关文章推荐
- php获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- PHP获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- 转:php获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- PHP获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结发布
- paip.uapi 获取网络url内容html 的方法java php ahk c++ python总结.
- php获取网页内容方法
- paip.uapi 获取网络url内容html 的方法java php ahk c++ python总结.
- PHP获取网页内容的方法