使用php方法curl抓取AJAX异步内容思路分析及代码分享
2014-08-25 11:17
1071 查看
其实抓ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参数,然后对该url传递参数进行抓取即可。
利用Firebug的网络工具
如果抓去的是页面,则内容中没有显示的数据,是一堆JS代码。
Code
$cookie_file=tempnam('./temp','cookie'); $ch = curl_init(); $url1 = "http://www.cdut.edu.cn/default.html"; curl_setopt($ch,CURLOPT_URL,$url1); curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1); curl_setopt($ch,CURLOPT_HEADER,0); curl_setopt($ch,CURLOPT_RETURNTRANSFER,1); curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1); curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析 //设置连接结束后保存cookie信息的文件 curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file); $content=curl_exec($ch); curl_close($ch); $ch3 = curl_init(); $url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr"; $curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0"; curl_setopt($ch3,CURLOPT_URL,$url3); curl_setopt($ch3,CURLOPT_POST,1); curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost); //设置连接结束后保存cookie信息的文件 curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file); $content1=curl_exec($ch3); curl_close($ch3);
您可能感兴趣的文章:
- php使用curl和正则表达式抓取网页数据示例
- 使用PHP curl模拟浏览器抓取网站信息
- PHP CURL模拟登录新浪微博抓取页面内容 基于EaglePHP框架开发
- PHP curl实现抓取302跳转后页面的示例
- PHP curl 抓取AJAX异步内容示例
- PHP中使用CURL伪造来路抓取页面或文件
- php使用curl抓取qq空间的访客信息示例
- php利用curl抓取新浪微博内容示例
- PHP使用CURL实现多线程抓取网页
- php curl抓取网页的介绍和推广及使用CURL抓取淘宝页面集成方法
- php下通过curl抓取yahoo boss 搜索结果的实现代码
- php通过curl添加cookie伪造登陆抓取数据的方法
- php使用curl代理实现抓取数据的方法
相关文章推荐
- 使用php方法curl抓取AJAX异步内容思路分析及代码分享
- php使用curl简单抓取远程url的方法
- php使用curl并发减少后端访问时间的方法分析
- 使用PHP简单网页抓取和内容分析
- 【转载】PHP使用CURL抓取网站内容基础
- PHP使用file_get_contents或curl请求https的域名内容为空或Http 505错误的问题排查方法
- php使用curl简单抓取远程url的方法
- 使用PHP简单网页抓取和内容分析
- 使用PHP简单网页抓取和内容分析
- php代码调试利器firephp安装与使用方法分析
- 使用PHP简单网页抓取和内容分析
- 分享:用php抓取网页内容方法总结
- php异步:在php中使用fsockopen curl实现类似异步处理的功能方法
- 使用PHP简单网页抓取和内容分析
- php使用curl并发减少后端访问时间的方法分析
- php基于curl实现随机ip地址抓取内容的方法
- PHP使用preg_split和explode分割textarea存放内容的方法分析
- php抓取网页内容方法分析
- php使用curl代理实现抓取数据的方法
- php异步:在php中使用fsockopen curl实现类似异步处理的功能方法