程序模拟网页提交、爬虫的常见方案及优劣势分析
2014-03-17 00:12
489 查看
闻道软件工作室已经做过多个使用软件模拟HTTP
GET和POST请求的工具和系统,使用过多种方案。本文将对我们使用过的方案做一些分析和对比
1、C/C++作为开发语言,使用CURL开源库作HTTP请求。CURL功能强大,除了支持HTTP外还支持HTTPS。我们在多个系统和工具中使用了这个方案,比如模拟天翼Live协议的短信平台、模拟139协议的短信、彩信平台等。C/C++作为一种经典的开发语言,其开发出来的程序执行效率高、跨平台、程序扩展性以及稳定性容错性都较强,但是相对于其他方案对开发者的专业知识要求较高,除了要有扎实的C/C++编程功底意外、需要通过分析HTTP报文、甚至是分析JS、Jquery代码来得到具体页面中关键的参数。涉及到Web编程、HTTP协议、JS/Jquery语言等其他知识。在模拟天翼Live协议的短信平台这个系统中,我们还对天翼Live的客户端进行了逆向以获取一些加密算法和参数的细节。是本文列举的几个方案中开发难度最大,维护成本最高的方案,当然优势也不言而喻,开发出的系统功能强大,性能高,直接深入最底层协议开发灵活性最强。
程序模拟网页提交、爬虫的常见方案及优劣势分析
GET和POST请求的工具和系统,使用过多种方案。本文将对我们使用过的方案做一些分析和对比
1、C/C++作为开发语言,使用CURL开源库作HTTP请求。CURL功能强大,除了支持HTTP外还支持HTTPS。我们在多个系统和工具中使用了这个方案,比如模拟天翼Live协议的短信平台、模拟139协议的短信、彩信平台等。C/C++作为一种经典的开发语言,其开发出来的程序执行效率高、跨平台、程序扩展性以及稳定性容错性都较强,但是相对于其他方案对开发者的专业知识要求较高,除了要有扎实的C/C++编程功底意外、需要通过分析HTTP报文、甚至是分析JS、Jquery代码来得到具体页面中关键的参数。涉及到Web编程、HTTP协议、JS/Jquery语言等其他知识。在模拟天翼Live协议的短信平台这个系统中,我们还对天翼Live的客户端进行了逆向以获取一些加密算法和参数的细节。是本文列举的几个方案中开发难度最大,维护成本最高的方案,当然优势也不言而喻,开发出的系统功能强大,性能高,直接深入最底层协议开发灵活性最强。
程序模拟网页提交、爬虫的常见方案及优劣势分析
相关文章推荐
- 程序模拟网页提交、爬虫的常见方案及优劣势分析
- [求助]网页自动提交,模拟点击方案寻找
- 自动分析网页内容,提取FORM后自动提交,可以突破防止本地提交的程序。
- 公布源代码,新程序,分析网页,取指定值,并存储,操纵网页,填值,模拟点击,容错,发送。
- 公布源代码,新程序,分析网页,取指定值,并存储,操纵网页,填值,模拟点击,容错,发送。
- 利用java/android 模拟网页表单提交。可用于爬虫和wif登录器制作
- java实现的简单网页爬虫:Servlet 搜索引擎核心爬虫程序(三)
- Idhttp.post 模拟向网页服务器提交信息
- C# Winform利用POST传值方式模拟表单提交数据(Winform与网页交互)
- Hadoop-03-第二个MapReduce程序--模拟分析购物日志
- 基于JavaEE——微信网页(四)微信的程序接入 (代码--模拟示例)
- PHP程序的常见漏洞攻击分析
- 某个php爬虫程序分析--来自wooyun
- [导入]模拟请求初步应用,制作网页游戏辅助程序(开心网争车位、咬人、买房子、虚拟朋友、礼物)
- 网页前端页面加载性能测试各工具可行性方案分析
- 模拟简单的网页爬虫原理
- 用 python 做简单的网页爬虫程序
- 网页爬虫程序pageSpider
- python实现爬虫统计学校BBS男女比例(一)前期准备、方案分析
- php IIS日志分析搜索引擎爬虫记录程序第1/2页