java使用HttpURLConnection检索网站时403错误处理方式
2014-09-26 20:19
1046 查看
java使用HttpURLConnection检索网站时403错误处理方式:
我们通过代码方式访问网站时会报错:
此种情况分2中类型,
1.需要登录才可以访问;
2.需要设置User-Agent来欺骗服务器。
[html] view plaincopyprint?
connection.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
User Agent说明:
User Agent中文名为用户代理,简称 UA,它是一个特殊字符串头,使得服务器能够识别客户使用的操作系统及版本、CPU 类型、浏览器及版本、浏览器渲染引擎、浏览器语言、浏览器插件等。
一些网站常常通过判断 UA 来给不同的操作系统、不同的浏览器发送不同的页面,因此可能造成某些页面无法在某个浏览器中正常显示,但通过伪装 UA 可以绕过检测。
java访问网站代码:
[java] view plaincopyprint?
public static String httpRequest(String requestUrl,boolean isUserAgent) {
StringBuffer buffer = null;
try {
// 建立连接
URL url = new URL(requestUrl);
HttpURLConnection httpUrlConn = (HttpURLConnection) url.openConnection();
httpUrlConn.setDoInput(true);
httpUrlConn.setRequestMethod("GET");
if(isUserAgent){
httpUrlConn.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
}
// 获取输入流
InputStream inputStream = httpUrlConn.getInputStream();
InputStreamReader inputStreamReader = new InputStreamReader(inputStream, "utf-8");
BufferedReader bufferedReader = new BufferedReader(inputStreamReader);
// 读取返回结果
buffer = new StringBuffer();
String str = null;
while ((str = bufferedReader.readLine()) != null) {
buffer.append(str);
}
我们通过代码方式访问网站时会报错:
此种情况分2中类型,
1.需要登录才可以访问;
2.需要设置User-Agent来欺骗服务器。
[html] view plaincopyprint?
connection.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
User Agent说明:
User Agent中文名为用户代理,简称 UA,它是一个特殊字符串头,使得服务器能够识别客户使用的操作系统及版本、CPU 类型、浏览器及版本、浏览器渲染引擎、浏览器语言、浏览器插件等。
一些网站常常通过判断 UA 来给不同的操作系统、不同的浏览器发送不同的页面,因此可能造成某些页面无法在某个浏览器中正常显示,但通过伪装 UA 可以绕过检测。
java访问网站代码:
[java] view plaincopyprint?
public static String httpRequest(String requestUrl,boolean isUserAgent) {
StringBuffer buffer = null;
try {
// 建立连接
URL url = new URL(requestUrl);
HttpURLConnection httpUrlConn = (HttpURLConnection) url.openConnection();
httpUrlConn.setDoInput(true);
httpUrlConn.setRequestMethod("GET");
if(isUserAgent){
httpUrlConn.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
}
// 获取输入流
InputStream inputStream = httpUrlConn.getInputStream();
InputStreamReader inputStreamReader = new InputStreamReader(inputStream, "utf-8");
BufferedReader bufferedReader = new BufferedReader(inputStreamReader);
// 读取返回结果
buffer = new StringBuffer();
String str = null;
while ((str = bufferedReader.readLine()) != null) {
buffer.append(str);
}
相关文章推荐
- Java使用HttpURLConnection检索网站时403错误处理方式
- java使用HttpURLConnection检索网站时403错误处理方式
- java使用HttpURLConnection检索网站时403错误处理方式
- Java使用HttpURLConnection检索网站时403错误处理方式
- 如何使用 java.net.URLConnection 处理 HTTP 请求?
- 【 网络爬虫】java 使用Socket, HttpUrlConnection方式抓取数据
- 如何使用 java.net.URLConnection 处理 HTTP 请求?
- java使用HttpURLConnection 方式将userid转成openid
- 关于java response的两种页面输出方式,以及HttpUrlconnection 代理使用注意点
- 使用HttpURLConnection下载文件时出现 java.io.FileNotFoundException彻底解决办法
- java HttpURLConnection 登录网站 完整代码
- 使用HttpURLConnection下载文件时出现 java.io.FileNotFoundException彻底解决办法
- Java 中使用HttpURLConnection发起POST 请求
- java发送post和get请求(1)---HttpURLConnection方式
- java.net.HttpURLConnection的使用
- 使用HttpURLConnection下载文件时出现 java.io.FileNotFoundException彻底解决办法
- Java HttpUrlConnection form-data方式提交数据
- Java Http连接中(HttpURLConnection)中使用代理(Proxy)及其验证(Authentication)
- JAVA使用HttpUrlConnection实现自动上传文件
- 使用HttpURLConnection进行POST方式提交