您的位置:首页 > 大数据 > 人工智能

URLDecoder: Incomplete trailing escape (%) pattern错误处理

2016-04-15 13:32 447 查看
爬虫过程中可能会碰到url中含有普通的%字符的情况,如果直接用URLDecode.decode()则会出现如题的错误,解决方法就是先将’%’编码为’%25’,再对url解码。

public static void main(String[] args) throws Exception{
String test = "http://www.baidu.com?123%";//随意构造的
//URLDecoder.decode(test, "utf8");//如直接接就会报如题的错误。
System.out.println(URLDecoder.decode(test.replaceAll("%", "%25"), "utf8"));

}


输出:

http://www.baidu.com?123%


上述是最简单的一种情况,但是绝大多数情况会掺杂着%为编码的含义,此时只把%替换为%25是不能解出正确的url的,如下:

public static void main(String[] args) throws Exception{
String test = "http://www.baidu.com?%e4%b8%ad%e5%9b%bd123%";//%e4%b8%ad%e5%9b%bd为中国
System.out.println(URLDecoder.decode(test.replaceAll("%", "%25"), "utf8"));
}


输出:

http://www.baidu.com?%e4%b8%ad%e5%9b%bd123%


解决方法:

public class ConverPercent {

//判断是否为16进制数
public static boolean isHex(char c){
if(((c >= '0') && (c <= '9')) ||
((c >= 'a') && (c <= 'f')) ||
((c >= 'A') && (c <= 'F')))
return true;
else
return false;
}

public static String convertPercent(String str){
StringBuilder sb = new StringBuilder(str);

for(int i = 0; i < sb.length(); i++){
char c = sb.charAt(i);
//判断是否为转码符号%
if(c == '%'){
if(((i + 1) < sb.length() -1) && ((i + 2) < sb.length() - 1)){
char first = sb.charAt(i + 1);
char second = sb.charAt(i + 2);
//如只是普通的%则转为%25
if(!(isHex(first) && isHex(second)))
sb.insert(i+1, "25");
}
else{//如只是普通的%则转为%25
sb.insert(i+1, "25");
}

}
}

return sb.toString();
}

public static void main(String[] args) throws UnsupportedEncodingException{
String test = "http://www.baidu.com?%e4%b8%ad%e5%9b%bd123%";
//URLDecoder.decode(test, "utf8");//如直接接就会报如题的错误。
String url = convertPercent(test);
System.out.println(url);
System.out.println(URLDecoder.decode(url,"utf8"));

}
}


输出:

http://www.baidu.com?%e4%b8%ad%e5%9b%bd123%25 http://www.baidu.com?中国123%[/code] 
                                            
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: