您的位置:首页 > 编程语言

处理UnicodeDecodeError: ‘XXX' codec can't decode bytes

2013-09-01 17:53 183 查看
错误信息: UnicodeDecodeError: ‘XXX' codec can't decode bytes in position 2-5: illegal multibyte sequence 这是因为遇到了非法字符,例如:全角空格往往有多种不同的实现方式,比如\xa3\xa0,或者\xa4\x57, 这些字符,看起来都是全角空格,但它们并不是“合法”的全角空格 真正的全角空格是\xa1\xa1,因此在转码的过程中出现了异常。 而之前在处理新浪微博数据时,遇到了非法空格问题导致无法正确解析数据。
[解决办法] #将获取的字符串strTxt做decode时,指明ignore,会忽略非法字符, #当然对于gbk等编码,处理同样问题的方法是类似的 strTest = strTxt.decode('utf-8', 'ignore') return strTest [补充] 默认的参数就是strict,代表遇到非法字符时抛出异常; 如果设置为ignore,则会忽略非法字符; 如果设置为replace,则会用?号取代非法字符; 如果设置为xmlcharrefreplace,则使用XML的字符引用。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  代码 处理 开发技术