Python处理文本文件中控制字符的方法
2017-02-07 10:18
921 查看
控制字符
控制字符(Control Character),或者说非打印字符,出现于特定的信息文本中,表示某一控制功能的字符,如控制符:LF(换行)、CR(回车)、FF(换页)、DEL(删除)、BS(退格)、BEL(振铃)等;通讯专用字符:SOH(文头)、EOT(文尾)、ACK(确认)等。
具体控制字符一共有下面两个集合:
七位ASCII定义了33个代码作为控制字符,它们是0到31、以及127,(位于0x00-0x1F及0x7F)。
兼容的八位ISO/IEC 8859-1加上了从ISO/IEC 6429定义的从128到159的32个代码,位于0x80-0x9F。
控制字符列表:http://ascii-table.com/control-chars.php
Python解决控制字符的方案:(未一一验证)
方案一:
strip_control_characters = lambda s:"".join(i for i in s if 31<ord(i)<127)
方案二:
def strip_control_characters(str_input): if str_input: import re # unicode invalid characters RE_XML_ILLEGAL = u'([\u0000-\u0008\u000b-\u000c\u000e-\u001f\ufffe-\uffff])' + \ u'|' + \ u'([%s-%s][^%s-%s])|([^%s-%s][%s-%s])|([%s-%s]$)|(^[%s-%s])' % \ (unichr(0xd800),unichr(0xdbff),unichr(0xdc00),unichr(0xdfff), unichr(0xd800),unichr(0xdbff),unichr(0xdc00),unichr(0xdfff), unichr(0xd800),unichr(0xdbff),unichr(0xdc00),unichr(0xdfff), ) str_input = re.sub(RE_XML_ILLEGAL, "", input) # ascii control characters str_input = re.sub(r"[\x01-\x1F\x7F]", "", input) return str_input
方案三:
import re def remove_control_chars(s): control_chars = ''.join(map(unichr, range(0,32) + range(127,160))) control_char_re = re.compile('[%s]' % re.escape(control_chars)) return control_char_re.sub('', s) cleaned_json = remove_control_chars(original_json) obj = simplejson.loads(cleaned_json)
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家学习或者使用python能带来一定的帮助,如果有疑问大家可以留言交流。
您可能感兴趣的文章:
相关文章推荐
- python处理文本文件实现生成指定格式文件的方法
- python处理文本文件实现生成指定格式文件的方法
- 轻松python文本专题-单独处理字符串每个字符的方法汇总
- Python Flask之处理客户端通过POST方法传送的数据(json文本,文件)
- python文本 单独处理每个字符的方法汇总
- 轻松python文本专题-单独处理字符串每个字符的方法汇总
- 轻松python文本专题-单独处理字符串每个字符的方法汇总
- Python文本处理之按行处理大文件的方法
- python处理文本文件实现生成指定格式文件的方法
- python处理文本文件实现生成指定格式文件的方法
- python处理文本文件实现生成指定格式文件的方法
- Python处理中文文本字符时提取某个汉字或字符的方法
- Shell 乱码 文件中的控制字符处理
- pb快速替换文本文档(txt文件)中指定字符的方法
- python实现每次处理一个字符的三种方法
- python读取文本文档处理不可见字符
- 记事本里出现该文件含有Unicode格式的字符,当保存为ANSI编码的文本时,该字符将丢失,解决方法
- 用python处理文本,本地文件系统以及使用数据库的知识基础
- 丢失全部数据文件,控制文件,redo log file(9201)——处理方法二
- shell文本处理——最基本方法压缩js文件