python实现全角半角的相互转换
2015-07-15 11:48
609 查看
缘起
在自然语言处理过程中,全角、半角的的不一致会导致信息抽取不一致,因此需要统一。
转换说明
全角半角转换说明
有规律(不含空格):
全角字符unicode编码从65281~65374 (十六进制 0xFF01 ~ 0xFF5E)
半角字符unicode编码从33~126 (十六进制 0x21~ 0x7E)
特例:
空格比较特殊,全角为 12288(0x3000),半角为 32(0x20)
除空格外,全角/半角按unicode编码排序在顺序上是对应的(半角 + 0x7e= 全角),所以可以直接通过用+-法来处理非空格数据,对空格单独处理。
注:
1. 中文文字永远是全角,只有英文字母、数字键、符号键才有全角半角的概念,一个字母或数字占一个汉字的位置叫全角,占半个汉字的位置叫半角。
2. 引号在中英文、全半角情况下是不同的
参考代码
执行结果
库函数说明
chr()函数用一个范围在range(256)内的(就是0~255)整数作参数,返回一个对应的字符。
unichr()跟它一样,只不过返回的是Unicode字符。
ord()函数是chr()函数(对于8位的ASCII字符串)或unichr()函数(对于Unicode对象)的配对函数,它以一个字符(长度为1的字符串)作为参数,返回对应的ASCII数值,或者Unicode数值。
案例
转载自:http://www.cnblogs.com/kaituorensheng/p/3554571.html
在自然语言处理过程中,全角、半角的的不一致会导致信息抽取不一致,因此需要统一。
转换说明
全角半角转换说明
有规律(不含空格):
全角字符unicode编码从65281~65374 (十六进制 0xFF01 ~ 0xFF5E)
半角字符unicode编码从33~126 (十六进制 0x21~ 0x7E)
特例:
空格比较特殊,全角为 12288(0x3000),半角为 32(0x20)
除空格外,全角/半角按unicode编码排序在顺序上是对应的(半角 + 0x7e= 全角),所以可以直接通过用+-法来处理非空格数据,对空格单独处理。
注:
1. 中文文字永远是全角,只有英文字母、数字键、符号键才有全角半角的概念,一个字母或数字占一个汉字的位置叫全角,占半个汉字的位置叫半角。
2. 引号在中英文、全半角情况下是不同的
参考代码
# -*- coding: cp936 -*- def strQ2B(ustring): """全角转半角""" rstring = "" for uchar in ustring: inside_code=ord(uchar) if inside_code == 12288: #全角空格直接转换 inside_code = 32 elif (inside_code >= 65281 and inside_code <= 65374): #全角字符(除空格)根据关系转化 inside_code -= 65248 rstring += unichr(inside_code) return rstring def strB2Q(ustring): """半角转全角""" rstring = "" for uchar in ustring: inside_code=ord(uchar) if inside_code == 32: #半角空格直接转化 inside_code = 12288 elif inside_code >= 32 and inside_code <= 126: #半角字符(除空格)根据关系转化 inside_code += 65248 rstring += unichr(inside_code) return rstring b = strQ2B("mn123abc博客园".decode('cp936')) print b c = strB2Q("mn123abc博客园".decode('cp936')) print c
执行结果
库函数说明
chr()函数用一个范围在range(256)内的(就是0~255)整数作参数,返回一个对应的字符。
unichr()跟它一样,只不过返回的是Unicode字符。
ord()函数是chr()函数(对于8位的ASCII字符串)或unichr()函数(对于Unicode对象)的配对函数,它以一个字符(长度为1的字符串)作为参数,返回对应的ASCII数值,或者Unicode数值。
案例
转载自:http://www.cnblogs.com/kaituorensheng/p/3554571.html
相关文章推荐
- python中__init__,__call__学习
- 详解Python的Django框架中的模版相关知识
- python 图片压缩存储
- Python的Django框架中的URL配置与松耦合
- 整理汇总Python框架、库以及软件资源
- 说说Python程序的执行过程
- python 文件操作方法
- Python的Django框架可适配的各种数据库介绍
- Python开发入门与实战8-基于Java的集成开发环境
- Python的Django框架安装全攻略
- python中QStringList与QString、String互转
- [RabbitMQ+Python入门经典] 兔子和兔子窝
- leetcode之Longest Substring Without Repeating Characters
- python eclipse 插件安装 及BeautifulSoup requests selenium在线安装 PhantomJS 安装 环境配置
- python实现爬虫下载美女图片
- Python的Django框架安装全攻略
- Python的Django框架可适配的各种数据库介绍
- Python的Django框架中的URL配置与松耦合
- 详解Python的Django框架中的模版相关知识
- 在Python的Django框架中创建和使用模版