PHP实现Unicode和Utf-8互相转换
2016-12-05 10:31
471 查看
一. 编码原理及实现
unicode编码是实现utf-8与gb系列编码(gb2312、gbk、gb18030)转换的基础,虽然我们也可以直接做一个utf-8到这些编码 的对照表,但很少有人会这么做,因为utf-8的可变编码具有不确定性,因此一般情况使用都是unicode与gb编码的对照 表,unicode(UCS-2)实际上是utf-8的基础编码,utf-8只是它的一种实现而已,两者存在下面的对应关系:
Unicode符号范围 | UTF-8编码方式
u0000 0000 - u0000 007F | 0xxxxxxx
u0000 0080 - u0000 07FF | 110xxxxx 10xxxxxx
u0000 0800 - u0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
由于目前utf-8使用的字符都是居于UCS-2的,因此对于4-6字节编码的情况是不必考虑的,同样地,在反向转换的时候,如果出现四字节以上的 utf-8字符,可以直接视为乱码忽略掉或转为unicode实体形式("long int;"形式),然后交给浏览器或相关解析程序去处理,用php把unicode转为utf-8编码的算法如下:
在目前的环境范围内,可以认为 utf-8字符集==unicode(UCS-2),但从理论上,主要字符集之关的包含关系如下:
因此,如果编码都正确的情况下:
这样的一个转变过程,基本上是无损的,但反而言之,由
这样的转变过程,是很可能存在不能识别的字符的,因此,如果对于使用utf-8编码的系统,尽量不要轻易的去做反向转换编码的操作。
二. 用PHP将Unicode 转化为UTF-8另外一种方法:
Linux 服务器上 UCS-2 编码方式与 Winodws 不一致,以下是有关两个平台 UCS-2 编码的潜规则:
1. UCS-2 不等于 UTF-16。 UTF-16 每个字节使用 ASCII 字符范围编码,而 UCS-2 对每个字节的编码可以超出 ASCII 字符范围。UCS-2 和 UTF-16 对每个字符至多占两个字节,但是他们的编码是不一样的。
2. 对于 UCS-2, windows 下默认是 UCS-2LE。用 MultibyteToWidechar(或者A2W)生成的是 UCS-2LE 的 unicode。windows记事本可以将文本保存为 UCS-2BE,相当于多了层转换。
3. 对于 UCS-2, linux 下默认是 UCS-2BE。用iconv(指定UCS-2)来转换生成的是 UCS-2BE 的 unicode。如果转换windows平台过来的 UCS-2, 需要指定 UCS-2LE。
4. 鉴于windows和linux等多个平台对 UCS-2 的理解不同(UCS-2LE,UCS-2BE)。MS 主张 unicode 有个引导标志(UCS-2LE FFFE, UCS-2BE FEFF),以表明下面的字符是 unicode 并且判别 big-endian 或 little-endian。 所以从 windows 平台过来的数据发现有这个前缀,不用慌张。
5. linux 的编码输出,比如从文件输出,从 printf 输出,需要控制台做适当的编码匹配(如果编码不匹配,一般和该程序编译时的编码有若干关系),而控制台的转换输入需要查看当前的系统编码。比如控制台当前 的编码是 UTF-8, 那么 UTF-8 编码的东西能正确显示,GBK 就不能;同样,当前编码是 GBK, 就能显示 GBK 编码,后来的系统应该更智能的处理好更多的转换了。不过通过 putty 等终端还是需要设置好终端的编码转换以解除乱码的烦恼。
三.再提供一对PHP中对汉字进行UNICODE完整的编码和解码的实现供参考:
原帖地址:https://my.oschina.net/u/2444569/blog/514464
unicode编码是实现utf-8与gb系列编码(gb2312、gbk、gb18030)转换的基础,虽然我们也可以直接做一个utf-8到这些编码 的对照表,但很少有人会这么做,因为utf-8的可变编码具有不确定性,因此一般情况使用都是unicode与gb编码的对照 表,unicode(UCS-2)实际上是utf-8的基础编码,utf-8只是它的一种实现而已,两者存在下面的对应关系:
Unicode符号范围 | UTF-8编码方式
u0000 0000 - u0000 007F | 0xxxxxxx
u0000 0080 - u0000 07FF | 110xxxxx 10xxxxxx
u0000 0800 - u0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
由于目前utf-8使用的字符都是居于UCS-2的,因此对于4-6字节编码的情况是不必考虑的,同样地,在反向转换的时候,如果出现四字节以上的 utf-8字符,可以直接视为乱码忽略掉或转为unicode实体形式("long int;"形式),然后交给浏览器或相关解析程序去处理,用php把unicode转为utf-8编码的算法如下:
二. 用PHP将Unicode 转化为UTF-8另外一种方法:
1. UCS-2 不等于 UTF-16。 UTF-16 每个字节使用 ASCII 字符范围编码,而 UCS-2 对每个字节的编码可以超出 ASCII 字符范围。UCS-2 和 UTF-16 对每个字符至多占两个字节,但是他们的编码是不一样的。
2. 对于 UCS-2, windows 下默认是 UCS-2LE。用 MultibyteToWidechar(或者A2W)生成的是 UCS-2LE 的 unicode。windows记事本可以将文本保存为 UCS-2BE,相当于多了层转换。
3. 对于 UCS-2, linux 下默认是 UCS-2BE。用iconv(指定UCS-2)来转换生成的是 UCS-2BE 的 unicode。如果转换windows平台过来的 UCS-2, 需要指定 UCS-2LE。
4. 鉴于windows和linux等多个平台对 UCS-2 的理解不同(UCS-2LE,UCS-2BE)。MS 主张 unicode 有个引导标志(UCS-2LE FFFE, UCS-2BE FEFF),以表明下面的字符是 unicode 并且判别 big-endian 或 little-endian。 所以从 windows 平台过来的数据发现有这个前缀,不用慌张。
5. linux 的编码输出,比如从文件输出,从 printf 输出,需要控制台做适当的编码匹配(如果编码不匹配,一般和该程序编译时的编码有若干关系),而控制台的转换输入需要查看当前的系统编码。比如控制台当前 的编码是 UTF-8, 那么 UTF-8 编码的东西能正确显示,GBK 就不能;同样,当前编码是 GBK, 就能显示 GBK 编码,后来的系统应该更智能的处理好更多的转换了。不过通过 putty 等终端还是需要设置好终端的编码转换以解除乱码的烦恼。
三.再提供一对PHP中对汉字进行UNICODE完整的编码和解码的实现供参考:
/** * 将内容进行UNICODE编码,如中文字符串"图片" 转为"\u56fe\u7247" * @param string $name 要转换的中文字符串 * @param string $in_charset 输入中文编码,默认为uft8 * @param string $out_charset 输出unicode编码,'UCS-2BE'或'UCS-2LE' * Linux 服务器上 UCS-2 编码方式与 Winodws 不一致,linux编码为UCS-2BE,windows为UCS-2LE,即big-endian和little-endian * @return string */ function unicode_encode($name,$in_charset='UTF-8',$out_charset='UCS-2BE') { $name = iconv($in_charset, $out_charset, $name); $len = strlen($name); $str = ''; for ($i = 0; $i < $len - 1; $i = $i + 2){ $c = $name[$i]; $c2 = $name[$i + 1]; if (ord($c) > 0){ // 两个字节的文字 $str .= '\u'.base_convert(ord($c), 10, 16).base_convert(ord($c2), 10, 16); } else{ $str .= $c2; } } return $str; } /** * 将UNICODE编码后的内容进行解码,如unicode字符串:"\u56fe\u7247" 转为"图片" * @param string $name 要转换的unicode字符串 * @param string $out_charset 输出编码,默认为utf8 * @param string $in_charset 输入unicode编码,Linux 服务器上 UCS-2 编码方式与 Winodws 不一致, * linux编码为UCS-2BE,windows为UCS-2LE,即big-endian和little-endian * @return string */ function unicode_decode($name,$out_charset='UTF-8',$in_charset='UCS-2BE') { // 转换编码,将Unicode编码转换成可以浏览的utf-8编码 $pattern = '/([\w]+)|(\\\u([\w]{4}))/i'; preg_match_all($pattern, $name, $matches); if (!empty($matches)){ $name = ''; for ($j = 0; $j < count($matches[0]); $j++){ $str = $matches[0][$j]; if (strpos($str, '\\u') === 0){ $code = base_convert(substr($str, 2, 2), 16, 10); $code2 = base_convert(substr($str, 4), 16, 10); $c = chr($code).chr($code2); $c = iconv($in_charset, $out_charset, $c); $name .= $c; } else{ $name .= $str; } } } return $name; }
原帖地址:https://my.oschina.net/u/2444569/blog/514464
相关文章推荐
- PHP实现Unicode和Utf-8互相转换
- php 字符编码转换类,支持ANSI、Unicode、Unicode big endian、UTF-8、UTF-8+Bom 互相转换
- PHP实现Unicode和Utf-8编码相互转换
- PHP如何实现Unicode和Utf-8编码相互转换
- JS实现unicode和UTF-8之间的互相转换互转
- PHP实现gb2312、UTF-8等字符和unicode间的编码转换及PHP版unescape
- PHP实现数组GBK、UTF-8互相转换
- PHP如何实现Unicode和Utf-8编码相互转换
- PHP实现IP–数字互相转换
- ANSI、UTF-8、Unicode(little endian)、Unicode big endian的互相转换
- PHP 数组和字符串互相转换实现方法
- php 实现进制转换(二进制、八进制、十六进制)互相转换实现代码
- JavaScript中字符串与Unicode编码互相转换的实现方法
- [转] 用php实现gb2312和unicode(UTF-8)间的编码转换
- PHP 数组和字符串互相转换实现方法
- PHP 数组和字符串互相转换实现方法
- PHP数组和字符串互相转换实现方法
- [转] 用php实现gb2312和unicode(UTF-8)间的编码转换
- javascript实现unicode与字符互相转换
- SDL入门教程(十):4、用iconv获得正确的Unicode,使用FriBiDi实现UTF-8到Unicode的正确转换