python的中的字符串类型：byte string和unicode string

unicode和utf8的层级关系：

unicode：

狭义：信源编码，将字符数字化，即一个字符对应一个十进制数字，是ascii表的一个扩展。

广义：信源编码+信道编码，用unicode作为信源编码，用ucs-2作为存储和传输的信道编码，即在内存或者硬盘中，一个unicode字符占两个字节，16位。

utf8：

狭义：信道编码，用于字符的存储和传输，减小存储空间，减小传输流量。utf8是可变长编码方式，存英文是一个字节，存中文是三个字节。

广义：信源编码+信道编码，以unicode作为信源编码，以utf8作为信道编码。

python中的byte string和unicode string两种字符的区别：

unicode string:

以unicode作为编码表（信源编码），仅仅代表一个字符，未存储，因此未被编码。从函数中返回的字符都是unicode string，因为未存储，所以未被编码。

byte string（即python中的str类型）:

以unicode作为编码表（信源编码），以utf8作为信道编码，一个中文字符对应三个字节。从文件读取的字符，因为已经存在磁盘中，因此都是byte string。python文件中初始化的字符串，也是byte string，因为.py文件本身就是存在硬盘中的

实验：

>>> a = '中'
>>> a
'\xe4\xb8\xad'
>>> a = u'中'
>>> a
u'\u4e2d'

“中”在unicode里面对应的数字是20013，当a =‘中’，字符是byte string，以utf8编码，占三个字节。当a=u‘中’，未以任何形式编码，用一个字符表示。

结论：byte string和unicode string的表现形式与编码没有任何关系，都是以16进制来表示。

utf8编码方式介绍：

作者：uuspider

链接：https://www.zhihu.com/question/23374078/answer/65352538

来源：知乎

著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

举一个例子：It’s 知乎日报你看到的unicode字符集是这样的编码表：

I   0049
t   0074
'   0027
s   0073
0020
知  77e5
乎  4e4e
日  65e5
报  62a5

每一个字符对应一个十六进制数字。计算机只懂二进制，因此，严格按照unicode的方式(UCS-2)，应该这样存储：

I 00000000 01001001
t 00000000 01110100
' 00000000 00100111
s 00000000 01110011
00000000 00100000
知 01110111 11100101
乎 01001110 01001110
日 01100101 11100101
报 01100010 10100101

这个字符串总共占用了18个字节，但是对比中英文的二进制码，可以发现，英文前9位都是0！浪费啊，浪费硬盘，浪费流量。怎么办？UTF。UTF-8是这样做的：1. 单字节的字符，字节的第一位设为0，对于英语文本，UTF-8码只占用一个字节，和ASCII码完全相同；2. n个字节的字符(n>1)，第一个字节的前n位设为1，第n+1位设为0，后面字节的前两位都设为10，这n个字节的其余空位填充该字符unicode码，高位用0补足。这样就形成了如下的UTF-8标记位：

0xxxxxx

x110xxxxx 10xxxxxx

1110xxxx 10xxxxxx 10xxxxxx

11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx… …

于是，”It’s 知乎日报“就变成了：

I 01001001
t 01110100
' 00100111
s 01110011
00100000
知 11100111 10011111 10100101
乎 11100100 10111001 10001110
日 11100110 10010111 10100101
报 11100110 10001010 10100101

和上边的方案对比一下，英文短了，每个中文字符却多用了一个字节。但是整个字符串只用了17个字节，比上边的18个短了一点点。下边是课后作业：请将”It’s 知乎日报“的GB2312和GBK码(自行google)转成二进制。不考虑历史因素，从技术角度解释为什么在unicode和UTF-8大行其道的同时，GB2312和GBK仍在广泛使用。剧透：一切都是为了节省你的硬盘和流量。

参考：

http://blog.csdn.net/use_my_heart/article/details/51303317

https://www.zhihu.com/question/23374078