Python 里面的编码和解码也就是 unicode 和 str 这两种形式的相互转化.

编码是 unicode -> str,相反的,解码就 是 str -> unicode

剩下的问题就是确定何时需要进行编码或者解码了.

关于文件开头的"编码指示",也就是 # -- coding: -- 这个语句。Python 默认脚本文件都是 UTF-8 编码的,当文件中有非 UTF-8 编码范围内的字符的时候就要使用"编码指示"来修正. 关于 sys.defaultencoding,这个在解码没有明确指明解码方式的时候使用。比如我有如下代码:

#! /usr/bin/env python   
# -*- coding: utf-8 -*-   
s = '中文'  # 注意这里的 str 是 str 类型的,而不是 unicode   
s.encode('gb18030')

这句代码将 s 重新编码为 gb18030 的格式,即进行 unicode -> str 的转换。因为 s 本身就是 str 类型的,因此 Python 会自动的先将 s 解码为 unicode ,然后再编码成 gb18030。因为解码是 python 自动进行的,我们没有指明解码方式,python 就会使用 sys.defaultencoding 指明的方式来解码。很多情况下 sys.defaultencoding 是 ANSCII,如果 s 不是这个类型就会出错。

拿上面的情况来说,我的 sys.defaultencoding 是 anscii,而 s 的编码方式和文件的编码方式一致,是 utf8 的,所以出错了: UnicodeDecodeError: 'ascii' codec can't decode byte 0xe4 in position 0: ordinal not in range(128)

在解决错误之前,首先要了解 unicode 和 utf-8 的区别。

unicode 指的是万国码,是一种 “字码表”。而 utf-8 是这种字码表储存的编码方法。unicode 不一定要由 utf-8 这种方式编成 bytecode 储存,也可以使用 utf-16,utf-7 等其他方式。目前大多都以 utf-8 的方式来变成 bytecode。
python 中字符串类型分为 byte string 和 unicode string 两种。
如果在 python 文件中指定编码方式为 utf-8(#coding=utf-8),那么所有带中文的字符串都会被认为是 utf-8 编码的 byte string(例如:mystr="你好"),但是在函数中所产生的字符串则被认为是 unicode string
问题就出在这边,unicode string 和 byte string 是不可以混合使用的,一旦混合使用了,就会产生这样的错误。例如:

self.response.out.write("你好"+self.request.get("argu"))
其中,"你好"被认为是 byte string,而 self.request.get("argu") 的返回值被认为是 unicode string。由于预设的解码器是 ascii,所以就不能识别中文 byte string。然后就报错了。

以下有两个解决方法:

第一种,是明确的指示出 s 的编码方式

#! /usr/bin/env python 
# -*- coding: utf-8 -*- 
s = '中文' 
s.decode('utf-8').encode('gb18030')

第二种,更改 sys.defaultencoding 为文件的编码方式

#! /usr/bin/env python 
# -*- coding: utf-8 -*- 
import sys #要重新载入sys。因为 Python 初始化后会删除 sys.setdefaultencoding 这个方 法
reload(sys) 
sys.setdefaultencoding('utf-8')

总结一下为什么要这么写的原因:

  1. 当取回来的数据与你当前脚本中声明的编码不一致时就要做编码转换

2.在编码转换时首先要将该数据以自身编码的格式换成 unicode 码,再将这个 unicode 按 utf8 编码

3.为什么我的浏览器会传回 gb2312 的编码数据到服务器,这应该和客户端的系统编码有关系

转载自: http://www.jianshu.com/p/5017d8342dd2


↙↙↙阅读原文可查看相关链接,并与作者交流