python 内部执行原理
2016-01-18 16:44
651 查看
过程概述:
Python 先对脚本内容做词法和语法分析,然后把代码(.py)文件,交给字节码虚拟机,然后虚拟机一条一条执行字节码指令,从而完成程序的执行。
字节码
在python 虚拟机程序里对应的是PyCodeObject对象。.pyc文件是字节码在磁盘上的表现形式。
Pyc文件
PyCodeObject对象的创建时机是模块加载的时候,即import。
Pythontest.py会对test.py进行编译成字节码并解释执行,但是不会生成test.pyc。
如果test.py加载了其他模块,如import util,Python会对util.py进行编译成字节码,生成util.pyc,然后对字节码解释执行。
如果想生成test.pyc,我们可以使用Python内置模块py_compile来编译。
加载模块时,如果同时存在.py和.pyc,Python会尝试使用.pyc,如果.pyc的编译时间早于.py的修改时间,则重新编译.py并更新.pyc。
4. PyCodeObject
Python代码的编译结果就是PyCodeObject对象。
1. typedef struct {
2. PyObject_HEAD
3. int co_argcount; /* 位置参数个数 */
4. int co_nlocals; /* 局部变量个数 */
5. int co_stacksize; /* 栈大小 */
6. int co_flags;
7. PyObject *co_code; /* 字节码指令序列 */
8. PyObject *co_consts; /* 所有常量集合 */
9. PyObject *co_names; /* 所有符号名称集合 */
10. PyObject *co_varnames; /* 局部变量名称集合 */
11. PyObject *co_freevars; /* 闭包用的的变量名集合 */
12. PyObject *co_cellvars; /* 内部嵌套函数引用的变量名集合 */
13. /* The rest doesn’t count for hash/cmp */
14. PyObject *co_filename; /* 代码所在文件名 */
15. PyObject *co_name; /* 模块名|函数名|类名 */
16. int co_firstlineno; /* 代码块在文件中的起始行号 */
17. PyObject *co_lnotab; /* 字节码指令和行号的对应关系 */
18. void *co_zombieframe; /* for optimization only (see frameobject.c) */
19. } PyCodeObject;
20.5. pyc文件格式
21.
加载模块时,模块对应的PyCodeObject对象被写入.pyc文件,格式如下:
6.
分析字节码
6.1
解析PyCodeObject
Python提供了内置函数compile可以编译Python代码和查看PyCodeObject对象,如下:
Python代码[test.py]
1. s = ”hello”
2.
3. def func():
4. print s
5.
6. func()
在Python交互式shell里编译代码得到PyCodeObject对象:
dir(co)已经列出co的各个域,想查看某个域直接在终端输出即可:
test.py的PyCodeObject
1. co.co_argcount 0
2. co.co_nlocals 0
3. co.co_names (‘s’, ’func’)
4. co.co_varnames (‘s’, ’func’)
5. co.co_consts (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
6. co.co_code ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’
Python解释器会为函数也生成的字节码PyCodeObject对象,见上面的co_consts[1]
func的PyCodeObject
1. func.co_argcount 0
2. func.co_nlocals 0
3. func.co_names (‘s’,)
4. func.co_varnames ()
5. func.co_consts (None,)
6. func.co_code ‘t\x00\x00GHd\x00\x00S’
co_code是指令序列,是一串二进制流,它的格式和解析方法见6.2。
6.2
解析指令序列
指令序列co_code的格式
test.py的指令序列
func函数的指令序列
第一列表示以下几个指令在py文件中的行号;
第二列是该指令在指令序列co_code里的偏移量;
第三列是指令opcode的名称,分为有操作数和无操作数两种,opcode在指令序列中是一个字节的整数;
第四列是操作数oparg,在指令序列中占两个字节,基本都是co_consts或者co_names的下标;
第五列带括号的是操作数说明。
7.
执行字节码
Python虚拟机的原理就是模拟可执行程序再X86机器上的运行,X86的运行时栈帧如下图:
假如test.py用C语言来实现,会是下面这个样子:
Python虚拟机的原理就是模拟上述行为。当发生函数调用时,创建新的栈帧,对应Python的实现就是PyFrameObject对象。
7.1 PyFrameObject
那么对应Python的运行时栈就是这样子:
7.2
执行指令
执行test.py的字节码时,会先创建一个栈帧,以下用f表示当前栈帧,执行过程注释如下:
test.py的符号名集合和常量集合
test.py的指令序列
上面的CALL_FUNCTION指令执行时,会创建新的栈帧,并执行func的字节码指令,以下用f表示当前栈帧,func的字节码执行过程如下:
func函数的符号名集合和常量集合
func函数的指令序列
7.3
查看栈帧
如果你想查看当前栈帧,Python提供了sys._getframe()方法可以获取当前栈帧,你只需要在代码里加入代码如下:
简单来说就是下面的样子
Python 先对脚本内容做词法和语法分析,然后把代码(.py)文件,交给字节码虚拟机,然后虚拟机一条一条执行字节码指令,从而完成程序的执行。
字节码
在python 虚拟机程序里对应的是PyCodeObject对象。.pyc文件是字节码在磁盘上的表现形式。
Pyc文件
PyCodeObject对象的创建时机是模块加载的时候,即import。
Pythontest.py会对test.py进行编译成字节码并解释执行,但是不会生成test.pyc。
如果test.py加载了其他模块,如import util,Python会对util.py进行编译成字节码,生成util.pyc,然后对字节码解释执行。
如果想生成test.pyc,我们可以使用Python内置模块py_compile来编译。
加载模块时,如果同时存在.py和.pyc,Python会尝试使用.pyc,如果.pyc的编译时间早于.py的修改时间,则重新编译.py并更新.pyc。
4. PyCodeObject
Python代码的编译结果就是PyCodeObject对象。
1. typedef struct {
2. PyObject_HEAD
3. int co_argcount; /* 位置参数个数 */
4. int co_nlocals; /* 局部变量个数 */
5. int co_stacksize; /* 栈大小 */
6. int co_flags;
7. PyObject *co_code; /* 字节码指令序列 */
8. PyObject *co_consts; /* 所有常量集合 */
9. PyObject *co_names; /* 所有符号名称集合 */
10. PyObject *co_varnames; /* 局部变量名称集合 */
11. PyObject *co_freevars; /* 闭包用的的变量名集合 */
12. PyObject *co_cellvars; /* 内部嵌套函数引用的变量名集合 */
13. /* The rest doesn’t count for hash/cmp */
14. PyObject *co_filename; /* 代码所在文件名 */
15. PyObject *co_name; /* 模块名|函数名|类名 */
16. int co_firstlineno; /* 代码块在文件中的起始行号 */
17. PyObject *co_lnotab; /* 字节码指令和行号的对应关系 */
18. void *co_zombieframe; /* for optimization only (see frameobject.c) */
19. } PyCodeObject;
20.5. pyc文件格式
21.
加载模块时,模块对应的PyCodeObject对象被写入.pyc文件,格式如下:
6.
分析字节码
6.1
解析PyCodeObject
Python提供了内置函数compile可以编译Python代码和查看PyCodeObject对象,如下:
Python代码[test.py]
1. s = ”hello”
2.
3. def func():
4. print s
5.
6. func()
在Python交互式shell里编译代码得到PyCodeObject对象:
dir(co)已经列出co的各个域,想查看某个域直接在终端输出即可:
test.py的PyCodeObject
1. co.co_argcount 0
2. co.co_nlocals 0
3. co.co_names (‘s’, ’func’)
4. co.co_varnames (‘s’, ’func’)
5. co.co_consts (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
6. co.co_code ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’
Python解释器会为函数也生成的字节码PyCodeObject对象,见上面的co_consts[1]
func的PyCodeObject
1. func.co_argcount 0
2. func.co_nlocals 0
3. func.co_names (‘s’,)
4. func.co_varnames ()
5. func.co_consts (None,)
6. func.co_code ‘t\x00\x00GHd\x00\x00S’
co_code是指令序列,是一串二进制流,它的格式和解析方法见6.2。
6.2
解析指令序列
指令序列co_code的格式
opcode | oparg | opcode | opcode | oparg | … |
1 byte | 2 bytes | 1 byte | 1 byte | 2 bytes |
func函数的指令序列
第一列表示以下几个指令在py文件中的行号;
第二列是该指令在指令序列co_code里的偏移量;
第三列是指令opcode的名称,分为有操作数和无操作数两种,opcode在指令序列中是一个字节的整数;
第四列是操作数oparg,在指令序列中占两个字节,基本都是co_consts或者co_names的下标;
第五列带括号的是操作数说明。
7.
执行字节码
Python虚拟机的原理就是模拟可执行程序再X86机器上的运行,X86的运行时栈帧如下图:
假如test.py用C语言来实现,会是下面这个样子:
1. const char *s = “hello”;
2.
3. void func() {
4. printf(“%s\n”, s);
5. }
6.
7. int main() {
8. func();
9. return 0;
10. }
Python虚拟机的原理就是模拟上述行为。当发生函数调用时,创建新的栈帧,对应Python的实现就是PyFrameObject对象。
7.1 PyFrameObject
1. typedef struct _frame {
2. PyObject_VAR_HEAD
3. struct _frame *f_back; /* 调用者的帧 */
4. PyCodeObject *f_code; /* 帧对应的字节码对象 */
5. PyObject *f_builtins; /* 内置名字空间 */
6. PyObject *f_globals; /* 全局名字空间 */
7. PyObject *f_locals; /* 本地名字空间 */
8. PyObject **f_valuestack; /* 运行时栈底 */
9. PyObject **f_stacktop; /* 运行时栈顶 */
10. …….
11. }
那么对应Python的运行时栈就是这样子:
7.2
执行指令
执行test.py的字节码时,会先创建一个栈帧,以下用f表示当前栈帧,执行过程注释如下:
test.py的符号名集合和常量集合
1. co.co_names (‘s’, ’func’)
2. co.co_consts (‘hello’, <code object func at 0x2aaeeec57110, file ”test.py”, line 3>, None)
test.py的指令序列
上面的CALL_FUNCTION指令执行时,会创建新的栈帧,并执行func的字节码指令,以下用f表示当前栈帧,func的字节码执行过程如下:
func函数的符号名集合和常量集合
1. func.co_names (‘s’,)
2. func.co_consts (None,)
func函数的指令序列
7.3
查看栈帧
如果你想查看当前栈帧,Python提供了sys._getframe()方法可以获取当前栈帧,你只需要在代码里加入代码如下:
1. def func():
2. import sys
3. frame = sys._getframe()
4. print frame.f_locals
5. print frame.f_globals
6. print frame.f_back.f_locals
7. #你可以打印frame的各个域
8. print s
简单来说就是下面的样子
相关文章推荐
- Python 4.4 获取对象信息
- 【详解】Python脚本转可执行文件进阶版
- python 流控制 if else, elif
- python之路——MySQL数据库
- python 内置函数
- python 升级安装新版本及readline
- python的PIL库安装
- Java和Python运行速度对比
- python 打包与部署
- Python 的 List 要印出 中文 編碼
- 自学Python六 爬虫基础必不可少的正则
- Python BeautifulSoup4 使用指南
- 七步精通Python机器学习
- 《python核心编程》第八章
- python中if __name__ == '__main__': 的解析
- python3 django1.9 mysql配置随笔
- python 脚本风格
- 编写python脚本-->批量下载淘宝 2012年ADC技术嘉年华PDF文件
- Python os.walk()和os.path.walk()
- python批量按比例缩放图片