Appium 记一次面试问题——Python 垃圾回收机制

Sutune · 2018年10月22日 · 最后由 cherrymelon 回复于 2021年04月13日 · 18596 次阅读
本帖已被设为精华帖!

原文地址:https://sutune.me/2018/10/14/python-GC/

前言

前不久去面试,面试官看我简历上面写了熟悉 Python,于是就问我 Python 垃圾回收机制,但是我更多的是熟悉 Python 来做自动化,但是对这些原理没怎么深入了解过,所以遇到这个问题就懵了(以后简历估计得改成 “了解一点 Python 了😅 ”),后面针对这个问题进行了梳理,希望以后面试的同学遇到这个问题可以从容的回答。

概述

python 采用的是引用计数机制为主,标记 - 清除分代收集两种机制为辅的策略。

引用计数

  • Python 语言默认采用的垃圾收集机制是『引用计数法 Reference Counting』,该算法最早 George E. Collins 在 1960 的时候首次提出,50 年后的今天,该算法依然被很多编程语言使用。
  • 『引用计数法』的原理是:每个对象维护一个ob_ref字段,用来记录该对象当前被引用的次数,每当新的引用指向该对象时,它的引用计数ob_ref1,每当该对象的引用失效时计数ob_ref1,一旦对象的引用计数为0,该对象立即被回收,对象占用的内存空间将被释放。
  • 它的缺点是需要额外的空间维护引用计数,这个问题是其次的,不过最主要的问题是它不能解决对象的 “循环引用”,因此,也有很多语言比如 Java 并没有采用该算法做来垃圾的收集机制。

引用计数案例

import sys
class A():
    def __init__(self):
        '''初始化对象'''
        print('object born id:%s' %str(hex(id(self))))

def f1():
    '''循环引用变量与删除变量'''
    while True:
        c1=A()
        del c1

def func(c):
    print('obejct refcount is: ',sys.getrefcount(c)) #getrefcount()方法用于返回对象的引用计数


if __name__ == '__main__':
   #生成对象
    a=A()
    func(a)

    #增加引用
    b=a
    func(a)

    #销毁引用对象b
    del b
    func(a)

执行结果:

object born id:0x265c56a56d8
obejct refcount is:  4
obejct refcount is:  5
obejct refcount is:  4

导致引用计数 +1 的情况

  • 对象被创建,例如 a=23
  • 对象被引用,例如 b=a
  • 对象被作为参数,传入到一个函数中,例如func(a)
  • 对象作为一个元素,存储在容器中,例如list1=[a,a]

导致引用计数-1 的情况

  • 对象的别名被显式销毁,例如del a
  • 对象的别名被赋予新的对象,例如a=24
  • 一个对象离开它的作用域,例如 f 函数执行完毕时,func函数中的局部变量(全局变量不会)
  • 对象所在的容器被销毁,或从容器中删除对象

循环引用导致内存泄露

def f2():
    '''循环引用'''
    while True:
        c1=A()
        c2=A()
        c1.t=c2
        c2.t=c1
        del c1
        del c2

执行结果

id:0x1feb9f691d0
object born id:0x1feb9f69438
object born id:0x1feb9f690b8
object born id:0x1feb9f69d68
object born id:0x1feb9f690f0
object born id:0x1feb9f694e0
object born id:0x1feb9f69f60
object born id:0x1feb9f69eb8
object born id:0x1feb9f69128
object born id:0x1feb9f69c88
object born id:0x1feb9f69470
object born id:0x1feb9f69e48
object born id:0x1feb9f69ef0
object born id:0x1feb9f69dd8
object born id:0x1feb9f69e10
object born id:0x1feb9f69ac8
object born id:0x1feb9f69198
object born id:0x1feb9f69cf8
object born id:0x1feb9f69da0
object born id:0x1feb9f69c18
object born id:0x1feb9f69d30
object born id:0x1feb9f69ba8
...
  • 创建了c1c2后,这两个对象的引用计数都是1,执行c1.t=c2c2.t=c1后,引用计数变成2.
  • del c1后,内存c1的对象的引用计数变为1,由于不是为0,所以c1的对象不会被销毁,同理,在del c2后也是一样的。
  • 虽然它们两个的对象都是可以被销毁的,但是由于循环引用,导致垃圾回收器都不会回收它们,所以就会导致内存泄露。

分代回收

  • 分代回收是一种以空间换时间的操作方式,Python 将内存根据对象的存活时间划分为不同的集合,每个集合称为一个代,Python 将内存分为了 3“代”,分别为年轻代(第 0 代)、中年代(第 1 代)、老年代(第 2 代),他们对应的是 3 个链表,它们的垃圾收集频率与对象的存活时间的增大而减小。
  • 新创建的对象都会分配在年轻代,年轻代链表的总数达到上限时,Python 垃圾收集机制就会被触发,把那些可以被回收的对象回收掉,而那些不会回收的对象就会被移到中年代去,依此类推,老年代中的对象是存活时间最久的对象,甚至是存活于整个系统的生命周期内。
  • 同时,分代回收是建立在标记清除技术基础之上。分代回收同样作为 Python 的辅助垃圾收集技术处理那些容器对象

垃圾回收

有三种情况会触发垃圾回收:

  1. 调用gc.collect(),需要先导入gc模块。
  2. gc模块的计数器达到阀值的时候。
  3. 程序退出的时候。

gc 模块

gc 模块提供一个接口给开发者设置垃圾回收的选项。上面说到,采用引用计数的方法管理内存的一个缺陷是循环引用,而 gc 模块的一个主要功能就是解决循环引用的问题。

常用函数

  1. gc.set_debug(flags) 设置 gc 的 debug 日志,一般设置为gc.DEBUG_LEAK

  2. gc.collect([generation])
    显式进行垃圾回收,可以输入参数,0代表只检查第一代的对象,1代表检查一,二代的对象,2代表检查一,二,三代的对象,如果不传参数,执行一个full collection,也就是等于传 2。返回不可达(unreachable objects)对象的数目。

  3. gc.set_threshold(threshold0[, threshold1[, threshold2])
    设置自动执行垃圾回收的频率。

  4. gc.get_count() 获取当前自动执行垃圾回收的计数器,返回一个长度为 3 的列表

扩展资料:Garbage Collector interface

gc 实践案例

def f3():
    '''循环引用'''
    while True:
        c1=A()
        c2=A()
        c1.t=c2
        c2.t=c1
        del c1
        del c2
        #增加垃圾回收机制
        print(gc.garbage)
        print(gc.collect())
        print(gc.garbage)
        time.sleep(10)

执行结果

object born id:0x21d1a5dc470
object born id:0x21d1a5dc9e8
[]
4
gc: collectable <A 0x0000021D1A5DC470>
[<__main__.A object at 0x0000021D1A5DC470>, <__main__.A object at 0x0000021D1A5DC9E8>, {'t': <__main__.A object at 0x0000021D1A5DC9E8>}, {'t': <__main__.A object at 0x0000021D1A5DC470>}]
gc: collectable <A 0x0000021D1A5DC9E8>
gc: collectable <dict 0x0000021D1A156C88>
gc: collectable <dict 0x0000021D1A5CABC8>

gc 模块的自动垃圾回收机制

必须要 import gc 模块,并且 is_enable()=True 才会启动自动垃圾回收。
这个机制的主要作用就是发现并处理不可达的垃圾对象。

垃圾回收=垃圾检查+垃圾回收

在 Python 中,采用分代收集的方法。把对象分为三代,一开始,对象在创建的时候,放在一代中,如果在一次一代的垃圾检查中,改对象存活下来,就会被放到二代中,同理在一次二代的垃圾检查中,该对象存活下来,就会被放到三代中。

gc 模块里面会有一个长度为 3 的列表的计数器,可以通过gc.get_count()获取。

def f4():
    '''垃圾自动回收'''
    print(gc.get_count())
    a=A()
    print(gc.get_count())
    del a
    print(gc.get_count())

执行结果

(621, 10, 0)
object born id:0x2ca32a8c588
(624, 10, 0)
(623, 10, 0)
  • 621指距离上一次一代垃圾检查,Python 分配内存的数目减去释放内存的数目,注意:是内存分配,而不是引用计数的增加。
  • 10指距离上一次二代垃圾检查,一代垃圾检查的次数。
  • 0是指距离上一次三代垃圾检查,二代垃圾检查的次数。

自动回收阈值

gc 模快有一个自动垃圾回收的阀值,即通过gc.get_threshold函数获取到的长度为 3 的元组,例如(700,10,10)
每一次计数器的增加,gc 模块就会检查增加后的计数是否达到阀值的数目,如果是,就会执行对应的代数的垃圾检查,然后重置计数器

注意:
如果循环引用中,两个对象都定义了__del__方法,gc 模块不会销毁这些不可达对象,因为 gc 模块不知道应该先调用哪个对象的__del__方法,所以为了安全起见,gc 模块会把对象放到gc.garbage中,但是不会销毁对象。

标记清除

标记清除(Mark—Sweep)』算法是一种基于追踪回收(tracing GC)技术实现的垃圾回收算法。它分为两个阶段:第一阶段是标记阶段,GC 会把所有的『活动对象』打上标记,第二阶段是把那些没有标记的对象『非活动对象』进行回收。那么 GC 又是如何判断哪些是活动对象哪些是非活动对象的呢?

image

对象之间通过引用(指针)连在一起,构成一个有向图,对象构成这个有向图的节点,而引用关系构成这个有向图的边。从根对象(root object)出发,沿着有向边遍历对象,可达的(reachable)对象标记为活动对象,不可达的对象就是要被清除的非活动对象。根对象就是全局变量、调用栈、寄存器。 mark-sweepg 在上图中,我们把小黑圈视为全局变量,也就是把它作为 root object,从小黑圈出发,对象 1 可直达,那么它将被标记,对象 2、3 可间接到达也会被标记,而 4 和 5 不可达,那么 1、2、3 就是活动对象,4 和 5 是非活动对象会被 GC 回收。

标记清除算法作为 Python 的辅助垃圾收集技术主要处理的是一些容器对象,比如 list、dict、tuple,instance 等,因为对于字符串、数值对象是不可能造成循环引用问题。Python 使用一个双向链表将这些容器对象组织起来。不过,这种简单粗暴的标记清除算法也有明显的缺点:清除非活动的对象前它必须顺序扫描整个堆内存,哪怕只剩下小部分活动对象也要扫描所有对象。

扩展资料: Java 垃圾回收机制

参考资料

最佳回复
共收到 41 条回复 时间 点赞
匿名 · #2 · 2018年10月22日
仅楼主可见
Sutune · #3 · 2018年10月23日 Author
仅楼主可见

有价值的面试题

恐怖,问得这么细。。可以百度到的东西,何必

不错,虽然之前在 python 核心编程上有看到过,但没有讲的这么细致

作者面的这是哪家啊

古古阁 回复

国内 Top10 某视频网站。

文字 回复

可能为了检测面试人员内功是否深厚吧,可惜第一招就把我打趴下了。

Sutune #10 · 2018年10月23日 Author
Felix 回复

嗯,面试结束后赶紧回家找资料整理,希望以后大家不要被这个问题给坑到了。。

面试题很不错。

问的问题我基本答不上来。。。。所以后来我都不敢面测试开发类的岗位了

Sutune #13 · 2018年10月24日 Author
zyanycall 回复

嗯,有难有易,比较全面。

Sutune #14 · 2018年10月24日 Author
我去催饭 回复

平时多学习,厚积薄发。

感谢楼主总结

Sutune #16 · 2018年10月24日 Author
wtnhz 回复

不客气,愿每一个未来面试的不被此问题卡住。

Sutune 回复

现在加班压测接口 看到这个帖子,谢谢楼主分享

陈恒捷 将本帖设为了精华贴 10月25日 08:35

如果在开发中避免了把对象传引用给对象的变量,是不是就不用考虑垃圾回收的问题?🤔

仅楼主可见

看见问题,忍不住自己做了一下,不百度的情况下 ,基本上五五开(再说一遍,什么开?🙀 二分之一开😂

这个需要一个测试人员掌握吗?

Sutune 回复

第 4 个是 rm -rf 😆

SinDynasty 回复

你是不是看错题了

都是九年义务教育,你是在哪里补的课?

Sutune #26 · 2018年10月30日 Author
a2021 回复

分代回收就不用,但是需要更大的空间。

Sutune #27 · 2018年10月30日 Author

只能多看书恶补了。😅

Sutune #28 · 2018年10月30日 Author
jasom 回复

这个看是什么级别的测试,初级点点点,纯黑盒测试就完全不必要掌握这些。

Sutune #29 · 2018年10月30日 Author
SinDynasty 回复

难道你就是传说中的从删库到跑路的切格瓦拉😅

Sutune #30 · 2018年10月30日 Author
gaomengsuijia 回复

多面试几次被虐了就懂了。。

Sutune 回复

不,我是让他从删库到跑路的幕后黑手😆

匿名 #32 · 2018年11月06日

几年经验?

收藏先,回去慢慢研究~

很不错,表示感同身受,有次面试,直接问到了具体的好几个库的底层原理,直接懵逼了

Sutune #35 · 2018年11月08日 Author

4 年

看得我差点自己就被回收了,一半不懂,没怎么做过 app 相关的(其实没做个 APP 端的)

Sutune #37 · 2018年11月13日 Author

Python 垃圾回收和我们常规测试工作相关性较少,需要工作之余自己深入研究。

招个测试要求和 CTO 差不多,各种被问~~ 语言、项目流程、自动化、linux、docker、性能,😞

Sutune #39 · 2018年11月19日 Author
魑魅魍魉 回复

现在面试要求越来越高。

ivy520 [该话题已被删除] 中提及了此贴 12月16日 22:55
ivy520 [该话题已被删除] 中提及了此贴 12月16日 23:53
zengzhijun [该话题已被删除] 中提及了此贴 12月21日 09:52
安涛 [该话题已被删除] 中提及了此贴 12月21日 16:29
simple [精彩盘点] TesterHome 社区 2018 年 度精华帖 中提及了此贴 01月07日 14:31

基本同 java 的机制,触发时机没 java 多,故而感知不是很强,再进而 python 虚拟抽象程度没 java 高,在处理大批量数据对象生成时,gc 反而更徒劳

sys.getrefcount(c) 获取的引用次数是从几开始的呢?怎 么初始化个变量有时是 4,有时是 2,有时又是其他值

def f3():
    '''循环引用'''
    while True:
        c1=A()
        c2=A()
        c1.t=c2
        c2.t=c1
        del c1
        del c2
        #增加垃圾回收机制
        print(gc.garbage)
        print(gc.collect())
        print(gc.garbage)
        time.sleep(10)

为啥我执行 print(gc.collect()) 时没有打印出 gc 相关的信息,直接是 []?py38,win10 2020h2

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册