4.5. contextlib — 上下文管理器工具 | 算法 |《python 3 标准库实例教程》| python 技术论坛-380玩彩网官网入口
本节目标: 创建和使用基于上下文管理器的工具
contextlib 模块包含了可使用 with 语句的上下文管理工具，一起了解一下。
上下文管理器 api
上下文管理器 就是一个给包含在其中代码块提供资源的对象，在进入块时创建一些资源，在退出块后清理掉。举个例子，文件操作就支持上下文管理器 api，使用这种方法就能保证在读完写完后总能关闭文件，并且写起来很简单。
contextlib_file.py
with open('/tmp/pymotw.txt', 'wt') as f:
f.write('contents go here')
# 运行到这文件就自动关闭了。
每个上下文管理器都允许使用 with 语句来执行，在写的时候也要包含两个必须的方法。 __enter__() 方法是 with 进入代码时所执行的方法，一般要返回一个对象以让处在代码块中的代码使用。 离开 with 代码块后，上下文管理器中的 __exit__() 方法就会被调用以清理一些用过的资源。
contextlib_api.py
class context:
def __init__(self):
print('__init__()')
def __enter__(self):
print('__enter__()')
return self
def __exit__(self, exc_type, exc_val, exc_tb):
print('__exit__()')
with context():
print('doing work in the context')
结合 with 与上下文管理器可以书写非常紧凑舒服的 try:finally 代码块，因为上下文管理器中的 __exit__() 无论如何都一定会被执行，即使有异常抛出。
$ python3 contextlib_api.py
__init__()
__enter__()
doing work in the context
__exit__()
__enter__() 方法可以返回任意对象，它返回的任何对象都会被赋给 with 语句中的 as 所指向的变量。本例中可以看到 context 返回了一个在之后使用的对象。
contextlib_api_other_object.py
class withincontext:
def __init__(self, context):
print('withincontext.__init__({})'.format(context))
def do_something(self):
print('withincontext.do_something()')
def __del__(self):
print('withincontext.__del__')
class context:
def __init__(self):
print('context.__init__()')
def __enter__(self):
print('context.__enter__()')
return withincontext(self)
def __exit__(self, exc_type, exc_val, exc_tb):
print('context.__exit__()')
with context() as c:
c.do_something()
变量 c 就是 __enter__() 所返回的值，并不一定是 with 语句创建的 context 实例才可以使用上下文管理器，外部创建的实例同样可以使用 with 。
$ python3 contextlib_api_other_object.py
context.__init__()
context.__enter__()
withincontext.__init__(<__main__.context object at 0x101e9c080>)
withincontext.do_something()
context.__exit__()
withincontext.__del__
__exit__() 方法所接受的参数是任何在 with 代码块中产生的异常的详细信息。
contextlib_api_error.py
class context:
def __init__(self, handle_error):
print('__init__({})'.format(handle_error))
self.handle_error = handle_error
def __enter__(self):
print('__enter__()')
return self
def __exit__(self, exc_type, exc_val, exc_tb):
print('__exit__()')
print(' exc_type =', exc_type)
print(' exc_val =', exc_val)
print(' exc_tb =', exc_tb)
return self.handle_error
with context(true):
raise runtimeerror('error message handled')
print()
with context(false):
raise runtimeerror('error message propagated')
如果上下文管理器可以处理这个异常， __exit__() 应该返回 true 表示这个异常并没有造成麻烦，不必管它。如果返回的是 false，则该异常会在 __exit__() 执行后重新抛出。
$ python3 contextlib_api_error.py
__init__(true)
__enter__()
__exit__()
exc_type =
exc_val = error message handled
exc_tb =
__init__(false)
__enter__()
__exit__()
exc_type =
exc_val = error message propagated
exc_tb =
traceback (most recent call last):
file "contextlib_api_error.py", line 34, in
raise runtimeerror('error message propagated')
runtimeerror: error message propagated
函数装饰器方式的上下文管理器
contextdecorator 类可以让标准的上下文管理器类变成一个可以作为函数装饰器方式使用的上下文管理器。
contextlib_decorator.py
import contextlib
class context(contextlib.contextdecorator):
def __init__(self, how_used):
self.how_used = how_used
print('__init__({})'.format(how_used))
def __enter__(self):
print('__enter__({})'.format(self.how_used))
return self
def __exit__(self, exc_type, exc_val, exc_tb):
print('__exit__({})'.format(self.how_used))
@context('as decorator')
def func(message):
print(message)
print()
with context('as context manager'):
print('doing work in the context')
print()
func('doing work in the wrapped function')
把上下文管理器作为函数装饰器使用的不同之处在于 __enter__() 所返回的值无法在被装饰的函数中使用，不能像 with 和 as 一样。被装饰后的函数的参数仍像之前一样传递。
$ python3 contextlib_decorator.py
__init__(as decorator)
__init__(as context manager)
__enter__(as context manager)
doing work in the context
__exit__(as context manager)
__enter__(as decorator)
doing work in the wrapped function
__exit__(as decorator)
从生成器到上下文管理器
创建一个上下文管理器的传统方式是写一个类，然后写它的 __enter__() 和 __exit__() 方法，这并不难写，不过有时候把所有的东西都写全并没有必要。在这种情况下，可以使用 contextmanager() 装饰器将一个生成器函数变成一个上下文管理器。
contextlib_contextmanager.py
import contextlib
@contextlib.contextmanager
def make_context():
print(' entering')
try:
yield {}
except runtimeerror as err:
print(' error:', err)
finally:
print(' exiting')
print('normal:')
with make_context() as value:
print(' inside with statement:', value)
print('\nhandled error:')
with make_context() as value:
raise runtimeerror('showing example of handling an error')
print('\nunhandled error:')
with make_context() as value:
raise valueerror('this exception is not handled')
生成器应首先初始化上下文，确保只生成一次，最后应清理上下文内容。所生成的内容可以被 with 语句的 as 所赋值给一个变量。 with 语句中的异常也会在生成器内部重新被抛出，这样在我们就可以处理这个异常。
$ python3 contextlib_contextmanager.py
normal:
entering
inside with statement: {}
exiting
handled error:
entering
error: showing example of handling an error
exiting
unhandled error:
entering
exiting
traceback (most recent call last):
file "contextlib_contextmanager.py", line 33, in
raise valueerror('this exception is not handled')
valueerror: this exception is not handled
contextmanager() 所返回的上下文管理器继承自 contextdecorator， 所以同样可以作为函数装饰器来使用。
contextlib_contextmanager_decorator.py
import contextlib
@contextlib.contextmanager
def make_context():
print(' entering')
try:
# 通过 yield 控制，但无需返回值，因为作为装饰器
# 使用时，上下文管理器所返回的值并不会被使用到。
yield
except runtimeerror as err:
print(' error:', err)
finally:
print(' exiting')
@make_context()
def normal():
print(' inside with statement')
@make_context()
def throw_error(err):
raise err
print('normal:')
normal()
print('\nhandled error:')
throw_error(runtimeerror('showing example of handling an error'))
print('\nunhandled error:')
throw_error(valueerror('this exception is not handled'))
与上面 contextdecorator 的例子一样，上下文管理器作为装饰器使用时生成的值并不能被被装饰的函数所用。当然这种方式下本来的参数还是可以正常传递的，上面是以 throw_error() 为例演示的。
$ python3 contextlib_contextmanager_decorator.py
normal:
entering
inside with statement
exiting
handled error:
entering
error: showing example of handling an error
exiting
unhandled error:
entering
exiting
traceback (most recent call last):
file "contextlib_contextmanager_decorator.py", line 43, in
throw_error(valueerror('this exception is not handled'))
file ".../lib/python3.6/contextlib.py", line 52, in inner
return func(*args, **kwds)
file "contextlib_contextmanager_decorator.py", line 33, in
throw_error
raise err
valueerror: this exception is not handled
关闭打开的句柄
file 类直接支持上下文管理器 api，但一些其他有打开句柄的对象并不具备这个功能。contextlib 标准库文档中给了一个关闭从 urllib.urlopen() 返回的对象的例子。还有许多有 close() 方法但不支持上下文管理器 api 的类。为了确保句柄被关闭，可以使用 closing() 来给它创建一个上下文管理器。
contextlib_closing.py
import contextlib
class door:
def __init__(self):
print(' __init__()')
self.status = 'open'
def close(self):
print(' close()')
self.status = 'closed'
print('normal example:')
with contextlib.closing(door()) as door:
print(' inside with statement: {}'.format(door.status))
print(' outside with statement: {}'.format(door.status))
print('\nerror handling example:')
try:
with contextlib.closing(door()) as door:
print(' raising from inside with statement')
raise runtimeerror('error message')
except exception as err:
print(' had an error:', err)
这样，不管 with 代码块中会不会有错误抛出，句柄总会被关闭。
$ python3 contextlib_closing.py
normal example:
__init__()
inside with statement: open
close()
outside with statement: closed
error handling example:
__init__()
raising from inside with statement
close()
had an error: error message
忽略异常
我们经常需要忽略抛出的异常，因为这样的异常表示期望的状态已经达到了，或者它可以是被忽略的异常。常用的做法是写 try:except 语句然后在 except 里只写一句 pass。
contextlib_ignore_error.py
import contextlib
class nonfatalerror(exception):
pass
def non_idempotent_operation():
raise nonfatalerror(
'the operation failed because of existing state'
)
try:
print('trying non-idempotent operation')
non_idempotent_operation()
print('succeeded!')
except nonfatalerror:
pass
print('done')
比如这样，抛出异常然后被忽略。
$ python3 contextlib_ignore_error.py
trying non-idempotent operation
done
try:except 形式的忽略可以被 contextlib.suppress() 来代替以更加显式的处理发生在 with 代码块中的异常类。
contextlib_suppress.py
import contextlib
class nonfatalerror(exception):
pass
def non_idempotent_operation():
raise nonfatalerror(
'the operation failed because of existing state'
)
with contextlib.suppress(nonfatalerror):
print('trying non-idempotent operation')
non_idempotent_operation()
print('succeeded!')
print('done')
更新后的版本，异常也被完全丢弃了。
$ python3 contextlib_suppress.py
trying non-idempotent operation
done
重定向输出流
设计得不好的库代码中可能直接写了 sys.stdout 或 sys.stderr 这样的语句，没有提供参数来配置不同的输出路口。
redirect_stdout() 和 redirect_stderr() 上下文管理器可以用于捕获没有提供接受新的输出参数的函数中的输出。
contextlib_redirect.py
from contextlib import redirect_stdout, redirect_stderr
import io
import sys
def misbehaving_function(a):
sys.stdout.write('(stdout) a: {!r}\n'.format(a))
sys.stderr.write('(stderr) a: {!r}\n'.format(a))
capture = io.stringio()
with redirect_stdout(capture), redirect_stderr(capture):
misbehaving_function(5)
print(capture.getvalue())
本例中， misbehaving_function() 同时写了 stdout 和 stderr ，不过后面两个上下文管理器都使用了同一个 io.stringio 实例将其捕获用于之后的使用。
in this example, misbehaving_function() writes to both stdout and stderr, but the two context managers send that output to the same io.stringio instance where it is saved to be used later.
$ python3 contextlib_redirect.py
(stdout) a: 5
(stderr) a: 5
注意
redirect_stdout()和redirect_stderr()会通过替换 模块中的对象来修改全局的输出流，请小心使用。而且该函数不是线程安全的，可能会扰乱输出到终端上的其他操作的标准输出。
动态上下文管理器栈
大多数上下文管理器一次只会操作一个对象，比如单个文件或单个数据库句柄。这些情况中对象都是提前知道的，使用上下文管理器也都可以围绕这个对象展开。不过在另一些情况中，可能需要创建一个未知数量的上下文，同时希望控制流退出上下文时这些上下文管理器也全部执行清理功能。 exitstack 就是用来处理这些动态情况的。
exitstack 实例维护一个包含清理回调的栈。这些回调都会被放在上下文中，任何被注册的回调都会在控制流退出上下文时以倒序方式被调用。这有点像嵌套了多层的 with 语句，除了它们是被动态创建的。
上下文管理器栈
有几种填充 exitstack 的方式。本例使用 enter_context() 来将一个新的上下文管理器添加入栈。
contextlib_exitstack_enter_context.py
import contextlib
@contextlib.contextmanager
def make_context(i):
print('{} entering'.format(i))
yield {}
print('{} exiting'.format(i))
def variable_stack(n, msg):
with contextlib.exitstack() as stack:
for i in range(n):
stack.enter_context(make_context(i))
print(msg)
variable_stack(2, 'inside context')
enter_context() 首先会调用上下文管理器中的__enter__() 方法，然后把它的 __exit__() 注册为一个回调以便让栈调用。
$ python3 contextlib_exitstack_enter_context.py
0 entering
1 entering
inside context
1 exiting
0 exiting
exitstack 中的上下文管理器会像一系列嵌套的 with 一样。 任何发生在上下文中的错误都会交给上下文管理器的正常错误处理系统去处理。下面的上下文管理器类们可以说明传递方式。
contextlib_context_managers.py
import contextlib
class tracker:
"用于提醒上下文信息的基础类"
def __init__(self, i):
self.i = i
def msg(self, s):
print(' {}({}): {}'.format(
self.__class__.__name__, self.i, s))
def __enter__(self):
self.msg('entering')
class handleerror(tracker):
"处理任何接收到的异常."
def __exit__(self, *exc_details):
received_exc = exc_details[1] is not none
if received_exc:
self.msg('handling exception {!r}'.format(
exc_details[1]))
self.msg('exiting {}'.format(received_exc))
# 返回布尔类型的值代表是否已经处理了该异常。
return received_exc
class passerror(tracker):
"传递任何接收到的异常。"
def __exit__(self, *exc_details):
received_exc = exc_details[1] is not none
if received_exc:
self.msg('passing exception {!r}'.format(
exc_details[1]))
self.msg('exiting')
# 返回false，表示没有处理这个异常。
return false
class erroronexit(tracker):
"抛出个异常"
def __exit__(self, *exc_details):
self.msg('throwing error')
raise runtimeerror('from {}'.format(self.i))
class erroronenter(tracker):
"抛出个异常."
def __enter__(self):
self.msg('throwing error on enter')
raise runtimeerror('from {}'.format(self.i))
def __exit__(self, *exc_info):
self.msg('exiting')
例子中的类会被包含在 variable_stack() 中使用（见上面的代码），variable_stack() 把上下文管理器放到 exitstack 中使用，逐一建立起上下文。下面的例子我们将传递不同的上下文管理器来测试错误处理结果。首先我们测试无异常的常规情况。
print('no errors:')
variable_stack([
handleerror(1),
passerror(2),
])
之后，我们做一个在栈末的处理异常的例子，这样的话所有已经打开的上下文管理器会随着栈的释放而关闭。
print('\nerror at the end of the context stack:')
variable_stack([
handleerror(1),
handleerror(2),
erroronexit(3),
])
接着，我们做一个在栈中间处理异常的例子，这时我们会看到发生错误时某些上下文已经关闭，所以那些上下文不会受到这个异常的影响。
print('\nerror in the middle of the context stack:')
variable_stack([
handleerror(1),
passerror(2),
erroronexit(3),
handleerror(4),
])
最后，放一个不处理的异常，然后传到上层调用它的代码中。
try:
print('\nerror ignored:')
variable_stack([
passerror(1),
erroronexit(2),
])
except runtimeerror:
print('error handled outside of context')
我们可以看到，如果栈中的任何一个上下文管理器接收到这个异常然后返回了一个 true 的话，这个异常就会就此消失，不会再进行传播，否则就会一直传递下去。
$ python3 contextlib_exitstack_enter_context_errors.py
no errors:
handleerror(1): entering
passerror(2): entering
passerror(2): exiting
handleerror(1): exiting false
outside of stack, any errors were handled
error at the end of the context stack:
handleerror(1): entering
handleerror(2): entering
erroronexit(3): entering
erroronexit(3): throwing error
handleerror(2): handling exception runtimeerror('from 3',)
handleerror(2): exiting true
handleerror(1): exiting false
outside of stack, any errors were handled
error in the middle of the context stack:
handleerror(1): entering
passerror(2): entering
erroronexit(3): entering
handleerror(4): entering
handleerror(4): exiting false
erroronexit(3): throwing error
passerror(2): passing exception runtimeerror('from 3',)
passerror(2): exiting
handleerror(1): handling exception runtimeerror('from 3',)
handleerror(1): exiting true
outside of stack, any errors were handled
error ignored:
passerror(1): entering
erroronexit(2): entering
erroronexit(2): throwing error
passerror(1): passing exception runtimeerror('from 2',)
passerror(1): exiting
error handled outside of context
任意上下文回调
exitstack 也支持关闭上下文时有其他回调，使用这种方法无需经由上下文管理器控制，可以更方便得清理资源。
contextlib_exitstack_callbacks.py
import contextlib
def callback(*args, **kwds):
print('closing callback({}, {})'.format(args, kwds))
with contextlib.exitstack() as stack:
stack.callback(callback, 'arg1', 'arg2')
stack.callback(callback, arg3='val3')
相当于所有上下文管理器的 __exit__()，这些回调的调用顺序也是倒序的。
$ python3 contextlib_exitstack_callbacks.py
closing callback((), {'arg3': 'val3'})
closing callback(('arg1', 'arg2'), {})
不管有没有错误发生，这些回调总会被调用，同时也不会对是否发生了错误有任何信息。最后这些回调的返回值也不会有任何作用。
contextlib_exitstack_callbacks_error.py
import contextlib
def callback(*args, **kwds):
print('closing callback({}, {})'.format(args, kwds))
try:
with contextlib.exitstack() as stack:
stack.callback(callback, 'arg1', 'arg2')
stack.callback(callback, arg3='val3')
raise runtimeerror('thrown error')
except runtimeerror as err:
print('error: {}'.format(err))
也正因为这些回调无法访问到错误，所以也就无法通过在上下文管理器栈中传递错误来忽略它。
$ python3 contextlib_exitstack_callbacks_error.py
closing callback((), {'arg3': 'val3'})
closing callback(('arg1', 'arg2'), {})
error: thrown error
这样的回调提供了一种便捷的方式定义清理逻辑而无需创建一个多余的新的上下文管理器类。为了提高可读性，具体逻辑也可以写在内联函数中，callback() 也可以作为装饰器使用。
contextlib_exitstack_callbacks_decorator.py
import contextlib
with contextlib.exitstack() as stack:
@stack.callback
def inline_cleanup():
print('inline_cleanup()')
print('local_resource = {!r}'.format(local_resource))
local_resource = 'resource created in context'
print('within the context')
把callback() 作为装饰器使用时无法给被注册的函数指定参数。不过，如果清理函数作为内联定义，作用域规则也给了它访问调用它的代码中变量的权力。
$ python3 contextlib_exitstack_callbacks_decorator.py
within the context
inline_cleanup()
local_resource = 'resource created in context'
局部栈
有时我们需要创建一个复杂的上下文时，如果上下文无法完全构造出来，使用局部栈可以有效打断某一操作。不过如果设置正确的话，一段时间之后也会清理其中所有的资源。举个例子，在单个上下文中，如果某一操作需要多个长时间存活的网络连接，其中某一连接失效时，最好的情况是不进行这个操作。但如果所有连接都正确打开，那也需要它保持正常操作。 exitstack 中的 pop_all() 则适用于这种情况。
pop_all() 会在被调用时清理栈中所有的上下文管理器和回调，并返回一个包含与之前的栈相同内容的新栈。 原栈完成操作后，可以新栈的 close() 方法清理所有资源。
contextlib_exitstack_pop_all.py
import contextlib
from contextlib_context_managers import *
def variable_stack(contexts):
with contextlib.exitstack() as stack:
for c in contexts:
stack.enter_context(c)
# 返回新栈的 close() 方法作为清理函数使用。
return stack.pop_all().close
# 直接返回none，表示 exitstack 没有完成干净的初始化
# 它的清理过程已经发生。
return none
print('no errors:')
cleaner = variable_stack([
handleerror(1),
handleerror(2),
])
cleaner()
print('\nhandled error building context manager stack:')
try:
cleaner = variable_stack([
handleerror(1),
erroronenter(2),
])
except runtimeerror as err:
print('caught error {}'.format(err))
else:
if cleaner is not none:
cleaner()
else:
print('no cleaner returned')
print('\nunhandled error building context manager stack:')
try:
cleaner = variable_stack([
passerror(1),
erroronenter(2),
])
except runtimeerror as err:
print('caught error {}'.format(err))
else:
if cleaner is not none:
cleaner()
else:
print('no cleaner returned')
继续使用之前定义好的上下文管理器类，不一样的是 erroronenter 会在 __enter__() 产生错误而不是在 __exit__() 中。 variable_stack() 内部的逻辑是如果所有的上下文都成功进入且无错误产生，则会返回新exitstack 的 close() 方法。如果处理了一个错误，则返回 none 指代清理工作已经完成了。如果发生错误但并未处理，则清理局部栈，之后错误会继续传递。
$ python3 contextlib_exitstack_pop_all.py
no errors:
handleerror(1): entering
handleerror(2): entering
handleerror(2): exiting false
handleerror(1): exiting false
handled error building context manager stack:
handleerror(1): entering
erroronenter(2): throwing error on enter
handleerror(1): handling exception runtimeerror('from 2',)
handleerror(1): exiting true
no cleaner returned
unhandled error building context manager stack:
passerror(1): entering
erroronenter(2): throwing error on enter
passerror(1): passing exception runtimeerror('from 2',)
passerror(1): exiting
caught error from 2
参阅
- --
with语句参考- -- 上下文管理器 api 标准库文档参考
- -- 上下文管理器 api 指南
- -- 使用
exitstack编写安全代码 -- barry warsaw.
本译文仅用于学习和交流目的，转载请务必注明文章译者、出处、和本文链接
我们的翻译工作遵照 cc 协议，如果我们的工作有侵犯到您的权益，请及时联系380玩彩网官网入口。
