Chinaunix首页 | 论坛 | 博客
  • 博客访问: 782085
  • 博文数量: 253
  • 博客积分: 6891
  • 博客等级: 准将
  • 技术积分: 2502
  • 用 户 组: 普通用户
  • 注册时间: 2010-11-03 11:01
文章分类

全部博文(253)

文章存档

2016年(4)

2013年(3)

2012年(32)

2011年(184)

2010年(30)

分类: Python/Ruby

2012-02-27 09:42:42

如果希望透明地存储 Python 对象,而不丢失其身份和类型等信息,则需要某种形式的对象序列化:它是一个将任意复杂的对象转成对象的文本或二进制表示的过程。同样,必须能够将对象经过 序列化后的形式恢复到原有的对象。在 Python 中,这种序列化过程称为 pickle,可以将对象 pickle 成字符串、磁盘上的文件或者任何类似于文件的对象,也可以将这些字符串、文件或任何类似于文件的对象 unpickle 成原来的对象。我们将在本文后面详细讨论 pickle。

假定您喜欢将任何事物都保存成对象,而且希望避免将对象转换成某种基于非对象存储的开销;那么 pickle 文件可以提供这些好处,但有时可能需要比这种简单的 pickle 文件更健壮以及更具有可伸缩性的事物。例如,只用 pickle 不能解决命名和查找 pickle 文件这样的问题,另外,它也不能支持并发地访问持久性对象。如果需要这些方面的功能,则要求助类似于 ZODB(针对 Python 的 Z 对象数据库)这类数据库。ZODB 是一个健壮的、多用户的和面向对象的数据库系统,它能够存储和管理任意复杂的 Python 对象,并支持事务操作和并发控制。(请参阅 参考资料,以下载 ZODB。)令人足够感兴趣的是,甚至 ZODB 也依靠 Python 的本机序列化能力,而且要有效地使用 ZODB,必须充分了解 pickle。

另一种令人感兴趣的解决持久性问题的方法是 Prevayler,它最初是用 Java 实现的(有关 Prevaylor 方面的 developerWorks 文章,请参阅 参考资料)。最近,一群 Python 程序员将 Prevayler 移植到了 Python 上,另起名为 PyPerSyst,由 SourceForge 托管(有关至 PyPerSyst 项目的链接,请参阅 参考资料)。 Prevayler/PyPerSyst 概念也是建立在 Java 和 Python 语言的本机序列化能力之上。PyPerSyst 将整个对象系统保存在内存中,并通过不时地将系统快照 pickle 到磁盘以及维护一个命令日志(通过此日志可以重新应用最新的快照)来提供灾难恢复。所以,尽管使用 PyPerSyst 的应用程序受到可用内存的限制,但好处是本机对象系统可以完全装入到内存中,因而速度极快,而且实现起来要比如 ZODB 这样的数据库简单,ZODB 允许对象的数目比同时在能内存中所保持的对象要多。

既 然我们已经简要讨论了存储持久对象的各种方法,那么现在该详细探讨 pickle 过程了。虽然我们主要感兴趣的是探索以各种方式来保存 Python 对象,而不必将其转换成某种其它格式,但我们仍然还有一些需要关注的地方,譬如:如何有效地 pickle 和 unpickle 简单对象以及复杂对象,包括定制类的实例;如何维护对象的引用,包括循环引用和递归引用;以及如何处理类定义发生的变化,从而使用以前经过 pickle 的实例时不会发生问题。我们将在随后关于 Python 的 pickle 能力探讨中涉及所有这些问题。


pickle 模块及其同类模块 cPickle 向 Python 提供了 pickle 支持。后者是用 C 编码的,它具有更好的性能,对于大多数应用程序,推荐使用该模块。我们将继续讨论 pickle ,但本文的示例实际是利用了 cPickle 。由于其中大多数示例要用 Python shell 来显示,所以先展示一下如何导入 cPickle ,并可以作为 pickle 来引用它:

>>> import cPickle as pickle

现在已经导入了该模块,接下来让我们看一下 pickle 接口。 pickle 模块提供了以下函数对: dumps(object) 返回一个字符串,它包含一个 pickle 格式的对象; loads(string) 返回包含在 pickle 字符串中的对象; dump(object, file) 将对象写到文件,这个文件可以是实际的物理文件,但也可以是任何类似于文件的对象,这个对象具有 write() 方法,可以接受单个的字符串参数; load(file) 返回包含在 pickle 文件中的对象。

缺省情况下, dumps() 和 dump() 使用可打印的 ASCII 表示来创建 pickle。两者都有一个 final 参数(可选),如果为 True ,则该参数指定用更快以及更小的二进制表示来创建 pickle。 loads() 和 load() 函数自动检测 pickle 是二进制格式还是文本格式。

清单 1 显示了一个交互式会话,这里使用了刚才所描述的 dumps() 和 loads() 函数:

  1. >>> import cPickle as pickle
  2. >>> t1 = ('this is a string', 42, [1, 2, 3], None)
  3. >>> t1
  4. ('this is a string', 42, [1, 2, 3], None)
  5. >>> p1 = pickle.dumps(t1)
  6. >>> p1
  7. "(S'this is a string'\nI42\n(lp1\nI1\naI2\naI3\naNtp2\n."
  8. >>> print p1
  9. (S'this is a string'
  10. I42
  11. (lp1
  12. I1
  13. aI2
  14. aI3
  15. aNtp2
  16. .
  17. >>> t2 = pickle.loads(p1)
  18. >>> t2
  19. ('this is a string', 42, [1, 2, 3], None)
  20. >>> p2 = pickle.dumps(t1, True)
  21. >>> p2
  22. '(U\x10this is a stringK*]q\x01(K\x01K\x02K\x03eNtq\x02.'
  23. >>> t3 = pickle.loads(p2)
  24. >>> t3
  25. ('this is a string', 42, [1, 2, 3], None)

注:该文本 pickle 格式很简单,这里就不解释了。事实上,在 pickle 模块中记录了所有使用的约定。我们还应该指出,在我们的示例中使用的都是简单对象,因此使用二进制 pickle 格式不会在节省空间上显示出太大的效率。然而,在实际使用复杂对象的系统中,您会看到,使用二进制格式可以在大小和速度方面带来显著的改进。

接下来,我们看一些示例,这些示例用到了 dump() 和 load() ,它们使用文件和类似文件的对象。这些函数的操作非常类似于我们刚才所看到的 dumps() 和 loads() ,区别在于它们还有另一种能力 — dump() 函数能一个接着一个地将几个对象转储到同一个文件。随后调用 load() 来以同样的顺序检索这些对象。清单 2 显示了这种能力的实际应用
  1. >>> a1 = 'apple'
  2. >>> b1 = {1: 'One', 2: 'Two', 3: 'Three'}
  3. >>> c1 = ['fee', 'fie', 'foe', 'fum']
  4. >>> f1 = file('temp.pkl', 'wb')
  5. >>> pickle.dump(a1, f1, True)
  6. >>> pickle.dump(b1, f1, True)
  7. >>> pickle.dump(c1, f1, True)
  8. >>> f1.close()
  9. >>> f2 = file('temp.pkl', 'rb')
  10. >>> a2 = pickle.load(f2)
  11. >>> a2
  12. 'apple'
  13. >>> b2 = pickle.load(f2)
  14. >>> b2
  15. {1: 'One', 2: 'Two', 3: 'Three'}
  16. >>> c2 = pickle.load(f2)
  17. >>> c2
  18. ['fee', 'fie', 'foe', 'fum']
  19. >>> f2.close()
更复杂的用法

http://longmans1985.blog.163.com/blog/static/706054752009412105226942/




阅读(3059) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~