Chinaunix首页 | 论坛 | 博客
  • 博客访问: 6318360
  • 博文数量: 2759
  • 博客积分: 1021
  • 博客等级: 中士
  • 技术积分: 4091
  • 用 户 组: 普通用户
  • 注册时间: 2012-03-11 14:14
文章分类

全部博文(2759)

文章存档

2019年(1)

2017年(84)

2016年(196)

2015年(204)

2014年(636)

2013年(1176)

2012年(463)

分类: 服务器与存储

2017-07-25 05:24:56

原文地址:存储系统可靠性分析 作者:shenyanxxxy

1. Leveldb在写数据时,采用先写日志,后写实际的用户数据KV。写日志采用了fdatasync方式写。
writeoption.sync= true保证了数据每次写操作都采用同步的方式,必须写完再返回,这样速度很慢,却确保了系统的整体的可靠性。
虽然确保了系统的可靠性,但极大地损失了性能,无法满足线上的需求。
最后采用writeoption.sync=false的方式保证机器如果不重启,就不会丢配置。
Leveldb写日志方式为:1. 写日志 2. fflush将用户态的数据推入内核态。3. 写内存中的数据。
恢复日志方式:从日志内容中恢复数据(由于写日志时调用fflush推给了内核态,所以即使程序崩溃,仍然可以读取到,而且速度很快),并恢复到memtable中。

所以我们在线上运行过程中如果调用KV写入方法成功了,说明日志内容已经fflush到了内核层,但由于数据是异步刷新到硬盘上,所以如果这个时候重启,那么数据就会丢失,但如果只是程序崩溃,是不会丢数据的。
2.  ext4文件系统。data=journal  重要的数据写入到了日志区,并且在空闲时刻,将数据第二次从日志区读出,并写入到相应位置。这样做会影响系统的效率与性能。
    默认系统只会写metadata到journal区域,但是如果用户开启了data=journal,那么用户的数据也会写入到journal区,保证系统crash consistency。
阅读(1052) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~