1. Leveldb在写数据时,采用先写日志,后写实际的用户数据KV。写日志采用了fdatasync方式写。
writeoption.sync= true保证了数据每次写操作都采用同步的方式,必须写完再返回,这样速度很慢,却确保了系统的整体的可靠性。
虽然确保了系统的可靠性,但极大地损失了性能,无法满足线上的需求。
最后采用writeoption.sync=false的方式保证机器如果不重启,就不会丢配置。
Leveldb写日志方式为:1. 写日志 2. fflush将用户态的数据推入内核态。3. 写内存中的数据。
恢复日志方式:从日志内容中恢复数据(由于写日志时调用fflush推给了内核态,所以即使程序崩溃,仍然可以读取到,而且速度很快),并恢复到memtable中。
所以我们在线上运行过程中如果调用KV写入方法成功了,说明日志内容已经fflush到了内核层,但由于数据是异步刷新到硬盘上,所以如果这个时候重启,那么数据就会丢失,但如果只是程序崩溃,是不会丢数据的。
2. ext4文件系统。data=journal 重要的数据写入到了日志区,并且在空闲时刻,将数据第二次从日志区读出,并写入到相应位置。这样做会影响系统的效率与性能。
默认系统只会写metadata到journal区域,但是如果用户开启了data=journal,那么用户的数据也会写入到journal区,保证系统crash consistency。
阅读(4943) | 评论(0) | 转发(1) |